Почему одну кремниевую пластину оставляют целой
Обычно пластину кремния после изготовления разрезают на отдельные кристаллы: их проще проверять, охлаждать и устанавливать в корпус. Cerebras пошла другим путём и строит процессор на масштабе всей пластины. Это позволяет разместить рядом множество вычислительных ядер — небольших блоков, которые выполняют операции, — и соединить их сетью прямо на кремнии.
Данные остаются рядом с вычислениями
В обычном сервере большие задачи распределены между отдельными процессорами и памятью. Данные приходится передавать между ними по электрическим соединениям на платах и через кабели. Каждый такой переход добавляет задержку и расходует энергию; обмен данными может стать узким местом даже тогда, когда сами вычислительные блоки способны работать быстрее.
В процессоре на пластине соседние ядра обмениваются данными по встроенной сети. Путь получается короче, чем между отдельными чипами в сервере, поэтому можно быстрее передавать промежуточные результаты и координировать множество операций. Это особенно важно для задач, где модель или расчёт разбиты на части и ядрам нужно часто обмениваться данными.
Цена необычного масштаба
Целая пластина — не просто увеличенный обычный чип. Чем больше область микросхемы, тем труднее изготовить её без дефектов, а большая концентрация вычислений усложняет отвод тепла. Поэтому архитектуру приходится проектировать так, чтобы отдельные неисправные участки не обязательно делали бесполезным всё устройство, а охлаждение справлялось с высокой нагрузкой.
Главное преимущество здесь — не только число ядер, а возможность держать их в одной связанной системе. Вместо того чтобы постоянно пересылать данные между множеством самостоятельных чипов, вычисления могут происходить в пределах одного большого кремниевого полотна.
