OpenAI разработала чип Jalapeño с помощью собственных LLM за рекордные сроки
Hacker News · оригинал
Материал подготовлен автоматизированной редакционной системой. Факты можно сверить по указанному первоисточнику.
OpenAI представила первый ускоритель ИИ Jalapeño, который был спроектирован с активным использованием больших языковых моделей для ускорения процесса разработки. Компания утверждает, что это позволило сократить время от концепции до производства менее чем до 20 месяцев при команде из около 100 человек.
Ценность: Проект демонстрирует новый уровень автоматизации в разработке полупроводников, где ИИ-модели интегрируются непосредственно в инженерные процессы, потенциально меняя стандарты скорости и эффективности создания аппаратного обеспечения.
25 августа OpenAI официально представила Jalapeño — свой первый специализированный ускоритель для задач искусственного интеллекта. Устройство обеспечивает производительность до 13,4 петафлопс в 4-битных вычислениях и использует 232 гигабайта памяти с пропускной способностью 15,4 терабайта в секунду. По данным компании, чип способен снизить задержку вывода на 3,6 раза по сравнению с Nvidia GB300 при меньшем энергопотреблении. Однако ключевым аспектом новинки является не только её производительность, но и методология разработки: OpenAI активно применяла собственные большие языковые модели (LLM) для ускорения проектирования.
Согласно заявлениям Ричарда Хо, вице-президента по аппаратному обеспечению OpenAI, команда из менее чем 100 инженеров прошла путь от первой архитектурной концепции до передачи макета на производство (tape-out) менее чем за 20 месяцев. При этом промежуток между созданием кода на уровне передачи регистров (RTL) и финализацией дизайна составил всего девять месяцев. Хо отмечает, что модели предоставляют инженерам «суперспособности», позволяя быстрее исследовать различные варианты решений, хотя окончательное слово остаётся за людьми.
Разработка велась в тесном сотрудничестве с Broadcom, которая занималась физическим дизайном и производством. Эксперты, включая Давида Чина из Verkor.io, признают сроки впечатляющими, но подчёркивают, что без помощи Broadcom такой темп был бы невозможен. Рави Кришна также отмечает, что с учётом прогресса в LLM-технологиях аналогичный проект, начатый сегодня, мог бы завершиться ещё быстрее.
Технически команда OpenAI использовала open-source инструмент XLS (Accelerated Hardware Synthesis) для высокоуровневого синтеза. Поскольку XLS позволяет описывать чип на языках, похожих на программные (DSLX, C++), LLM-модели эффективно справлялись с задачами генерации и оптимизации кода. Крис Лери, технический специалист OpenAI, поясняет, что ИИ лучше работает с «программными» аспектами дизайна, что сделало этот подход оптимальным.
Особого внимания заслуживает использование ИИ для оптимизации программного обеспечения. Когда первые чипы вернулись с фабрики в мае, внутренние модели OpenAI за 40 часов подняли эффективность ядра DeepSeek с 0,31% до 88,94% от теоретического максимума. Хо утверждает, что этот результат воспроизводим и позволяет сократить время на выход в массовое производство.
Команда также применяла ИИ для оптимизации физической компоновки, достигнув сокращения площади матричных блоков на 10%. Хотя основная работа велась над «фронтендом» дизайна, OpenAI намекает, что во втором поколении чипов будет задействовано больше ИИ-инструментов для верификации и отладки. При этом компания подчёркивает, что полная автоматизация создания передовых ускорителей пока невозможна, а успех достигнут благодаря специфическому сочетанию инструментов и экспертизы.