Первой технологией компании, которую можно потрогать, стал не новый гаджет для взаимодействия с ИИ (над ним сейчас трудится Джонни Айв), а микросхема. Чип для работы LLM, он должен заменить видеокарты NVIDIA, OpenAI спроектировала вместе с Broadcom.
Чип называется Jalapeño («Халапеньо»), и он нужен не для обучения LLM, а для обработки запросов пользователей и ответа на них. В пресс-релизе сказано, что на тестах «перчик» показал результаты лучше актуального железа: по производительности, энергоэффективности и использованию памяти и трафика. Правда, видеоигры на нём не запустить — этот чип сгодится только для LLM. Но кто-то ожидал другого?
У Google, Amazon и других пионеров нейродвижа есть собственные разработки чипов для LLM, поэтому тут ничего нового не случилось. Что должно впечатлить, так это сроки разработки — 9 месяцев, и всё благодаря использованию нейросетей. Дадут ли премию за такую разработку инженерам Open AI — узнаем, когда (и если) чипы начнут массово производить и внедрять в ЦОДы.
