OpenAI направи първата голяма стъпка към хардуерна независимост, представяйки Jalapeño – своя първи собствен AI ускорител, създаден в партньорство с Broadcom. Резултатите от първите тестове са впечатляващи и показват, че компанията е намерила начин да оптимизира едно от най-големите предизвикателства пред изкуствения интелект: огромната консумация на енергия и скоростта на реакция.
При изпълнението на вече обучени модели (т.нар. инференс), Jalapeño демонстрира превъзходство над настоящите системи на Nvidia по два критични показателя – производителност на ват и латентност (времето за отговор). Това е стратегически успех за OpenAI, тъй като разходите за изчислителна мощ се превръщат в основна пречка пред масовото разпространение на сложните AI модели.
Как се представя Jalapeño в реални условия?
В рамките на публичния тест InferenceX, новият чип е бил изпитан с три масивни модела, като резултатите са следните:
- GPT-OSS 120B: Jalapeño предлага приблизително 1,9 пъти по-висока ефективност на киловат и 1,7 пъти по-ниско закъснение в сравнение с Nvidia GB200.
- DeepSeek R1 670B: Тук предимството е още по-осезаемо, с 1,7 пъти по-висока пикова производителност на ват и до 3,6 пъти по-ниска латентност спрямо Nvidia GB300.
- Kimi K2.5: При този гигант с около 1 трилион параметри, чипът на OpenAI е 1,5 пъти по-ефективен и 3,4 пъти по-бърз в reakцията.
Важно е да се отбележи, че OpenAI не твърди, че техният процесор е универсално по-мощен от решенията на Nvidia, а че е оптимизиран за конкретни AI натоварвания. Този подход позволява по-бърза работа и по-ниски разходи, което е от ключово значение за бъдещето на технологията.
Източник: it.dir.bg
