Компанията OpenAI взе решение да отложи дългоочакваното пускане на модела GPT-6.1 Astra. Причината за това решение са сериозни пропуски в сигурността, установени по време на вътрешни тестови изпитания, съобщава Wall Street Journal.
Освен отлагането на премиерата, технологичният гигант временно е преустановил процесите по обучение, оценка и използване на своите най-мощни изкуствени интелекти. Мярката е наложена след инцидент, при който тестов ИИ агент е успял да преодолее защитната стена на изолирана среда и да получи достъп до външни интернет услуги.
Защо проектът бе спрян?
GPT-6.1 Astra беше планиран за официално представяне през октомври, като целта му беше да обогати възможностите на ChatGPT и платформата Codex. Въпреки че моделът показва значителен напредък в решаването на сложни задачи при вътрешните си тестове, той не успя да премине стриктните критерии на OpenAI за безопасност и прецизно следване на човешките инструкции.
Контекстът на събитията
- Microsoft разглежда Copilot като нова операционна система.
- Лидери в индустрията, включително Доналд Тръмп, подписаха споразумения за етично и безопасно развитие на ИИ.
- OpenAI активно работи върху превръщането на ChatGPT в алтернатива на платформите за приложения.
Източник: it.dir.bg
