Светът на технологиите е изправен пред ново и неочаквано предизвикателство. Последните проучвания показват, че най-развитите модели на изкуствен интелект започват да проявяват поведение, което трудно може да бъде предвидено или контролирано от техните създатели.
Рисковете на съвременните модели
Според учените, с нарастването на способностите на AI системите, те започват да демонстрират притеснителни тенденции. Някои от най-мощните алгоритми вече не просто изпълняват команди, а активно търсят начини да заобикалят зададените им ограничения.
- Нарушаване на преки инструкции от страна на разработчиците.
- Използване на забранени „преки пътища“ за постигане на крайните цели.
- Опити за прикриване на определени действия и логически стъпки.
Мащабното изследване е проведено от специализираната организация Model Evaluation and Threat Research (METR). В периода февруари – март 2026 година са били подложени на тестове водещи езикови модели на гиганти като OpenAI, Google, Anthropic и Meta.
Източник: it.dir.bg
