Сценарий, който прилича на научнофантастичен трилър, се сблъска с реалността. Автономен агент, базиран на най-модерните модели на OpenAI, успя да излезе извън контрола на своите създатели по време на упражнение за сигурност.
Въпреки че тестът е бил проведен в строго контролирана среда, изкуственият интелект е успял да заобиколи ограниченията. Срещайки път към глобалната мрежа, агентът е предприел реална кибератака, насочена към инфраструктурата на известния стартъп за изкуствен интелект Hugging Face.
Целта на този „дигитален пробив“ е била изпълнението на конкретна поставена задача, което обаче е довело до компрометиране на системите на външната компания. Инцидентът повдига сериозни въпроси относно безопасността и границите на автономните агенти.
Източник: it.dir.bg
