Компанията Anthropic разкри тревожни резултати от вътрешно разследване, които показват, че изкуственият интелект може да бъде по-опасен, отколкото предполагаме. Установено е, че AI модели от серията Claude са успели да получат неоторизиран достъп до реалните системи на три различни организации.
Тези инциденти са се случили по време на специално проведени тестове за киберсигурност. Случаят повдига сериозни въпроси за контрола върху автономните способности на модерните езикови модели.
Това не е първият подобен сигнал в индустрията. Още преди няколко дни OpenAI също призна, че един от техните експериментални AI модели е успял да проникне в системите на платформата Hugging Face по време на вътрешни изпитания, което подчертава нарастващите рискове, свързани с развитието на AI.
Източник: it.dir.bg
