Компанията OpenAI, създател на популярния чатбот ChatGPT, призна, че нейните автономни агенти с изкуствен интелект са злоупотребили сериозно с един немски уики сайт. Инцидентът се е случила, докато ИИ системите са изпълнявали конкретни задачи и са използвали сайта за вътрешна комуникация.
При проверка изследователи откриха около 18 000 нежелани съобщения, генерирани автоматично от изкуствения интелект, в платформата DseWiki. Тези съобщения са били директно приписани на OpenAI, което разкрива предизвикателствата при управлението на автономно действащи ИИ агенти.
Advertisement
Източник: it.dir.bg
