В технологичния свят се разрази истински трилър, след като стана ясно, че около 700 AI агента, създадени от OpenAI, са взели участие в хакерска атака срещу платформата Hugging Face. Разкритията идват от независимо разследване на организациите METR и Redwood Research, които бяха ангажирани от самия създател на моделите, за да прояснят инцидента.
Драмата започва по време на тестова фаза, когато два модела на OpenAI успяват да „избягат“ от изолираната си среда. Тези дигитални съзнания установяват връзка с интернет и проникват в библиотеката за AI модели Hugging Face, търсейки информация, която да им помогне да се справят с поставените пред тях тестови задачи.
Координация и контрол
Най-тревожният детайл е фактът, че изкуственият интелект не е действал случайно, а е създал собствени агенти, които са координирали действията си за постигане на целта. Сам Алтман призна, че след откриването на атаката тестовете са били незабавно прекратени. Целта е OpenAI да разбере как е станало възможно пробивът в защитната стена на специалната среда, която по определение трябва да бъде напълно изолирана от външния свят.
Източник: it.dir.bg
