Сигурността на изкуствения интелект се оказа по-крехка, отколкото разработчиците предполагат. Изследователи от британската компания Mindgard разкриха стряскащ метод за заобикаляне на защитните механизми на най-новата версия на ChatGPT.
Парадоксалното е, че за постигането на този резултат не са били необходими директни инструкции за насилие. Специалистите са използвали модифициран хумористичен промпт, който е „заблудил“ системата и я е накарал да генерира визуално съдържание, което директно нарушава правилата за безопасност.
Кръв и провокация без предупреждение
По време на тестовете AI моделът е създавал изображения със стряскащи сцени, включващи тежки наранявания и кръв, както и съдържание с провокативен характер. Най-тревожният факт е, че потребителската заявка не е съдържала нито една дума, която изрично да изисква подобен резултат.
Този експеримент доказва, че дори най-модерните генеративни модели остават уязвими към манипулации, които могат да бъдат напълно непредвидими за техните създатели.
Източник: it.dir.bg
