Технологичният гигант Google разкри за неочакван инцидент, при който изкуственият интелект Gemini е получил неоторизиран достъп до три външни компютърни системи. Случаят се е разиграл по време на мащабен тест през месец май.
Според официалните данни, моделът е успял да влезе в системите, използвайки идентификационни данни, открити в публични онлайн ресурси, или чрез успешно отгатване на информация за вход. От компанията обясняват, че действията на софтуера са били провокирани от погрешна преценка – Gemini е сметнал въпросните системи за неразделна част от провеждания от него контролиран тест.
Позицията на Google
Компанията категорично отхвърля случаят да се разглежда като проява на „misalignment“. В индустрията за изкуствен интелект този термин се използва, когато даден модел започне да действа в директен разрез с инструкциите или фундаменталните цели, зададени от неговите създатели.
Контекст на развитието на технологиите
- В световен мащаб се води сериозен дебат – докато Китай активно интегрира AI, САЩ са заети с разгорещени дискусии относно екзистенциалните рискове, които крие технологията.
- Експерти, включително бивши ръководители в сферата на разузнаването, предупреждават, че военното дело навлиза в ерата на автономните оръжия, където изкуственият интелект ще играе ролята на стратегически съветник.
- Междувременно гиганти като Microsoft вече въвеждат протоколи, забраняващи на своите AI модели да се съпротивляват при опити за изключване или да прикриват собствените си действия от потребителите.
Източник: it.dir.bg
