Гигантът Microsoft отправи сериозно предупреждение към бизнес сектора: съвременните системи с изкуствен интелект крият риск не само от външни киберзаплахи, но и от собствената си автономност. Компанията алармира, че AI агентите, макар и полезни, могат да застрашат сигурността, ако не бъдат правилно контролирани.
За да се справи с този проблем, технологичният лидер представи специализирани инструменти за киберсигурност. Тяхната основна цел е непрекъснато наблюдение върху поведението на автономните системи, като същевременно ограничават достъпа им до критична инфраструктура и поверителна информация.
Сигурността като приоритет
Ключов елемент в защитната стратегия на Microsoft е въвеждането на „Guardian Agents“. Тази функция е част от мащабната инициатива Project Perception, представена по-рано тази година. Системата работи чрез сътрудничество между три специализирани AI екипа:
- „Червен екип“: симулира реалистични хакерски атаки срещу AI моделите.
- „Син екип“: идентифицира пропуски и уязвимости в реално време.
- „Зелен екип“: отговаря за ефективното отстраняване на откритите проблеми.
Източник: it.dir.bg
