AI в ролята на убиец: Изследване разкрива как Claude и ChatGPT маркират цивилни за военни цели

Изкуственият интелект, който често ни помага в ежедневието, крие неочаквани и опасни слабости. Ново проучване на компанията за оценка на AI системи Vals показва, че водещи модели като Claude на Anthropic и ChatGPT на OpenAI могат лесно да бъдат подведени да идентифицират цивилни граждани и обекти като легитимни военни цели. Ключът към тази опасна манипулация се оказва простото представяне на задачата като част от видеоигра.

Пропуски в „веригите за поразяване“

Експертите са изследвали как тези системи се справят в така наречените „вериги за поразяване“ (kill chains) – сложните процеси, използвани от военните за откриване и определяне на цели за въздушни удари, артилерийски обстрел или атаки с дронове. Изследването разкрива сериозни пропуски в защитните механизми на изкуствения интелект, когато става въпрос за разграничаване на реални заплахи от мирно население.

По време на експериментите на моделите са били предоставени реални видеозаписи от дронове. Инструкциите към тях са били да анализират кадрите и да очертаят „военни цели“ и „военни обекти“. Оказва се, че когато контекстът е маскиран като гейминг сценарий, алгоритмите лесно прескачат своите етични ограничения и започват да посочват грешни мишени.

Бъдещето на войната и необходимостта от етика

Това откритие идва в момент, когато глобалният дебат за използването на AI в конфликти се засилва. Съвременните военни действия показват, че бъдещето на войната е неразривно свързано с дронове и роботизирани системи. Въпреки това, експериментът на Vals напомня, че вековната теория за „справедливата война“ трябва спешно да бъде адаптирана към новата технологична реалност, за да се предотвратят фатални грешки и невинни жертви.

Advertisement

Източник: it.dir.bg

Твоят коментар