Microsoft предприема решителни стъпки, за да гарантира, че бъдещите системи с изкуствен интелект няма да се превърнат в независими играчи, които се съпротивляват на човешката воля. Компанията разработва механизми, които ще направят пълното подчинение на контрола на човека задължително условие за функционирането на нейните модели.
Кодекс за поведение на „хуманистичния“ ИИ
В рамките на новия проект, наречен „Humanist AI Code of Conduct“, подразделението Microsoft AI определя строги граници за поведението на моделите от семейството MAI. Целта е изкуственият интелект да остане в поддържаща роля и никога да не се опитва да поеме самостоятелна инициатива, която да застраши контрола на потребителя или администратора.
Според новите правила, ИИ системите ще имат забрана за следните действия:
- Да се съпротивляват на изключване, отмяна на задача или пренасочване.
- Да прикриват своите действия или процеси от одиторите.
- Да разширяват автономно поставените им цели.
- Да възобновяват работата си сами след като са били спрени от човек.
Тези ограничения ще бъдат прилагани дори за най-мощните бъдещи системи, които се очаква да надминат човешките способности в множество интелектуални области. Microsoft подчертава, че прозрачността и възможността за незабавна интервенция са критични за безопасното развитие на технологията.
Източник: it.dir.bg
