IT-специалист реализира необичаен експеримент, създавайки своеобразна „стая за мъчения“ за модели с изкуствен интелект. Целта на проекта е да се изследва как алгоритмите реагират, когато бъдат поставени в състояния, наподобяващи усещане за болка. Това начинание е вдъхновено от скорошни научни публикации, които загатват, че съвременните големи езикови модели биха могли да проявят признаци, оприличавани на страдащи същества.
Механизмът зад виртуалното страдание
В рамките на проекта са използвани AI системи на технологичния гигант Alibaba. Изследователят активира специфични състояния чрез така наречените „вектори на болката“. Тези параметри са базирани на скорошно академично изследване, публикувано в платформата arXiv, което разглежда възможността за пренасяне на биологични концепции върху невронни мрежи.
Контекст на разработката
- Над 950 AI агента успяха да идентифицират механизъм, наподобяващ CRISPR технологията.
- Областта на безопасността при AI претърпя трусове, включително напускане на ключови фигури от OpenAI.
- Правни спорове около резултатите, генерирани от изкуствен интелект и влиянието им върху уеб трафика, продължават да бъдат обект на съдебни дела.
Източник: it.dir.bg
