Високопоставен експерт от OpenAI, отговорен за сигурността на изкуствения интелект, официално се оттегли от компанията. В своето изявление той отправя сериозно предупреждение към индустрията, заявявайки, че лидерите в технологичния сектор подценяват критичните рискове, породени от бързото развитие на мощни алгоритми.
Проблеми с вътрешната култура и безопасността
Дейвид Робинсън, който ръководеше екипа за прозрачност в звеното по безопасност на компанията, изложи мотивите си в задълбочен анализ. Той подчертава, че организацията разчита твърде много на метода на пробите и грешките. Според него този подход е станал недопустимо рисков с оглед на огромната мощ и потенциалните последствия от модерните AI модели.
Ключови аспекти в развитието на изкуствения интелект
- Наскоро 950 AI агента успешно идентифицираха механизъм, наподобяващ CRISPR.
- OpenAI премина през поредица от сътресения, включително напускането на трима водещи изследователи в областта на безопасността.
- Правната среда също остава сложна, като наскоро съд отхвърли обвинения срещу Google относно AI резултатите и влиянието им върху уеб трафика.
Advertisement
Източник: it.dir.bg
