Светът се намира на прага на технологична революция, но лидерите в индустрията предупреждават за сериозни рискове. Сам Алтман, начело на OpenAI, разкрива два сценария, които могат да променят хода на човешката история по негативен начин.
Първата заплаха е загубата на човешки контрол. Алтман подчертава, че изкуственият интелект трябва винаги да служи на хората, а не обратното. За да се постигне това, методите за безопасност и съгласуване на технологиите с човешките интереси трябва да се развиват по-бързо от самите възможности на моделите.
Втората опасност е прекомерната концентрация на власт. Има риск мощни системи да се попаднат в ръцете на малцина – една компания или една държава – които биха могли да наложат своя мироглед на целия свят, създавайки дистопична реалност.
За да се избегнат тези критични грешки, Дарио Амодей от Anthropic предлага стратегическо забавяне на разработката на напреднали модели. Идеята е да се спечелят около две години, за да се гарантира стабилност и безопасност. Тази позиция намира подкрепа и от Илон Мъск, както и от самия Алтман.
Източник: fakti.bg
