Компанията Anthropic води активни дискусии с американските законодатели относно въвеждането на регулации, които биха позволили на държавата да спира работата на системи с изкуствен интелект. Предложението обаче поставя изключително висок праг за подобна намеса.
Според визията на компанията, една технология трябва да бъде третирана като непосредствена заплаха само ако носи риск от тежки наранявания или смърт на най-малко 50 души. Алтернативен критерий за държавна намеса са материални щети, надхвърлящи 1 милиард долара.
Трите условия за регулация
Инициативата, за която съобщават източници от сектора, предвижда спиране на AI модели само при три строго определени сценария:
- Възможност за подпомагане на създаването или употребата на биологични оръжия;
- Риск от иницииране на мащабна и катастрофална кибератака;
- Ситуация, при която технологията излиза извън ефективния контрол на своите разработчици.
Тези дискусии подчертават стремежа на индустрията да балансира между иновациите и безопасността, поставяйки ясни граници за държавния контрол върху мощните алгоритми.
Източник: it.dir.bg
