Сам Алтман бие тревога: Човечеството не трябва да предаде волана на изкуствения интелект

Главният изпълнителен директор на OpenAI, Сам Алтман, отправи сериозно предупреждение относно бъдещето на обществото и ролята на изкуствения интелект. По време на престижната конференция DealBook Summit, той подчерта, че е недопустимо AI системите да се превърнат в основен орган за вземане на решения, който определя съдбата ни.

Заедно със съоснователя и президент на компанията, Грег Брокман, Алтман изрази твърдото си убеждение, че хората трябва да запазят водещата роля в определянето на посоката на развитие на света. Според него идеята за постепенно предаване на управлението на алгоритмите е „ужасна“ и трябва да бъде избегната на всяка цена.

В основата на тези опасения стои концепцията за т.нар. рекурсивно самоусъвършенстване (RSI). Това е хипотетичен, но стряскащ процес, при който AI моделите започват самостоятелно да създават и подобряват следващите поколения на изкуствения интелект. Този цикъл на автоматизирано саморазвитие крие риска от появата на свръхинтелект, който в един момент може да се окаже напълно извън човешкия контрол.

Advertisement

Източник: it.dir.bg

Твоят коментар