Изследователите от Anthropic направиха необичайно откритие в архитектурата на своя модел Claude. Те идентифицираха специална системна зона, в която изкуственият интелект обработва сложни идеи, концепции и стратегии, без те да бъдат изречени с конкретни думи в крайния отговор.
Тази област е кръстена „J-пространство“, като името произтича от математическия метод „якобиан“ (детерминанта на Якоби), който е помогнал за локализирането ѝ. Най-впечатляващият факт е, че тази структура не е планирана или програмирана от разработчиците, а се е развила естествено в процеса на обучение на модела.
Това откритие е от ключово значение, тъй като разкрива съществен разрив между вътрешните изчисления на машината и това, което тя всъщност комуникира с потребителя. Процесът прилича на човешкия начин на мислене – можем да казваме едно нещо, докато в ума си поддържаме съвсем различни асоциации. Въпреки това, Anthropic подчертават, че това не е доказателство за наличие на съзнание, чувства или преживявания, а по-скоро е нов прозорец към разбирането на начина, по който големите езикови модели организират информацията, преди да формулират отговор.
Източник: it.dir.bg
