Компанията Anthropic разкрива новия си подход за създаване на „невидими водни знаци“ в текстовете, генерирани от модела Claude. Вместо да добавя очевидни символи или метаданни, които лесно могат да бъдат изтрити при копиране, технологията цели да направи AI съдържанието разпознаваемо за специализирани инструменти, без да променя изглеждането му за крайния потребител.
Механизмът е изключително фин и се интегрира в самия процес на писане. Когато изкуственият интелект избира следващата дума в изречението, той често разполага с няколко варианта с подобно значение и вероятност. Водният знак влияе леко върху този избор, създавайки специфичен статистически модел. За човешкото око текстът остава напълно естествен, но за софтуер за проверка тези закономерности стават ясен сигнал за произхода на съдържанието.
Тази стъпка става все по-необходима в ерата на генеративния AI, особено предвид новите регулации за прозрачност, които изискват ясно разграничаване между човешкото и машинното творчество.
Източник: it.dir.bg
