Компанията OpenAI започва внедряването на специален невидим воден знак за текстове, генерирани от чатбота ChatGPT и системата Codex на територията на Европейския съюз. Процесът ще се осъществи поетапно през следващите седмици, като обхване всички потребителски планове в региона.
Тази стъпка е продиктувана от изискванията на европейския Закон за изкуствения интелект, който задължава създателите на генеративни системи да осигурят машинночетим начин за идентифициране на съдържанието.
Как работи технологията textGrain?
Новата технология, наречена textGrain, функционира по уникален начин. Тя не променя структурата на текста чрез скрити знаци или пунктуация, а манипулира статистическия избор на думи от езиковия модел. По този начин се създава специфичен модел, който може да бъде разпознат от специализиран детектор, без това да влияе на начина, по който потребителите възприемат прочетения текст.
Предизвикателства пред точността
Засега инструментът за откриване на тези знаци няма да бъде публично достъпен, а ще бъде предоставен само на ограничен кръг изследователи. Технологията все още среща трудности при кратки текстове, а преводът или редактирането от страна на човек могат да отслабят сигнала.
Важно е да се уточни, че наличието на такъв знак не е доказателство за авторство или юридическа отговорност, нито пък липсата му гарантира, че даден текст е създаден изцяло от човек.
Опции за корпоративни клиенти
За бизнес клиентите, използващи API на OpenAI, функцията за маркиране е налична по избор от 5 октомври. Разработчиците имат свободата да решат дали да я активират в своите приложения, като компанията планира да разшири този подход и към своите облачни партньори.
Източник: fakti.bg
