OpenAI започва да добавя невидим воден знак към текстовете, генерирани от ChatGPT и Codex в Европейския съюз. Мярката е свързана с изискванията на Закона за изкуствения интелект на ЕС (EU AI Act), съобщи компанията. Правилата за прозрачност на закона влязоха в сила на 2 август и изискват компаниите да обозначават съдържанието, генерирано от изкуствен интелект, по начин, който може да бъде разпознат от други системи.
OpenAI ще започне да въвежда водния знак през следващите седмици за потребителите на ChatGPT и Codex в ЕС, независимо от използвания план, предаде dir.bg. За разработчиците, които използват API на OpenAI, функцията ще бъде достъпна още сега за определени модели, но ще бъде изключена по подразбиране. Компанията уточнява, че на този етап няма да превръща водния знак в глобален стандарт.
Технологията не добавя видим символ или специален знак към текста. Вместо това тя променя съвсем леко избора на думи от модела, така че в текста да остане определен статистически модел.
Човек, който чете текста, не би трябвало да забележи разликата.
Специален детектор обаче може да установи характерния модел. Тъй като информацията е вградена директно в думите, тя се запазва и когато текстът бъде копиран и поставен на друго място. OpenAI твърди, че водният знак не позволява идентифицирането на конкретния потребител. Компанията също така посочва, че не е установила съществено влошаване на работата на моделите при активирана функция.
Методът е наречен textGrain. OpenAI публикува и технически доклад, изготвен съвместно с изследователи от Пенсилвански университет и Йеил. Технологията използва таен ключ, който определя как се подреждат вероятните следващи думи при генерирането на текста. При натрупването на стотици подобни малки промени се получава модел, който детекторът може да разпознае само чрез самия текст и съответния ключ.
Системата обаче не е неуязвима. Собствените тестове на OpenAI показват, че
редактирането на текста може значително да намали надеждността на откриването.
При един от експериментите замяната на едва 10% от думите със синоними е намалила успеваемостта на детектора от около 92% до 66%. По-кратките текстове, математическите отговори и преводите също са по-трудни за разпознаване.
Затова OpenAI засега няма да предоставя свободен достъп до детектора. Компанията планира да го даде на одобрени изследователи и специализирани организации, които да оценяват надеждността на технологията и възможните ѝ приложения.
