OpenAI ще започне да добавя невидим воден знак към текстовете, генерирани и обработени от ChatGPT и Codex в Европейския съюз. Въвеждането ще е поетапно през следващите седмици и ще обхване потребителите на всички планове.
Компанията представи технологията като част от изпълнението на изискванията на европейския Закон за изкуствения интелект, който предвижда съдържанието, създадено от генеративни системи, да може да бъде разпознавано по машинночетим начин.
Как ще работи маркирането
Технологията се нарича textGrain. Тя не поставя видим знак в текста и не добавя скрити символи, допълнителни интервали или необичайна пунктуация. Вместо това променя статистическия модел, по който системата избира между възможни думи и части от думи. Специален детектор може да анализира този модел и да провери дали в текста се съдържа сигнал от OpenAI.
„Водният знак не добавя скрити символи, допълнителни интервали или необичайна пунктуация“, обясни OpenAI.
Компанията посочва, че маркирането е част от по-широк подход към проследяването на произхода на съдържанието. При изображенията и аудиото OpenAI използва други технологии и метаданни, но за текстовете избира отделен метод, съобразен с начина, по който езиковите модели генерират отговори.
Ограниченията остават
OpenAI няма да пусне публично инструмента за откриване на водни знаци при старта. Достъп ще получат одобрени изследователи и специализирани организации, които ще оценяват точността на системата и ще работят по подобряването ѝ.
Причината са ограниченията на технологията. Кратките текстове се разпознават по-трудно, а редактиране, превод или значителна преработка могат да отслабят сигнала. Възможни са както фалшиви положителни резултати, така и пропуски при откриването.
Самият воден знак не показва кой е използвал ChatGPT, каква част от текста е създадена от модела и колко е допринесъл човекът. Той не доказва авторство, собственост или юридическа отговорност. По същия начин липсата на сигнал не доказва, че текстът е написан изцяло от човек.
Отделен режим за API клиентите
От 5 октомври клиентите на OpenAI API по света могат по желание да включат текстово маркиране за определени модели. Функцията остава изключена по подразбиране, което означава, че разработчиците и компаниите сами ще решават дали да я активират в своите приложения.
OpenAI планира да разшири водните знаци и към услуги, които използват нейните модели чрез облачни партньори. Европейското въвеждане за ChatGPT и Codex ще остане регионално, без автоматично глобално активиране на функцията.