ИИ СТАВИТ НЕВИДИМЫЙ ЗНАК НА ТЕКСТ

7 Просмотры
Издатель
#ии #технологии #claude #антропик #будущее

Claude ставит водяные знаки на весь текст, который он создаёт, чтобы его можно было точно распознать как сгенерированный ИИ. И вы не можете ни увидеть этот знак, ни удалить его. Он хранится даже после копирования, вставки и некоторого редактирования.

Вот всё, что мы знаем: это появилось буквально недавно. Anthropic, компания, стоящая за Claude, присоединилась к новым правилам прозрачности ИИ в ЕС. Эти правила давят на все ИИ-компании, чтобы те упростили распознавание сгенерированных текстов, изображений, видео — вообще всего. Подобное уже есть в Google Gemini, и это придёт в ChatGPT или в любой другой ИИ, которым вы пользуетесь.

Но как вообще можно спрятать водяной знак в обычном тексте? Дело в том, что водяной знак — это выбор слов или сочетаний слов по всему тексту, который создавал ИИ.

Текстовый ответ, который выдает Claude, создается по токенам. Токен — это может быть целое слово, часть слова или даже знак препинания. Возьмем пример: «Погода на улице была холодная и ...». Какое слово будет следующим? Технически сюда можно подставить разные варианты: серая, ветреная, сырая, пасмурная — и все они будут звучать нормально. Выберет Claude «серая» или «пасмурная» — качество и смысл предложения от этого особо не изменятся. Обычно при выборе следующего слова есть доля случайности, примерно как при броске кубика.

Но система водяного знака в конкретном предложении может отдать предпочтение слову «серая», а не «пасмурная».

Когда этот процесс повторяется снова и снова на протяжении всего ответа, отдельные выборы слов вместе и образуют водяной знак. По одному предложению невозможно понять, написал ли его я, человек, или оно пришло от AI. Но когда текста достаточно много, детектор может проверить, совпадают ли выборы слов с секретным шаблоном чаще, чем это можно было бы объяснить случайностью.

Anthropic говорит, что инструменты для проверки уже готовятся, так что учителя, работодатели, издатели — вообще кто угодно — смогут проверять текст на наличие такого водяного знака.
Категория
AI инструменты
Комментариев нет.