#ии #технологии #claude #антропик #будущее
Claude ставит водяные знаки на весь текст, который он создаёт, чтобы его можно было точно распознать как сгенерированный ИИ. И вы не можете ни увидеть этот знак, ни удалить его. Он хранится даже после копирования, вставки и некоторого редактирования.
Вот всё, что мы знаем: это появилось буквально недавно. Anthropic, компания, стоящая за Claude, присоединилась к новым правилам прозрачности ИИ в ЕС. Эти правила давят на все ИИ-компании, чтобы те упростили распознавание сгенерированных текстов, изображений, видео — вообще всего. Подобное уже есть в Google Gemini, и это придёт в ChatGPT или в любой другой ИИ, которым вы пользуетесь.
Но как вообще можно спрятать водяной знак в обычном тексте? Дело в том, что водяной знак — это выбор слов или сочетаний слов по всему тексту, который создавал ИИ.
Текстовый ответ, который выдает Claude, создается по токенам. Токен — это может быть целое слово, часть слова или даже знак препинания. Возьмем пример: «Погода на улице была холодная и ...». Какое слово будет следующим? Технически сюда можно подставить разные варианты: серая, ветреная, сырая, пасмурная — и все они будут звучать нормально. Выберет Claude «серая» или «пасмурная» — качество и смысл предложения от этого особо не изменятся. Обычно при выборе следующего слова есть доля случайности, примерно как при броске кубика.
Но система водяного знака в конкретном предложении может отдать предпочтение слову «серая», а не «пасмурная».
Когда этот процесс повторяется снова и снова на протяжении всего ответа, отдельные выборы слов вместе и образуют водяной знак. По одному предложению невозможно понять, написал ли его я, человек, или оно пришло от AI. Но когда текста достаточно много, детектор может проверить, совпадают ли выборы слов с секретным шаблоном чаще, чем это можно было бы объяснить случайностью.
Anthropic говорит, что инструменты для проверки уже готовятся, так что учителя, работодатели, издатели — вообще кто угодно — смогут проверять текст на наличие такого водяного знака.
Claude ставит водяные знаки на весь текст, который он создаёт, чтобы его можно было точно распознать как сгенерированный ИИ. И вы не можете ни увидеть этот знак, ни удалить его. Он хранится даже после копирования, вставки и некоторого редактирования.
Вот всё, что мы знаем: это появилось буквально недавно. Anthropic, компания, стоящая за Claude, присоединилась к новым правилам прозрачности ИИ в ЕС. Эти правила давят на все ИИ-компании, чтобы те упростили распознавание сгенерированных текстов, изображений, видео — вообще всего. Подобное уже есть в Google Gemini, и это придёт в ChatGPT или в любой другой ИИ, которым вы пользуетесь.
Но как вообще можно спрятать водяной знак в обычном тексте? Дело в том, что водяной знак — это выбор слов или сочетаний слов по всему тексту, который создавал ИИ.
Текстовый ответ, который выдает Claude, создается по токенам. Токен — это может быть целое слово, часть слова или даже знак препинания. Возьмем пример: «Погода на улице была холодная и ...». Какое слово будет следующим? Технически сюда можно подставить разные варианты: серая, ветреная, сырая, пасмурная — и все они будут звучать нормально. Выберет Claude «серая» или «пасмурная» — качество и смысл предложения от этого особо не изменятся. Обычно при выборе следующего слова есть доля случайности, примерно как при броске кубика.
Но система водяного знака в конкретном предложении может отдать предпочтение слову «серая», а не «пасмурная».
Когда этот процесс повторяется снова и снова на протяжении всего ответа, отдельные выборы слов вместе и образуют водяной знак. По одному предложению невозможно понять, написал ли его я, человек, или оно пришло от AI. Но когда текста достаточно много, детектор может проверить, совпадают ли выборы слов с секретным шаблоном чаще, чем это можно было бы объяснить случайностью.
Anthropic говорит, что инструменты для проверки уже готовятся, так что учителя, работодатели, издатели — вообще кто угодно — смогут проверять текст на наличие такого водяного знака.
- Категория
- AI инструменты
Комментариев нет.
