Следы ИИ в личной жизни каждого

Совсем недавно компания Anthropic объявила, что будущие модели Claude будут оставлять в сгенерированном тексте невидимую водяную метку. Она не содержит имени пользователя, данных аккаунта или информации о конкретном чате — но позволяет определить вероятность того, что Claude участвовал в создании текста.

Компания внедряет эту механику в том числе из-за требований европейского AI Act. Причём применять её Anthropic собирается глобально: технически надёжно использовать маркировку только для пользователей из ЕС компания пока не может.

С одной стороны, логика понятна. В эпоху дипфейков, автоматической пропаганды и тысяч текстов, которые можно генерировать за несколько минут, возможность определить участие ИИ выглядит вполне разумной.

Но есть и другая сторона.

ИИ всё чаще становится повседневным инструментом. Кто-то пишет с его помощью рабочее письмо, кто-то исправляет ошибки, переводит текст, ищет более удачную формулировку или обсуждает с ним идеи.

Но разве у человека нет права оставить использование такого инструмента своей личной информацией?

Мы ведь не указываем под текстом, что написали его с помощью клавиатуры Bloody, проверили в Firefox, отредактировали в Google Docs и нашли информацию через поисковик Google. Почему использование языковой модели должно оставлять отдельный след?

Конечно, между клавиатурой и ИИ есть существенная разница: модель способна не просто передать мысль, а придумать её формулировку — а иногда и саму мысль.

Но тогда где проходит граница?

Если Claude написал текст целиком — маркировка кажется логичной.
Если переписал один абзац?
Исправил ошибки?
Предложил заголовок?
Перевёл ваш собственный текст?

Сама Anthropic признаёт эту проблему: водяной знак способен показать лишь вероятное участие Claude и не может отличить ситуацию, когда модель написала текст сама, от ситуации, когда она серьёзно отредактировала человеческий. При лёгкой редактуре метка вообще может оказаться недостаточно заметной для обнаружения.

Возможно, главный вопрос здесь уже не в том, способен ли ИИ оставить след. А в том, должен ли он оставлять его без нашего согласия.

#it #ai #claude #anthropic