Ви вже напевно чули, що в Claude з'являються вотермарки, як у зображеннях/відео, так у тексті.

Ви вже напевно чули, що в Claude з'являються вотермарки, як у зображеннях/відео, так у тексті. Хтось точно спитає, тому одразу відповім: ні, Клод не вміє генерувати відео, але вміє робити отаке 🤬

Як це працює в тексті:

🪙 У токенізаторі з'являється секретне правило, згідно якому моделька ділить усі вірогідні продовження слів, умовно назвемо їх червоними й зеленими прапорцями;

🪙 Секретне правило може вимагати два зелених слова на 10 згенерованих;

🪙 Візуально різниці ви не помітите: це можуть бути синоніми «Важливим/істотним/значним», але секретне правило вимагатиме використання саме слова «істотним»;

🪙 Недоліки методу очевидні: навіть якщо ви самі писали текст, могли випадково включити «зелені слова». На малих об'ємах подібний метод не працює, але у значних обсягах маркери складніше списати на випадковість;

🪙 Ну й обходиться це старим студентським лайфхаком: перекладаємо текст зі своєї мови на іншу, а потім назад. Готово, ви обійшли SynthID;

🪙 Google, до речі, вже давно використовує схожу систему. OpenAI, скоріше за все теж, але публічно вони про це не оголошували;

🪙 Одна з головних причин існування таких вотермарок, європейський AI Act, в якого запрацювало нове правило з 2 серпня цього року, а саме стаття 50 (2), про яку жартував Юра;

🪙 Ну й та, поки що це не працює, а з'явиться з наступної моделі.

ооо збір прямо нормально закривається (залишилося 42 217.88)