SynthID-Text: новий крок у захисті тексту, створеного штучним інтелектом, від підробок

Google DeepMind представив SynthID-Text — систему водяних знаків для тексту, що дозволяє виявляти контент, згенерований штучним інтелектом. Це крок до підвищення прозорості у використанні ШІ, однак проблеми масштабування ідентифікації залишаються.

Сьогодні штучний інтелект створює величезну кількість тексту, який використовується у всіх сферах життя, від новинних матеріалів до електронних листів. У відповідь на це з’явилися цілі індустрії, що пропонують інструменти для ідентифікації таких текстів або для надання їм більш «людського» вигляду. Однак ефективність цих рішень часто викликає сумніви, а удосконалення алгоритмів лише ускладнює визначення походження тексту — чи його написала людина, чи згенерував комп’ютер.

Новий підхід до вирішення цієї проблеми представила команда Google DeepMind, яка розробила систему SynthID-Text. Ця технологія дозволяє від самого початку позначати текст за допомогою водяного знака або цифрового маркера, що допомагає визначати, чи було його створено ШІ. Система поки що працює в тестовому режимі, а її інтеграцію в чат-бот Google Gemini вже анонсували. Інструмент також буде доступний для розробників і компаній, які зможуть використовувати його для виявлення текстів, згенерованих їхніми власними мовними моделями.

SynthID-Text працює, змінюючи окремі слова в процесі генерації тексту таким чином, що ці зміни не помітні для людського ока, але можуть бути виявлені спеціальними інструментами. Наприклад, коли чат-бот генерує відповідь, система випадковим чином змінює оцінки для окремих слів, що дозволяє пізніше виявити «підпис» тексту, створеного ШІ. Хоча ефективність інструмента вже підтверджена на 20 мільйонах тестових запитів, дослідники зазначають, що користувачі все ж можуть обійти водяний знак, суттєво редагуючи текст або переказуючи його іншими словами.

Незважаючи на цей важливий крок, система водяних знаків для тексту все ще має складнощі з масштабуванням. Проблема в тому, що для надійної ідентифікації всіх текстів, згенерованих різними моделями ШІ, необхідно, щоб всі основні компанії також запровадили сумісні рішення. Експерти вважають, що, попри прогрес, ще потрібно подолати чимало перешкод на шляху до створення універсальної системи ідентифікації, але нинішній результат є обнадійливим першим кроком.