Google представила технологію для маркування та розпізнавання текстів, створених генеративними моделями ШІ. Інструмент під назвою SynthID Text не вплине на якість та швидкість генерації контенту, і буде доступний абсолютно безкоштовно для розробників та компаній.
Що ще відомо
SynthID Text працює в такий спосіб. При генерації тексту модель передбачає, який «токен» (символ чи слово) буде наступним, виходячи з ймовірності появи кожного токена, і додає додаткову інформацію у розподіл цих ймовірностей, модулюючи скориговані символи. Зрештою з них формується водяний знак (watermark), який допомагає визначити, чи був створений текст ШІ.
«Остаточний патерн ймовірностей слів, обраних моделлю, у поєднанні із зміненими оцінками ймовірностей буде вважатися водяним знаком», — пояснюється в блозі компанії.
Google стверджує, що SynthID Text, який вже навесні був інтегрований у Gemini, не впливає на якість, точність чи швидкість генерації. При цьому текст, який був обрізаний, перефразований або змінений, може оброблятися дещо гірше. Що стосується фактів, то «у відповідях на надто певні та однозначні питання менше можливостей для коригування розподілу токенів без шкоди для фактичної точності».
Варто зазначити, Google – не єдина компанія, яка працює над технологією нанесення водяних знаків на текст, створений ШІ. Наприклад, OpenAI також розробляла методи нанесення «утермарків», але відклала їх запуск через технічні перешкоди та комерційні міркування.
Якщо технологія буде широко впроваджена, то можливо вдасться переламати ситуацію з неточними, але дедалі популярнішими «детекторами ШІ», які помилково визначають студентські роботи чи есе як згенеровані нейромережею. Як пише TechCrunch, «питання залишається відкритим». Однак у деяких країнах уже вживаються заходи. Наприклад, уряд Китаю ввів обов’язкове маркування контенту, створеного ШІ, а штат Каліфорнія (США) збирається наслідувати цей приклад.
