Компанія OpenAI повідомила про реалізацію невидимих текстових водяних знаків для результатів, отриманих від ChatGPT та Codex. Інноваційна технологія, що носить назву textGrain, покликана допомогти виявляти контент, створений користувачами з Європейського Союзу за допомогою штучного інтелекту.
Про це йдеться в блозі OpenAI.
Рішення було прийнято у відповідь на вимоги Європейського закону про штучний інтелект (EU AI Act), який зобов'язує постачальників генеративних технологій надавати можливість для машинного виявлення тексту, що був згенерований.
Інноваційна система textGrain функціонує, інтегруючи невидимий статистичний сигнал під час процесу вибору слів моделлю. Для виявлення цього сигналу була розроблена спеціальна система детекції.
На початковому етапі доступ до цієї технології отримають виключно акредитовані дослідники та експертні організації, а в подальшому передбачається випустити її з відкритим вихідним кодом.
Упродовж найближчих тижнів водяні знаки автоматично додаватимуться до відповідей ChatGPT та Codex для користувачів у Європейському Союзі. Для розробників, які використовують API OpenAI по всьому світу, функція буде доступна за бажанням -- її можна буде увімкнути вручну.
В OpenAI стверджують, що введення водяних знаків не має негативного впливу на якість відповідей, які генеруються моделями, зокрема Astra. Однак, представники компанії вказують на існування певних технічних обмежень:
"Текстовий водяний знак не вимірює внесок людини, не встановлює право власності, не ідентифікує особу користувача та не підтверджує достовірність інформації", -- наголошують у компанії, закликаючи розглядати технологію лише як один із додаткових інструментів верифікації.
#
