OpenAI wdraża niewidoczne znaki wodne do tekstu generowanego przez ChatGPT i Codex dla użytkowników w Unii Europejskiej. Technologia o nazwie textGrain ma być maszynowo czytelna i pozwalać na identyfikację tekstu pochodzącego z modeli AI.
Znak wodny wykorzystuje podejście oparte na metodzie SynthID firmy Google DeepMind - tego samego podejścia, które Anthropic ogłosiła we wrześniu. OpenAI twierdzi, że textGrain dorównuje lub przewyższa alternatywne rozwiązania do znakowania tekstu. Implementacja wynika z wymogów europejskiej ustawy o AI, która narzuca na producentów modeli nowe obowiązki w zakresie przejrzystości i bezpieczeństwa. OpenAI przeprowadziła też testy porównawcze wykazujące, że znaki wodne nie pogorszają istotnie wydajności modeli ani jakości generowanego tekstu.
Chociaż technologia ma chronić przed nadużyciami i ułatwić identyfikację treści pochodzącej ze sztucznej inteligencji, wprowadzenie znakowania nie spotkało się ze wszechstronnym poparciem. Znak wodny textGrain nie stanowi jednak gwarancji pełnej ochrony i jego efektywność w praktyce będzie wymagać dalszych obserwacji w warunkach rzeczywistego użytku.