Google DeepMind ogłosił globalną dostępność narzędzia SynthID Detector służącego do identyfikacji treści generowanych przez sztuczną inteligencję. Wcześniej weryfikacja materiałów pochodzących od Google była możliwa wyłącznie poprzez model Gemini, a sprawdzanie treści od innych dostawców wymagało korzystania z dedykowanych im rozwiązań.
Nowa platforma pozwala użytkownikom przesyłać pliki graficzne, dźwiękowe oraz wideo w celu ich weryfikacji w ramach jednej witryny. Narzędzie obsługuje multimedia utworzone przez partnerów programu, takich jak OpenAI, NVIDIA oraz Kakao, a w najbliższym czasie planowane jest również dodanie wsparcia dla firmy Apple. Wynik weryfikacji przybiera postać prostej odpowiedzi określającej obecność sygnału.
Twórcy narzędzia zastrzegają, że rozwiązanie nie stanowi uniwersalnego wykrywacza treści AI i działa wyłącznie w odniesieniu do materiałów pochodzących od firm, które wdrożyły technologię SynthID. System nie obejmuje treści stworzonych za pomocą technologii Meta czy Microsoft, które stosują odmienne metody znakowania wodnego. Ponadto rozległe modyfikacje plików mogą osłabić sygnał ukrytego znaku wodnego i prowadzić do pominięcia detekcji, co w takich przypadkach wymaga zastosowania dodatkowych metod weryfikacji.
Alternatywnym podejściem do uwierzytelniania plików jest wykorzystanie metadanych C2PA, które zapisują historię pochodzenia oraz edycji materiału. Eksperci wskazują jednak, że metadane te mogą zostać utracone podczas przesyłania plików na serwery lub w przypadku wykonywania zrzutów ekranu. Technologia SynthID, rozwijana od 2023 roku przez Google DeepMind, polega na bezpośrednim osadzaniu niewidocznego dla oka znaku wodnego w strukturze pliku za pomocą modyfikacji rozkładów prawdopodobieństwa pikseli, tokenów lub częstotliwości audio z użyciem tajnego klucza.
