Google predstavuje neviditeľné vodoznaky pre texty generované AI

Google DeepMind hat ein unsichtbares Wasserzeichen für KI-generierte Texte entwickelt, um Falschinformationen zu bekämpfen.
Spoločnosť Google DeepMind vyvinula neviditeľný vodoznak pre texty generované AI na boj proti falošným informáciám. (Symbolbild/natur.wiki)

Google predstavuje neviditeľné vodoznaky pre texty generované AI

Vedci spoločnosti Google DeepMind v Londýne vyvinuli „vodoznak“ na identifikáciu textu, ktorý generuje umelá inteligencia (AI)-to sa už používa u miliónov používateľov chatbotov.

vodoznak, ktorý bol uverejnený 23. októbra v časopise Nature 1 nie je vytvorený pre AI, ktorý je uvedený v AI, je však prvým, čo je prvým, je to prvé, aby demonštrovali vo veľkom, reálnom kontexte." Aaronson, počítačový vedec na University of Texas v Austine, ktorý pracoval na vodoznakoch v OpenAi, tvorcovia Chatta so sídlom v San Franciscu v Kalifornii.

Detekcia AI generovaných textov sa stáva čoraz dôležitejším, pretože máte potenciálne riešenie problémov Falošné správy a Akademický podvod . Okrem toho by to mohlo pomôcť

Nástroj bol tiež zverejnený, aby vývojári mohli na svoje modely aplikovať svoj vlastný vodoznak. „Dúfame, že ostatní vývojári modelov AI to vezmú a integrujú ich do svojich vlastných systémov,“ hovorí Pushmeet Kohli, počítačový vedec spoločnosti DeepMind. Google si zachováva svoje kľúčové tajomstvo, aby používatelia nemohli používať detekčné nástroje na identifikáciu textu modelu Gemini.

Vlády . Existuje však veľa problémov, vrátane povinnosti vývojárov používať vodoznaky a koordináciu ich prístupov. Začiatkom tohto roka vedci z federálnej technológie Zürich ukázali, že

  • Datthri, S. a kol. Nature 634, 818 - 823 (2024).