Google predstavuje neviditeľné vodoznaky pre texty generované AI
Google predstavuje neviditeľné vodoznaky pre texty generované AI
Vedci spoločnosti Google DeepMind v Londýne vyvinuli „vodoznak“ na identifikáciu textu, ktorý generuje umelá inteligencia (AI)-to sa už používa u miliónov používateľov chatbotov.
vodoznak, ktorý bol uverejnený 23. októbra v časopise Nature 1 nie je vytvorený pre AI, ktorý je uvedený v AI, je však prvým, čo je prvým, je to prvé, aby demonštrovali vo veľkom, reálnom kontexte." Aaronson, počítačový vedec na University of Texas v Austine, ktorý pracoval na vodoznakoch v OpenAi, tvorcovia Chatta so sídlom v San Franciscu v Kalifornii.
Detekcia AI generovaných textov sa stáva čoraz dôležitejším, pretože máte potenciálne riešenie problémov Falošné správy a Akademický podvod . Okrem toho by to mohlo pomôcť
Nástroj bol tiež zverejnený, aby vývojári mohli na svoje modely aplikovať svoj vlastný vodoznak. „Dúfame, že ostatní vývojári modelov AI to vezmú a integrujú ich do svojich vlastných systémov,“ hovorí Pushmeet Kohli, počítačový vedec spoločnosti DeepMind. Google si zachováva svoje kľúčové tajomstvo, aby používatelia nemohli používať detekčné nástroje na identifikáciu textu modelu Gemini.
Vlády . Existuje však veľa problémov, vrátane povinnosti vývojárov používať vodoznaky a koordináciu ich prístupov. Začiatkom tohto roka vedci z federálnej technológie Zürich ukázali, že
Datthri, S. a kol. Nature 634, 818 - 823 (2024).
Kommentare (0)