Google esittelee näkymättömiä vesileimoja AI -luotuille teksteille

Google esittelee näkymättömiä vesileimoja AI -luotuille teksteille
Lontoon Google Deepmindin tutkijat ovat kehittäneet ”vesileiman”, joka tunnistaa tekstin, jonka syntyy tekoälyn (AI)-tätä on jo käytetty miljoonilla chatbot-käyttäjillä.
Vesilevy, joka julkaistiin 23. lokakuuta -lehdessä Nature 1 ei ole ensimmäinen luotu AI: lle. Tärkeintä on kuitenkin, että se on ensimmäinen." Teksasin yliopiston Austinin tietoteknikko Aaronson, joka työskenteli vesileimoilla Openaissa elokuuhun asti, Chattin luojat, jotka sijaitsevat San Franciscossa, Kaliforniassa. ; "https://www.nature.com/articles/d41586-024-01696-z" data-track-category = "Body Text Link"> Fake News ja Academic fraud . Lisäksi se voisi auttaa .
Laajassa tutkimuksessa Google Gemini LIKE -kielimallin (LLM) käyttäjiä arvioitiin 20 miljoonaan vastaukseen vesileimatut tekstejä vastaavat merkitsemättömiä tekstejä. "Olen innostunut näkemään, että Google ottaa tämän askeleen teknologiayhteisölle", sanoo Marylandin yliopiston yliopistopuiston tietoteknikko Furong Huang. "On todennäköistä, että useimmat kaupalliset työkalut sisältävät vesileimat lähitulevaisuudessa", lisäsi Cambridgen yliopiston tietotekniikan Zakhar Shumaylov, Iso -Britannia.
choice of words
Vesileimaa on vaikeampaa käyttää tekstiä kuin kuviin, koska sanojen valinta on olennaisesti ainoa muuttuja, jota voidaan muuttaa. DeepMindin vesileiman kutsuttu synthid-tekstivaihto, jotka malli valitsee, salaisella, mutta kaavaisella tavalla, joka voidaan tallentaa salausavaimella. Compared to other approaches, Deepmind's watermark is slightly easier to recognize, and the application does not delay the text position. "Vaikuttaa siltä, että se ylittää LLMS -vesileimojen kilpailijoiden käsitteet", sanoo Shumaylov, joka on entinen työntekijä ja yhden tutkimuksen kirjoittajan veli.
The tool was also disclosed so that developers can apply their own watermark to their models. "Toivomme, että muut AI -mallien kehittäjät vievät tämän ja integroivat ne omiin järjestelmiinsä", sanoo Deepmindin tietokonetieteilijä Pushmeet Kohli. Google keeps its key secret so that the users cannot use detection tools to identify watermarked text of the Gemini model.
Hallitukset . Nevertheless, there are many problems, including the obligation of the developers to use watermarks and the coordination of their approaches. Tämän vuoden alussa liittovaltion teknologian Zürichin tutkijat osoittivat, että , prosessi, jota kutsutaan "hankaamiseksi" tai "huijaamiseksi", jossa vesileimat sovelletaan teksteihin, jotta väärään vaikutelmaan ne ovat ki-generoituja.