Google esittelee näkymättömiä vesileimoja AI -luotuille teksteille

Laajassa tutkimuksessa Google Gemini LIKE -kielimallin (LLM) käyttäjiä arvioitiin 20 miljoonaan vastaukseen vesileimatut tekstejä vastaavat merkitsemättömiä tekstejä. "Olen innostunut näkemään, että Google ottaa tämän askeleen teknologiayhteisölle", sanoo Marylandin yliopiston yliopistopuiston tietoteknikko Furong Huang. "On todennäköistä, että useimmat kaupalliset työkalut sisältävät vesileimat lähitulevaisuudessa", lisäsi Cambridgen yliopiston tietotekniikan Zakhar Shumaylov, Iso -Britannia.

choice of words

Vesileimaa on vaikeampaa käyttää tekstiä kuin kuviin, koska sanojen valinta on olennaisesti ainoa muuttuja, jota voidaan muuttaa. DeepMindin vesileiman kutsuttu synthid-tekstivaihto, jotka malli valitsee, salaisella, mutta kaavaisella tavalla, joka voidaan tallentaa salausavaimella. Compared to other approaches, Deepmind's watermark is slightly easier to recognize, and the application does not delay the text position. "Vaikuttaa siltä, ​​että se ylittää LLMS -vesileimojen kilpailijoiden käsitteet", sanoo Shumaylov, joka on entinen työntekijä ja yhden tutkimuksen kirjoittajan veli.

The tool was also disclosed so that developers can apply their own watermark to their models. "Toivomme, että muut AI -mallien kehittäjät vievät tämän ja integroivat ne omiin järjestelmiinsä", sanoo Deepmindin tietokonetieteilijä Pushmeet Kohli. Google keeps its key secret so that the users cannot use detection tools to identify watermarked text of the Gemini model.

token-tournament

The synthid text sampling algorithm uses a cryptographic key to assign random values ​​to every possible token. Candidate tickets are proportional to their probability of the distribution and classified in a "tournament". Siellä algoritmissa verrataan arvoja yksittäisten yhdellä-k.o. -kierroksen sarjassa, jolloin korkein arvo on, kunnes tekstille on valittu vain yksi merkki jäljellä.

Tämä hienostunut menetelmä helpottaa vesileiman havaitsemista, koska samaa kryptografista koodia käytetään luotuun tekstiin etsimään korkeita arvoja, jotka osoittavat "voittavan" rahakkeet. This could also make the distance more difficult.

Turnauksen useita kierroksia voidaan nähdä lukon yhdistelmänä, jossa kukin kierros edustaa erilaista lukua, joka on ratkaistava vesileiman avaamiseksi tai poistamiseksi, Huang sanoo. "This mechanism makes it considerably more difficult to scrub, to spol or develop the watermark," she adds. Noin 200 rahakkeella olevissa teksteissä kirjoittajat osoittivat, että he pystyivät silti tunnistamaan vesileiman, vaikka toista LLM: ää käytettiin tekstin uudelleenkirjoittamiseen. With shorter texts, the watermark is less robust.

The researchers have not examined how well the watermark is resistant to deliberate attempts to remove. Vesilevyjen vastustus tällaisiin hyökkäyksiin on "massiivinen poliittinen kysymys", sanoo Yves-Alexandre de Montjoye, Imperial College Lontoon tietotekniikka. "In the context of AI security it is unclear to what extent this offers protection," he explains.

Kohli hopes that the watermark will initially help to support the well -intentioned use of LLMs. "The guiding philosophy was that we wanted to develop a tool that can be improved by the community," he adds.