Google predstavlja nevidne vodne žige za besedila, ustvarjena z AI
Google predstavlja nevidne vodne žige za besedila, ustvarjena z AI
Raziskovalci v Googlu Deepmind v Londonu so razvili "vodni žig" za identifikacijo besedila, ki ga ustvari umetna inteligenca (AI)-to je že uporabljeno pri milijonih uporabnikov Chatbota.
The watermark that was published on October 23 in the journal Nature 1 is not the first to be created for AI generated. However, it is the first to demonstrate in a large, real context. "In my opinion, the most important news here is that they actually use it," says Scott Aaronson, računalniški znanstvenik na Teksaški univerzi v Austinu, ki je do avgusta delal na vodnih žigah na OpenAI, ustvarjalci Chatt s sedežem v San Franciscu v Kaliforniji
Zaznavanje besedil, ustvarjenih z AI, postaja vse bolj pomembno, ker imate potencialno rešitev za težave lažne novice in akademska goljufija . In addition, it could help to to protect future models from devaluation by not being trained with Ai-generirane vsebine .
V obsežni študiji so uporabniki Google Gemini velikega jezikovnega modela (LLM) ocenjeni v 20 milijonih odgovorov besedil z vodnim žigom kot enakovredna z neoznačenimi besedili. "Navdušen sem, ko vidim, da Google dela ta korak za tehnološko skupnost," pravi Furong Huang, računalniški računalninec na Univerzi v Marylandu v College Parku. "Verjetno bo večina komercialnih orodij v bližnji prihodnosti vsebovala vodne žige," je dodal Zakhar Shumaylov, računalniški znanstvenik na Univerzi v Cambridgeu v Veliki Britaniji.
izbira besed
Težje je uporabiti vodni žig za besedilo kot za slike, saj je izbira besed v bistvu edina spremenljivka, ki jo je mogoče spremeniti. Deepmind's Watermark, imenovane sintetidne spremembe besedila, ki jih model izbere, na skriven, a formuliran način, ki ga je mogoče posneti s kriptografskim ključem. V primerjavi z drugimi pristopi je vodni žig DeepMind nekoliko lažje prepoznati in aplikacija ne odloži besedilnega položaja. "Zdi se, da presega koncepte konkurentov na vodnih žigah LLMS," pravi Shumaylov, ki je nekdanji uslužbenec in brat enega od avtorjev študije.
Orodje je bilo razkrito tudi tako, da lahko razvijalci na svoje modele uporabijo svoj vodni žig. "Upamo, da bodo drugi razvijalci AI modelov to prevzeli in jih vključili v svoje sisteme," pravi Pushmeet Kohli, računalniški računalniški znanstvenik Deepmind. Google hrani svojo ključno skrivnost, tako da uporabniki ne morejo uporabljati orodij za odkrivanje za identifikacijo besedila z vodnim žigom modela Gemini.
Vlade Katežna telesna povezava "> ON A-IN TOLES besedilo . Kljub temu obstaja veliko težav, vključno z obveznostjo razvijalcev, da uporabljajo vodne žige in usklajevanje njihovih pristopov. At the beginning of this year, researchers at the Federal Technology Zurich showed that Watermarks are susceptible Za odstranitev , postopek, ki se imenuje "čiščenje", ali "ponarejanje", v katerem se vodni žigi uporabljajo za besedila, da se napačen vtis, da jih ustvarjajo.