Google pateikia nematomus vandens ženklus AI sugeneruotiems tekstams
Google pateikia nematomus vandens ženklus AI sugeneruotiems tekstams
„Google Deepmind“ tyrėjai Londone sukūrė „vandens ženklą“, skirtą identifikuoti tekstą, kurį sukuria dirbtinio intelekto (AI), jau buvo naudojamas milijonams „Chatbot“ vartotojų.
Vandens ženklas, kuris buvo paskelbtas spalio 23 d. Žurnale „Nature 1 Nėra pirma, kad tai nėra pirmoji, kuri yra svarbiausi, kad būtų sukurta AI. Vis dėlto „Sctt“. Aaronsonas, Teksaso universiteto Austino universiteto informacinis mokslininkas, dirbęs „Openai“ vandens ženkluose iki rugpjūčio mėn., „Chatt“, įsikūrusios San Franciske, Kalifornijoje
AI sugeneruotų tekstų aptikimas tampa vis svarbesnis, nes turite galimybę spręsti problemas Akademinis sukčiavimas . Be to, tai galėtų padėti .
Atliekant išsamų tyrimą, „Google Gemini“ didelės kalbos modelio (LLM) vartotojai, įvertinti 20 milijonų atsakymų į vandens ženklus pažymėtus tekstus kaip lygiaverčius nepažymėtus tekstus. „Aš entuziastingai matau, kad„ Google “žengia šį žingsnį technologijų bendruomenei“, - sako Furong Huang, Merilando universiteto kolegijos parke kompiuterių mokslininkas. „Tikėtina, kad artimiausiu metu daugumoje komercinių įrankių bus vandens ženklų“, - pridūrė Kembridžo universiteto kompiuterių mokslininkas Zakharas Shumaylovas.
žodžių pasirinkimas
Sunkiau pritaikyti vandens ženklą tekstui nei vaizdams, nes žodžių pasirinkimas iš esmės yra vienintelis kintamasis, kurį galima pakeisti. „DeepMind“ vandens ženklų skambinti sintezės teksto pokyčiai, kuriuos žodžiai pasirenka slaptai, bet formuluotais būdu, kurį galima įrašyti kriptografiniu raktu. Palyginti su kitais požiūriais, „Deepmind“ vandens ženklą šiek tiek lengviau atpažinti, o programa nevykdo teksto padėties. „Atrodo, kad jis viršija LLMS vandens ženklų konkurentų sąvokas“, - sako Shumaylovas, kuris yra buvęs vieno iš tyrimo autorių darbuotojas ir brolis.
Įrankis taip pat buvo atskleistas, kad kūrėjai galėtų pritaikyti savo vandens ženklą savo modeliams. „Mes tikimės, kad kiti AI modelių kūrėjai tai imsis ir integruotų juos į savo sistemas“, - sako Pushmeet Kohli, „DeepMind“ kompiuterių mokslininkas. „Google“ saugo savo pagrindinę paslaptį, kad vartotojai negalėtų naudoti aptikimo įrankių, kad nustatytų „Gemini“ modelio vandeniu pažymėtą tekstą.
Vyriausybės . Nepaisant to, yra daugybė problemų, įskaitant kūrėjų įsipareigojimą naudoti vandens ženklus ir jų metodų koordinavimą. Šių metų pradžioje federalinės technologijos tyrėjai Ciurichas parodė, kad >>>>> „Bodyts“> „Bodyts“> „Bodyts“. , procesas, vadinamas „šveitimu“ arba „apgaudinėjimu“, kuriame vandens ženklai taikomi tekstams, kad būtų padarytas neteisingas įspūdis, kad jie yra Ki generuojami.
žetonų turnyras
„DeepMinds“ požiūris grindžiamas Esamas metodas Tai atskirta nuo paties LLM
LLM yra asociacijų tinklas, kurį sukuria mokymai su milijardais žodžių ar dalių, žinomų kaip žetonai. Įvedus tekstą, modelis parodo kiekvieną žodyno ženklą, kuris yra kitas sakinio žodis. Mėginių ėmimo algoritmo užduotis yra pasirinkti, kurie žetonai turėtų būti naudojami pagal daugelį taisyklių.
Synthid teksto mėginių ėmimo algoritmas naudoja kriptografinį raktą, kad atsitiktinės vertės priskirtų kiekvienam įmanomam ženklui. Bilietai kandidatai yra proporcingi jų platinimo tikimybei ir priskiriami „turnyrui“. Ten algoritmas palygina vertes iš vienos iš vienos-k.o.o.-Rounds serijos, pagal kurias didžiausia vertė padidėja, kol liko tik vienas prieigos raktas, kuris pasirinktas tekstui.
Šis sudėtingas metodas leidžia lengviau aptikti vandens ženklą, nes tas pats kriptografinis kodas yra taikomas generuojamam tekstui, kad būtų galima ieškoti aukštų verčių, nurodančių „laimėjimo“ žetonus. Tai taip pat gali apsunkinti atstumą.
Keli turnyro raundai gali būti vertinami kaip užrakto derinys, kuriame kiekvienas turas žymi skirtingą skaičių, kurį reikia išspręsti norint atrakinti ar pašalinti vandens ženklą, sako Huangas. „Dėl šio mechanizmo žymiai sunkiau šveisti, spol ar plėtoti vandens ženklą“, - priduria ji. Tekstuose, kuriuose yra apie 200 žetonų, autoriai parodė, kad jie vis tiek galėjo atpažinti vandens ženklą, net jei tekstui perrašyti buvo naudojamas antrasis LLM. Su trumpesniais tekstais vandens ženklas yra ne toks tvirtas.
Tyrėjai neištyrė, kaip gerai vandens ženklas yra atsparūs sąmoningiems bandymams pašalinti. Vandens ženklų pasipriešinimas tokiems išpuoliams yra „didžiulis politinis klausimas“,-sako Yves-Alexandre de Montjoye, Londono „Imperial College“ kompiuterių mokslininkas. „AI saugumo kontekste neaišku, kiek tai suteikia apsaugą“, - aiškina jis.
Kohli tikisi, kad vandens ženklas iš pradžių padės palaikyti šulinio sąmoningą LLM naudojimą. „Pagrindinė filosofija buvo ta, kad norėjome sukurti įrankį, kurį galėtų patobulinti bendruomenė“, - priduria jis.