AI-genereeritud pildid Ohustatud teaduse-nii tahavad teadlased neid ära tunda

AI-genereeritud pildid Ohustatud teaduse-nii tahavad teadlased neid ära tunda

Teadlased manipuleerivad numbritega ja masstootmisega võltspaberid Kohustuslikud kirjastajad - Problemaatilised käsikirjad on juba pikka aega olnud teaduskirjanduses ebameeldivused. Teadusdetektiivid töötavad väsimatult, et paljastada see õiguserikkumine ja parandada teaduslik kirje. Kuid nende töö on muutumas üha keerukamaks, kuna on tekkinud uus, võimas vahend petturitele: generatiivne tehisintellekt (Ai).

"Generatiivne AI areneb väga kiiresti," ütleb Jana Christopher, Image terviklikkuse analüütik FEBS Pressis Heidelbergis, Saksamaal. "Inimesed, kes töötavad minu valdkonnas - pildi terviklikkus ja avaldamispoliitika - on üha enam mures võimaluste pärast."

Millega kerk generatiivsed AI tööriistad tekstid, Pildid ja andmed tekitavad hirmu üha ebausaldusväärsema teaduskirjanduse ees, mis on üle ujutatud võltsnumbrite, käsikirjade ja järeldustega, mida inimestel on raske tuvastada. Treensivõistlus on juba esile kerkinud, kui terviklikkuse spetsialistid, kirjastajad ja tehnoloogiaettevõtted töötavad usinalt Arendada AI tööriistu, mis aitab kiiresti tuvastada petlikke, AI-genereeritud elemente eriartiklites.

"See on hirmutav areng," ütleb Christopher. "Kuid on ka nutikaid inimesi ja pakutakse välja häid struktuurilisi muudatusi."

Teadusuuringute terviklikkuse eksperdid väidavad, et kuigi AI-genereeritud tekst on paljude ajakirjade poolt teatud olukordades juba lubatud, võib selliste tööriistade kasutamist piltide või muude andmete loomiseks pidada vähem vastuvõetavaks. "Lähitulevikus võib AI-genereeritud tekstiga olla kõik korras," ütleb Elisabeth Bik, Image kohtuekspertiisi spetsialist ja konsultant Californias San Franciscos. "Kuid ma joonistan andmete genereerimisel rea."

Bik, Christopher ja teised väidavad, et generatiivse AI -ga loodud andmeid, sealhulgas pilte, kasutatakse kirjanduses juba laialdaselt ja et kohustuslikud kirjastajad kasutavad AI -tööriistu manuses käsikirjade tootmiseks (vt „Viktoriin: kas saate märgata AI võltsimist?”).

AI-toodetud piltide tuvastamine on tohutu väljakutse: neid on sageli peaaegu võimatu, et tegelikest piltidest palja silmaga eristada. "Meil on tunne, nagu puutume iga päev kokku genereeritud piltidega," ütleb Christopher. "Kuid kui te seda ei suuda tõestada, on tõesti väga vähe, mida saate teha."

On mõned selged näited generatiivse AI kasutamisest teaduslikel piltides, näiteks Nüüd kurikuulus roti pilt absurdselt suurte suguelunditega ja mõttetu sildid, mis on loodud koos Midjourney pilditööriistaga. Kaubandusajakirja veebruaris avaldatud graafika põhjustas tormi sotsiaalmeedias ja oli mõni päev hiljem tagasi.

Enamik juhtumeid pole aga nii ilmsed. Adobe Photoshopi või sarnaste tööriistade abil enne generatiivse AI tulekut - eriti molekulaar- ja rakubioloogias -, sisaldavad sageli silmatorkavaid tunnuseid, mida detektiivid saavad tuvastada, näiteks identne taust või ebaharilik triipude või laikude puudumine. AI-genereeritud tegelased ei näita sageli selliseid omadusi. "Ma näen palju pabereid, mis panevad mind mõtlema, et need lääne blotid ei näe välja tõelised - aga suitsetamisrelva pole," ütleb Bik. "Ainus, mida võite öelda, on see, et nad näevad lihtsalt kummalised välja ja muidugi pole see toimetaja poole pöördumiseks piisav tõendusmaterjal."

Siiski on märke, et AI-genereeritud tegelased ilmuvad avaldatud käsikirjades. Selliste tööriistade kasutamisel nagu ChatGPT kasvab artiklid, mis ilmnevad tüüpiliste vestlusfraaside abil, mille autorid unustavad eemaldada ja eristatavad sõnad, mida AI mudelid kipuvad kasutama. "Nii et peame eeldama, et see juhtub ka andmete ja piltide puhul," ütleb Bik.

Veel üks näide, et petturid kasutavad keerukaid pildistamisriistu, on see, et enamik probleeme, mida uurijad leivad, ilmub praegu mitmeaastaste töödena. "Viimastel aastatel oleme piltidega vähem ja vähem probleeme näinud," ütleb Bik. "Arvan, et enamik piltidega manipuleerivaid inimesi hakkasid puhtamaid pilte looma."

Puhtade piltide loomine generatiivse AI -ga pole keeruline. Kevin Patrick, sotsiaalmeedias tuntud teaduslik pildidetektiiv, on näidanud, kui lihtne see olla saab, ja avaldas oma leiud X -il. Kasutades Photoshopi AI tööriistade generatiivset täitumist, lõi Patrick realistlikke pilte - mis võivad esineda teaduslikes paberites - kasvajate, rakukultuuride, lääne blottide ja muu kohta. Enamikul piltidel kulus loomiseks vähem kui minut (vt „Valeteaduse genereerimine”).

"Kui ma saan seda teha, siis teevad seda kindlasti ka need, kellele makstakse võltandmete loomise eest," ütleb Patrick. "Selliste tööriistade abil saab ilmselt palju muid andmeid genereerida."

Mõned kirjastajad teatavad avaldatud uuringutes tõendite leidmist AI-genereeritud sisu kohta. See hõlmab PLO-sid, mida on teavitatud kahtlasest sisust ja leiti tõendeid genereeritud teksti ja andmete kohta sisejuurdluste kaudu artiklites ja esildistes, ütles Californias San Franciscos asuva PLOS-i väljaannete eetikameeskonna toimetaja Renée Hoch. (Hoch märgib, et AI kasutamine pole PLOS -i ajakirjades keelatud ja AI poliitika põhineb autori vastutusel ja läbipaistval avalikustamisel.)

Muud tööriistad võiksid pakkuda ka võimalusi inimestele, kes soovivad luua võltsitud sisu. Eelmisel kuul avaldasid teadlased a 1 Generatiivne AI mudel kõrgresolutsiooniga mikroskoobi piltide loomiseks-ja mõned terviklikkuse spetsialistid väljendasid selle töö pärast muret. "Seda tehnoloogiat saavad halbade kavatsustega inimesed hõlpsalt kasutada sadu või tuhandeid võltspilte," ütleb Bik.

Tööriista looja Haifa Technioni-Iisraeli tehnoloogiainstituudi Yoav Shechtman ütleb, et tööriist on kasulik mudelite koolitusandmete loomiseks, kuna suure eraldusvõimega mikroskoobi pilte on keeruline hankida. Kuid ta lisab, et see pole võltsingute genereerimiseks kasulik, kuna kasutajatel on tulemuste üle vähe kontrolli. Ta soovitab, et olemasolev piltide redigeerimistarkvara, näiteks Photoshop on kasulikum.

Kuigi inimese silmad ei pruugi olla võimelised Tunnustage AI-genereeritud pilte, AI võiks seda teha (vt „AI pilte on raske ära tunda”).

Selliste tööriistade arendajad nagu Imagetwin ja Reinieg, kes kasutavad AI -d teaduslike piltide terviklikkuse probleemide tuvastamiseks, laiendavad oma tarkvara generatiivse AI loodud piltide filtreerimiseks. Kuna selliseid pilte on nii keeruline ära tunda, loovad mõlemad ettevõtted algoritmide koolitamiseks oma generatiivsete AI -piltide andmebaase.

Kinnisvara on juba oma tööriista funktsiooni välja andnud AI-genereeritud mikroskoobi piltide äratundmiseks. Iisraelis Rehovotis asuv kaasasutaja dror Kolodkin-Gal ütleb, et tuhandete AI-genereeritud ja artiklite reaalsete piltidega testimisel tuvastas algoritm õigesti AI-pilte 98% ajast ja nende valepositiivne määr oli 0,02%. Dror lisab, et meeskond üritab nüüd mõista, mida täpselt nende algoritm tuvastab.

"Mul on nende tööriistade jaoks suured lootused," ütleb Christopher. Siiski märgib ta, et nende tulemusi peavad alati hindama eksperdid, kes saavad kontrollida nende tekitatud probleeme. Christopher ei ole veel näinud ühtegi tõendit selle kohta, et AI pildituvastustarkvara on usaldusväärne (tõendusmaterjali sisehindamist pole veel avaldatud). Need tööriistad on "piiratud, kuid kindlasti väga kasulikud võimaldades meil oma esitamise ülevaatuse jõupingutusi laiendada," lisab ta.

Paljud kirjastajad ja uurimisasutused kasutavad seda juba Tõend ja Imagetwin. Näiteks kasutavad teadusajakirjad piltide terviklikkuse probleemide kontrollimiseks tõendit. Washington DC teaduse kommunikatsioonidirektori Meagan Phelani sõnul pole tööriist veel AI-genereeritud pilte avastanud.

Looduse kirjastaja Springer Nature töötab välja oma teksti- ja pildi tuvastamise tööriistad, mida nimetatakse Geppetto ja Snapshot, mis liputab ebakorrapärasusi, mida inimesed seejärel hindavad. (Looduseuudiste meeskond on oma kirjastajast toimetuslikult sõltumatu.)

Kirjastusrühmad astuvad samme ka genereeritud piltidele reageerimiseks. Suurbritannias Oxfordis asuva Teaduslike, Meditsiiniliste ja Meditsiiniliste kirjastajate Rahvusvahelise Assotsiatsiooni Assotsiatsiooni pressiesindaja ütles, et ta võtab küsimust "väga tõsiselt" ja reageerib sellistele algatustele nagu United2act ja STM -i terviklikkuse sõlmpunkt, mis käsitleb praeguseid probleeme kohustusliku kirjastamise ja muude akadeemiliste terviklikkuse probleemidega.

Christopher, kes juhib piltide muutuste ja dubleerimise STM -i töörühma, ütleb, et üha enam on teadlikkust, et on vaja välja töötada viise, kuidas kontrollida töötlemata andmeid - näiteks märgistades mikroskoopidega tehtud pilte nähtamatute vesimärkidega, mis on sarnased kasutatud kasutatavatega AI-genereeritud tekstides olevad vesimärgid - See võib olla õige tee. See nõuab seadmete tootjate jaoks uusi tehnoloogiaid ja uusi standardeid, lisab ta.

Patrick ja teised muretsevad, et kirjastajad ei käitu ohu lahendamiseks piisavalt kiiresti. "Me kardame, et see on vaid järjekordne põlvkond probleeme kirjanduses, millega nad ei tegele enne, kui on liiga hilja," ütleb ta.

Sellegipoolest on mõned optimistlikud, et tänapäeval artiklites ilmuv AI-genereeritud sisu avastatakse tulevikus.

"Mul on kindel, et tehnoloogia paraneb nii kaugele, et see tunnistab tänapäeval loodud andmeid - kuna mingil hetkel peetakse seda suhteliselt jämedaks," ütleb Patrick. "Petturid ei tohiks öösel hästi magada. Nad võiksid praegust protsessi petta, kuid ma ei usu, et nad saavad protsessi igavesti lollitada."

1. Saguy, A. jt. Väike met. https://doi.org/10.1002/smtd.202400672 (2024).

   Artikkel  
   
   Google Scholar  

Laadige alla viited