AI Tool fremmer dialogen mellem mennesker med modstridende meninger
AI Tool fremmer dialogen mellem mennesker med modstridende meninger
Et chat -lignende værktøj, der understøttes af kunstig intelligens (AI), kan hjælpe mennesker med forskellige synspunkter for at finde enighedsområder. Dette vises af et eksperiment med online diskussionsgrupper.
Modellen udviklet af Google Deepmind i London var i stand til at syntetisere divergerende meninger og skabe resume af positionen for hver gruppe, der tog højde for forskellige perspektiver. Deltagerne foretrak resuméerne genereret af AI til dem, der er skrevet af menneskelige mediatorer. Dette indikerer, at sådanne værktøjer kunne bruges til at understøtte komplekse konsultationer. Undersøgelsen blev offentliggjort den 17. oktober i Magazine Science 1 .
"Du kan se det som et bevis på gennemførligheden, at du kan bruge AI, især store sprogmodeller, til at opfylde en del af den funktion, der i øjeblikket er opfyldt af borgernes møder og overvejende undersøgelser," siger Christopher Summerfield, co -forfatter for studiet og forskningsdirektøren ved UK AI Safety. "Folk er nødt til at finde ligheder, fordi kollektiv handling kræver godkendelse."
kompromismaskine
Demokratiske initiativer som borgernes møder, hvor grupper bliver bedt om at dele deres meninger om politiske spørgsmål, sikrer, at politikere hører forskellige perspektiver. Imidlertid kan udvidelsen af disse initiativer være vanskelige, fordi disse diskussioner ofte er begrænset til små grupper for at sikre, at alle stemmer høres.
nysgerrig efter forskning om mulighederne for store sprogmodeller (LLM'er) udviklede Summerfield sammen med sine kolleger en undersøgelse for at evaluere, hvordan AI kunne hjælpe mennesker med modsatte meninger med at opnå et kompromis.
De bruger en finjusteret version af den foruddannede Deepmind LLM Chinchilla, som de kaldte "Habermas Machine", opkaldt efter filosofen Jürgen Habermas, der udviklede en teori om, hvordan rationelle diskussioner kan hjælpe med at løse konflikter.
For at teste deres model rekrutterede forskerne 439 britiske beboere, der blev opdelt i mindre grupper. Hver gruppe drøftede tre spørgsmål om britiske politiske spørgsmål og delte deres personlige meninger. Disse udtalelser blev derefter ført ind i AI -maskinen, som genererede overordnede udsagn, der kombinerede perspektiverne for alle deltagere. Deltagerne var i stand til at evaluere enhver erklæring og indsende anmeldelser, som AI derefter indarbejdede i et sidste resumé af gruppens kollektive perspektiv.
"Modellen er uddannet til at fremlægge en erklæring, der understøttes af en gruppe mennesker, der frivilligt har udtrykt deres meninger," siger Summerfield. "Da modellen lærer, hvad dine præferencer er ved disse udsagn, kan den derefter oprette en erklæring, som sandsynligvis alle opfylder."
Ud over AI blev en deltager valgt som mægler. Han blev også bedt om at oprette et resumé, der bedst inkluderer synspunkterne fra alle deltagere. Deltagerne fik både resuméerne af AI og mægleren og skulle evaluere dem.
De fleste deltagere vurderede resuméerne skrevet af AI som bedre end mægleren. 56 % af deltagerne foretrak AI's ydeevne sammenlignet med 44 %, der foretrak menneskelig resume. Eksterne eksperter blev også bedt om at evaluere resuméerne og gav AI -resume højere anmeldelser vedrørende retfærdighed, kvalitet og klarhed.
Forskerteamet rekrutterede derefter en gruppe deltagere, der var demografisk repræsentative for den britiske befolkning til et virtuelt borgermøde. I dette scenarie steg gruppeaftalen om kontroversielle emner efter interaktion med AI. Denne erkendelse antyder, at når de er integreret i et rigtigt borgermøde, kunne AI -værktøjer gøre det lettere for lederne at udvikle politiske forslag, der tager forskellige perspektiver i betragtning.
"LLM kunne på mange måder bruges til at støtte og påtage sig konsultationer, der tidligere var forbeholdt menneskelige moderatorer," siger Ethan Busby, der undersøger, hvordan AI -værktøjer kunne forbedre demokratiske samfund på Brigham Young University i Provo, Utah. "Jeg betragter dette som spidsen af arbejdet på dette område, som har et stort potentiale til at tackle presserende sociale og politiske problemer." Summerfield tilføjer, at AI endda kunne hjælpe med at lave konfliktopløsningsprocesser hurtigere og mere effektivt.
mistede forbindelser
"At faktisk anvende disse teknologier i overvejende eksperimenter og processer er virkelig glædelig," siger Sammy McKinney, der undersøger det overvejende demokrati og dets grænseflader til kunstig intelligens ved University of Cambridge, UK. Men han tilføjer, at forskere nøje skal overveje de potentielle virkninger af AI på det menneskelige aspekt af overvejelsen. "En hovedårsag til at støtte borgerlige overvejelser er, at de skaber visse værelser, hvor mennesker kan forholde sig til hinanden," siger han. "Hvad mister vi, hvis vi i stigende grad fjerner menneskelig kontakt og menneskelig moderation?"
Summerfield anerkender de begrænsninger, der er forbundet med AI -teknologier som denne. "Vi trænede ikke modellen til at gribe ind i overvejelsen," siger han, hvilket betyder, at modellens erklæring også kunne indeholde ekstremistiske eller andre problematiske overbevisninger. Han tilføjer, at streng forskning på AI's virkninger på samfundet er afgørende for at forstå dens værdi.
"At handle omhyggeligt, virker vigtig for mig," siger McKinney, "og derefter tage skridt til at afbøde disse bekymringer, hvor det er muligt."
- >>
tessler, m.h. et al., Science 386, EADQ2852 (2024).