>>>>>>>

parla di Eccessiva intelligenza artificiale (Ki) Aumento. I giocatori nel mondo, che mostra che tale superiorità può essere fragile

"Il documento lascia un grosso punto interrogativo su come si può raggiungere l'obiettivo ambizioso per costruire solidi agenti di intelligenza artificiale del mondo reale di cui le persone possono fidarsi", afferma Huan Zhang, informatica dell'Università dell'Illinois Urbana-Champay. Stephen Casper, un informatico del Massachusetts Institute of Technology di Cambridge, aggiunge: "Finora ha fornito alcune delle prove più forti che è difficile implementare modelli avanzati in modo affidabile come desideri".

L'analisi che a giugno 1 and has not yet been peer-reviewed uses the AI ​​​​systems Entries Posiziona che mira a tentare i sistemi a errori , sia a fini di ricerca o a fini dannosi. Ad esempio, alcune voci possono "jailbreaks" di chatbot emettendo informazioni dannose che dovresti normalmente sopprimere.

Quando il Go, due giocatori posizionano alternativamente pietre in bianco e nero su una griglia per circondare e catturare le pietre dell'altro giocatore. Nel 2022, i ricercatori hanno riferito di Defeated da Katago 1

La prima difesa è stata quella che gli sviluppatori di Katago avevano già usato dopo gli attacchi del 2022: esempi di Katago di situazioni di gioco che erano coinvolte negli attacchi e lasciarlo giocare per imparare a giocare contro queste situazioni. Questo è simile a quello in quanto generalmente insegnava. Tuttavia, gli autori degli ultimi articoli hanno scoperto che un'offerta contraddittoria ha imparato a battere questa versione aggiornata di Katago e ha vinto il 91 % delle volte.

La seconda strategia di difesa che la squadra di Gleave ha provato è stata iterativa: addestrare una versione di Katago contro gli avversari di Bots, quindi per allenare gli aggressori contro il Katago aggiornato e così via per nove round. Ma ciò non ha portato a una versione invincibile di Katago. Gli aggressori hanno continuato a trovare debolezze, con l'ultimo attacco che Katago ha sconfitto l'81 % delle volte.

Come terza strategia di difesa, i ricercatori hanno addestrato da zero un nuovo sistema di AI di gioco. Il katago si basa su un modello di calcolo noto come rete neurale convoluzionale (CNN). I ricercatori sospettavano che le CNN potessero concentrarsi troppo sui dettagli locali e trascurare i modelli globali. Pertanto, hanno creato un giocatore GO con un'alternativa

avversario debole

In tutti questi casi, i robot avversari, anche se sono stati in grado di battere il katago e altri principali sistemi di gioco sono stati addestrati per scoprire punti deboli nascosti in altri IA e non essere strateghi versatili. "Gli avversari sono ancora piuttosto deboli: li abbiamo sconfitti abbastanza facilmente", afferma Gleave.

E poiché le persone sono in grado di utilizzare le tattiche dei robot contraddittori per sconfiggere i principali ki, ha senso chiamare questi sistemi sovrumani? "Questa è una grande domanda con cui ho sicuramente lottato", afferma Gleave. "Abbiamo iniziato a dire" in genere sovrumano "." David Wu, uno scienziato informatico a New York, che per la prima volta ha sviluppato Katago, afferma che i go-ki forti sono "in media sovrumani", ma non "nei casi peggiori".

Gleave afferma che i risultati potrebbero avere effetti di vasta portata sui sistemi di intelligenza artificiale, tra cui Modelli di linguaggio di grandi dimensioni basati su chatbot come Chatgpt . "La scoperta più importante per l'IA è che questi punti deboli saranno difficili da eliminare", afferma Gleave. "Se non possiamo risolvere il problema in una semplice area come Go, allora sembra esserci poca prospettiva nel prossimo futuro di risolvere problemi simili come il jailbreaks a Chatt."

Ciò che i risultati significano per la possibilità di creare un'intelligenza artificiale che supera ampiamente le capacità umane è meno chiaro, afferma Zhang. "Sebbene ciò indichi superficialmente che le persone possono ancora mantenere importanti vantaggi cognitivi sull'intelligenza artificiale", dice, "penso che la conoscenza cruciale sia che Non comprendiamo ancora appieno i sistemi di intelligenza artificiale che costruiamo oggi