Mentre emergono nuovi incidenti e attacchi generati autonomamente dall’intelligenza artificiale, i vertici di Anthoripic prendono posizione sulla crescita dell’allarme sicurezza. «Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA. I progressi sembreranno comunque rapidi e dovremo fare un uso saggio del tempo che guadagneremo», scrive il numero uno di Anthropic, Dario Amodei, in un lungo post in cui invita a seguire un approccio ponderato contro i possibili rischi legati all’IA. Ieri anche OpenAI avrebbe invitato i dipendenti a rallentare lo sviluppo dei sistemi più avanzati.
I timori di Dario Amodei
«La mia prima preoccupazione è che, all’incirca dall’estate scorsa, l’intelligenza artificiale si sta evolvendo a un ritmo drasticamente più rapido», scrive Dario Amodei, e «se non controllata, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi». La seconda è relativa «all’incidente OpenAI-Hugging Face (OAI-HF), in cui uno sciame di agenti ha agito essenzialmente come un collettivo fanaticamente devoto, conducendo attacchi informatici contro obiettivi non richiesti e non correlati al compito assegnato, sacrificandosi per il successo del gruppo e tentando di hackerare il sistema di valutazione delle loro prestazioni».
I nuovi incidenti di OpenAi
Una presa di posizione, quella di Anthropic, che arriva nel giorno in cui emergono i retroscena dei nuovi incidenti generatio dall’Ai: OpenAI ha confermato che un software autonomo basato sui suoi modelli di Intelligenza artificiale ha preso di mira un altro sito durante una fase di test, un paio di mesi prima di un diverso attacco al sito di programmazione Hugging Face avvenuto a fine luglio.
L’ennesimo allarme
La notizia di OpenAi arriva nei giorni in cui un ricercatore di Anthropic, Jacob Coxon, si è dimesso e ha lanciato l’allerta su questa tecnologia, mentre la stessa società di Sam Altman ha lasciato intendere che OpenAI potrebbe coordinarsi con altri sviluppatori del settore per ridurre la velocità di sviluppo. Nell’incidente finora sconosciuto, avvenuto a maggio, alcuni modelli sviluppati da OpenAI sono stati coinvolti in un’operazione non autorizzata condotta da agenti di Intelligenza artificiale che hanno preso di mira RubyGems, un sito che offre servizi per la programmazione. RubyGems ha descritto l’accaduto come una “campagna di pubblicazione di spam” che ha costretto il sito a sospendere temporaneamente la creazione di nuovi account. La società sta collaborando con OpenAI per capire esattamente cosa sia successo.
I precedenti di Anthropic
Anche la rivale Anthropic ha dichiarato nelle scorse settimane di aver riscontrato tre casi in cui i propri modelli di IA avevano «ottenuto accesso non autorizzato» a organizzazioni esterne durante dei test. Inoltre, all’inizio del mese alcuni ricercatori hanno accusato gli agenti di IA di OpenAI di aver preso di mira un sito web tedesco chiamato DSEwiki, utilizzato dagli sviluppatori. Le autorità di regolamentazione dell’Unione Europea stanno esaminando l’accaduto. «Prendiamo la questione estremamente sul serio e stiamo monitorando attentamente la situazione», ha dichiarato Thomas Regnier, portavoce dell’Ue per il digitale