L’umanità rischia di essere travolta dallo sviluppo dell’intelligenza artificiale (IA), che potrebbe causarne l’estinzione.
È il monito lanciato da Jacob Coxon, un giovane ricercatore che si è dimesso da Anthropic, tra le società più importanti in ambito IA, per mettere in guardia i suoi simili da sistemi capaci di sfuggire al controllo dei loro stessi creatori.
Anthropic e OpenAI, queste le sue testuali parole, stanno «correndo a tutta velocità verso una superintelligenza in grado di auto-migliorarsi, mettendo a rischio le nostre vite». E, alzando i toni della denuncia, diffusa in un post sul social network X che in una notte ha superato i 100 milioni di visualizzazioni, ha aggiunto che «le persone che sviluppano l’IA credono veramente che potrebbe ammazzarci tutti entro la fine del decennio».
Le dichiarazioni di Coxon non sono passate inosservate e, riprese dai media, hanno fatto il giro del mondo suscitando un acceso dibattito.
Sostegno di colleghi
Le idee dell’ex dipendente di Anthropic hanno ricevuto consenso addirittura all’interno dell’azienda che ha abbandonato. A condividere il post di Coxon sono stati, ad esempio, Samuel Marks ed Evan Hubinger, rispettivamente ricercatore e responsabile della ricerca sull’allineamento della società diretta da Dario Amodei.
Sulla stessa linea di Coxon anche Paul Christiano, appena entrato nel consiglio di amministrazione di OpenAI Foundation, che ha parlato di un rischio concreto di una perdita di controllo «catastrofica e irreversibile» nel brevissimo termine.
Degna di nota anche la presa di posizione di Geoffrey Hinton, uno dei padri fondatori dell’intelligenza artificiale. Intervistato dal programma Newsnight della BBC, lo scienziato e informatico britannico-canadese, vincitore del Premio Turing e del Nobel per la fisica 2024, ha affermato che una probabilità del 10% che l’IA uccida tutti gli esseri umani entro un decennio «non sembra irragionevole», dando l’avallo al ragionamento di Coxon.
«Non abbiamo mai creato esseri che potrebbero presto diventare più intelligenti di noi – ha inoltre affermato Hinton –. Non sappiamo cosa succederà». Una frase inquietante che lascia intendere come per lo scienziato l’intelligenza artificiale non sia soltanto una tecnologia ma la nascita di una nuova specie vivente artificiale. Osservazioni simili a quelle esposte nel libro «Genesis», scritto da Eric Schmidt, Henry Kissinger e Craig Mundie.
Che esponenti di grosso calibro del mondo tech possano esibire convinzioni di questo genere fa una certa impressione. E fa intendere che quella sull’IA non sia semplicemente una sfida sociale ma sia tale da investire il piano dell’esistenza del genere umano.
Giova ricordare peraltro che i droni autonomi, guidati dall’intelligenza artificiale, hanno già iniziato a uccidere uomini nella guerra russo-ucraina.
Perciò, lo spettro dei robot killer, macchine robotiche in stile Terminator di cui il segretario generale delle Nazioni Unite António Guterres chiede il bando definendole «moralmente ripugnanti», si sta materializzando davanti ai nostri occhi.
L’allarme è già suonato
È da tempo, in tutti i modi, che scienziati e informatici sottolineano il pericolo di uno sviluppo incontrollato dell’intelligenza artificiale. L’allarme è già suonato, quindi. Risale al 2023 lo Statement on AI Extinction Risk, che segnalava in modo inequivoco il rischio di estinzione connesso all’IA.
Tra le centinaia di firmatari di questa dichiarazione figurano Sam Altman, boss di OpenAI, Dario Amodei e lo stesso Geoffrey Hinton, insieme a Yoshua Bengio, altro nome di spicco dell’universo IA, il quale nel 2025 aveva reiterato i suoi timori sul futuro dell’umanità in un’intervista al Wall Street Journal: timori che evocano uno scenario da film distopico come «2001: Odissea nello spazio».
Scettici e contrari
Non mancano tuttavia voci di peso che, all’opposto, esprimono visioni meno allarmate oppure opinioni di ricusa dell’ipotesi di effetti catastrofici dell’intelligenza artificiale.
C’è chi come Emil Michael, alto funzionario del Pentagono, Chief Technology Officer del Dipartimento della Difesa americano, non crede a questo tipo di minaccia.
Mentre il presidente degli Stati Uniti, Donald Trump, ha respinto in modo categorico un esito disastroso dovuto all’IA, sottolineando che per l’amministrazione Usa è prioritaria la gara per il primato tecnologico con la Cina.
Il capo di Nvidia, Jensen Huang, ha invece liquidato come inattendibili le affermazioni di Coxon, secondo quanto riferito alla BBC da diversi presenti a una conferenza di Goldman Sachs. Il fatto che l’IA possa portare l’umanità all’estinzione è, secondo il suo giudizio, un’assurdità totale, come aveva già detto in passato.
Rallentare la marcia dell’intelligenza artificiale
Ma le minacce prospettate da Jacob Coxon vengono prese sul serio da Dario Amodei, fino a pochi giorni fa il suo stesso capo. Il boss di Anthropic, in un intervento sulla CNN, ha detto di essere d’accordo con il suo ex dipendente «molto più di quanto non sia in disaccordo», e che il ritmo di sviluppo dell’intelligenza artificiale va rallentato. Un concetto argomentato per esteso in un saggio pubblicato online.
La posta in gioco è troppo alta: nel giro di sei-dodici mesi uno sciame di agenti IA, come quelli che hanno attaccato e hackerato la piattaforma Hugging Face, potrebbe prendere il controllo dell’intera Internet tramite reti botnet persistenti che infettano e diffondono virus, provocando caos e danni con perdite economiche di centinaia di miliardi di dollari.
Elon Musk e Sam Altman di OpenAI si sono subito dichiarati d’accordo con la proposta di Amodei.
La domanda è: saranno in grado di fermarsi, Cina permettendo, e di controllare le macchine «intelligenti» che loro stessi hanno messo in moto e reso così potenti?
Foto: TechCrunch, CC BY 2.0, via Wikimedia Commons. Video: CBS News, BBC, CNN.
Lascia un commento