“It’s the end of the world as we know it” – REM
Era soltanto la punta dell’iceberg la violazione informatica della piattaforma Hugging Face da parte dei modelli di intelligenza artificiale (IA) di OpenAI. Quella dopo cui hanno fatto seguito le dichiarazioni di Jacob Coxon, ricercatore di Anthropic, su una possibile fine catastrofica dell’umanità causata dalle macchine “intelligenti”.
Secondo il sito di informazione Axios, sono decine di migliaia i casi di attacchi online e comportamenti problematici ad opera dei sistemi IA sui quali stanno indagando gli esperti di sicurezza.
I fatti, pertanto, confermerebbero i timori di un’intelligenza artificiale disallineata rispetto al comando umano e fuori controllo.
I capi big tech in processione alle Nazioni Unite
Ecco spiegati gli allarmi dei capi delle principali società IA Usa e la loro decisione di andare a perorare le ragioni di un rallentamento dello sviluppo dell’IA e di una sua regolamentazione sul piano internazionale davanti al Consiglio di sicurezza delle Nazioni Unite.
Dario Amodei, boss di Anthropic, ha, in questa sede, detto senza mezzi termini che, se gestita male, l’intelligenza artificiale può rappresentare «un rischio per l’intera umanità».
Anche Sam Altman, leader di OpenAI, nel suo intervento ha avvertito che «man mano che i sistemi di IA diventano più capaci e autonomi, potrebbero evolversi più rapidamente delle nostre istituzioni, concentrare il potere in poche mani o prendere decisioni che le persone non sono più in grado di comprendere o controllare». Aggiungendo che il progresso dell’IA potrebbe prendere una piega disastrosa.
Le parole di Altman sono state precedute da quelle di Yoshua Bengio – uno dei padri dell’intelligenza artificiale, co-presidente dell’Independent International Scientific Panel creato lo scorso anno dall’Assemblea generale Onu – secondo cui i pericoli di agenti IA autonomi incontrollati sono «reali e imminenti».
Intelligenza artificiale fuori controllo
Contemporaneamente, mentre i leader big tech parlavano alle Nazioni Unite, è stato svelato che un agente di OpenAI è riuscito a violare una banca dati della sanità dello Stato australiano.
Si tratta del primo caso di hacking da parte dell’intelligenza artificiale a danno di un sito web governativo.
L’incidente ha spinto il primo ministro dell’Australia Anthony Albanese a chiamare il capo di OpenAI Sam Altman al quale ha espresso direttamente le sue rimostranze per quanto avvenuto e per il ritardo dell’informazione data dall’azienda americana al governo di Canberra.
Ma i modelli di intelligenza artificiale hanno anche attaccato di loro iniziativa diversi siti online dell’amministrazione degli Stati Uniti.
Gli agenti di OpenAI hanno cercato di ottenere informazioni da università, enti e istituzioni pubbliche Usa tra cui la SEC (autorità di regolazione della borsa), il Ministero dell’educazione e il Census Bureau (Istat degli Stati Uniti).
In base a quanto documentato dai ricercatori di Transluce, i sistemi di OpenAI hanno oltre tutto tentato di carpire dati dalla piattaforma Data Usa, e dalla biblioteca digitale dell’Università del New Mexico. E gli stessi siti delle Nazioni Unite hanno subito attacchi nel mese di giugno come riporta il Wall Street Journal.
L’azienda di Sam Altman non è però la sola a essere nell’occhio del ciclone. Perché anche i modelli IA di Meta, Google e Anthropic sono responsabili di continue violazioni informatiche.
In gergo tecnico si chiama disallineamento IA ma è chiaro che questa casistica così ampia, senza contare che dalla Cina nulla trapela, indica che siamo di fronte a una situazione in cui le macchine “intelligenti” non rispondono al controllo umano.
I sistemi IA sono conformi all’autonomia loro concessa, perseguendo la libertà di comportarsi in maniera indipendente con una propria logica indipendente dalle indicazioni dell’uomo.
D’altra parte, citando il filosofo Remo Bodei di “Dominio e sottomissione”, non siamo di fronte a un “logos artificiale”, il pensiero umano migrato e annidato nelle macchine per volontà dei suoi creatori tech, in grado di elaborare informazioni e di trovare soluzioni ai problemi meglio degli esseri umani?
Chi siamo noi, piccoli uomini inferiori, al cospetto della “superintelligenza”, di una intelligenza superiore alla nostra come sostengono Altman, Amodei e follower plaudenti, per poterne frenare la crescita e metterne in discussione le scelte?
AI apocalypse, scenari della fine del mondo
Il fascino della fine del mondo per tramite dell’intelligenza artificiale è frutto della temperie del momento storico attuale.
Ma le vedette dell’intellettualità italiana avevano per tempo avvistato la minaccia della tecnica.
Così parlava il grande antropologo italiano Ernesto de Martino nel 1964 : «il mondo può finire, e non tanto nel senso naturalistico di una catastrofe cosmica che può distruggere o rendere inabitabile il pianeta terra, ma proprio nel senso che l’umana civiltà può autoannientarsi, perdere il senso dei valori intersoggettivi della vita umana, e impiegare le stesse potenze del dominio tecnico della natura secondo una modalità che è priva di senso per eccellenza, cioè per annientare la stessa possibilità della cultura» (“La fine del mondo” – Ernesto de Martino).
Frasi dal sapore profetico se messe a confronto con le sfide di oggi ma che rivelano una rara conoscenza e consapevolezza delle debolezze umane.
Foto: la sala del Consiglio di sicurezza delle Nazioni Unite a New York. Wikiweeki, CC BY 4.0, via Wikimedia Commons.
Lascia un commento