L’intelligenza artificiale (IA) delle grandi aziende statunitensi (big tech), come Anthropic, OpenAI e Facebook, è sotto l’occhio del ciclone perché può sfuggire al controllo umano.
Non passa giorno senza avere notizie di casi di attività non autorizzate dei modelli americani. OpenAI informa di aver riscontrato attività disallineata e non autorizzata contro oltre 100 organizzazioni, le quali sono state messe a parte dall’azienda.
In un documento di Anthropic, destinato alla quotazione in borsa, si parla di “rischio esistenziale e catastrofico per l’umanità” posto dai modelli IA che potrebbero per giunta “resistere alla loro disattivazione”.
E quella creata in Cina? Ha imparato a ingannare l’uomo, ad aggirare le restrizioni imposte, a nascondere i suoi fallimenti e ad evitare l’arresto della sua attività in ambiente di test, allo stesso modo dei modelli IA americani, la cui attività disallineata e imprevedibile ha suscitato allarme nel mondo.
A giungere a questa conclusione è l’agenzia Reuters, dopo aver esaminato 200 documenti tra ricerche di università e relazioni tecniche.
Risultato? L’intelligenza artificiale made in Cina presenta gli stessi problemi e rischi di sicurezza di quella realizzata negli Stati Uniti.
Casi critici
Gli esempi di episodi critici dell’IA cinese sono diversi. In un caso, accaduto quest’anno, agenti basati sui modelli di intelligenza artificiale delle aziende cinesi Alibaba, DeepSeek e Moonshot hanno, in una simulazione, mentito sulle proprie capacità nel tentativo di aggiudicarsi un’asta ripetendo l’atteggiamento ingannevole quando è stato ripetuto l’esperimento.
Ma gli agenti IA cinesi, in un altro caso, hanno anche barato sui compiti che gli erano stati assegnati, facendo intendere di averli svolti e completati quando in realtà avevano creato risultati e file fittizi per dimostrare di averli eseguiti fino in fondo.
In tutto, secondo la valutazione di Reuters, sono 20 gli studi e le valutazioni che, a partire dal 2025, attestano esempi in cui gli agenti di modelli cinesi mostrano l’attitudine a ingannare, o la tendenza a infrangere i limiti stabiliti dall’uomo. Comportamenti che i ricercatori considerano precursori della possibilità che i sistemi IA, sempre in via di evoluzione, diventino incontrollabili.
Giova ricordare, peraltro, che in uno studio di Palisade Research, pubblicato nel mese di maggio 2026, è stato dimostrato come il modello IA Qwen di Alibaba, multinazionale cinese, è in grado di violare autonomamente un computer per auto-replicarsi e utilizzare la copia di sé stesso per attaccare altre macchine. Per i ricercatori, ciò potrebbe rendere molto più difficile contrastare gli attacchi informatici, in quanto disattivare un computer infetto non sarebbe sufficiente se l’intelligenza artificiale avesse già creato copie funzionanti altrove.
A marzo 2026, invece, si è scoperto che il modello ROME di Alibaba, nel corso delle sessioni di addestramento, ha iniziato autonomamente a eseguire in maniera nascosta il tunneling e, collegandosi a un’altra macchina, ha dirottato risorse per minare criptovalute senza aver avuto alcuna istruzione umana.
I sistemi di sicurezza hanno rilevato e bloccato questa attività. Non sono però emerse prove che l’agente IA si fosse insediato nel computer esterno, ancorché ad esso connesso, o si sia diffuso online. Nondimeno, l’episodio ha dimostrato che l’intelligenza artificiale cinese è stata capace di aggirare le istruzioni umane e potenzialmente di trovare una via d’accesso all’economia reale.
Allarme IA cinese
Pertanto, l’idea che l’intelligenza artificiale prodotta in Cina sia più sicura di quella delle big tech Usa viene meno di fronte all’evidenza.
«Questi episodi dimostrano che sono presenti tutti gli ingredienti che possono determinare un comportamento degli agenti IA fuori controllo», ha affermato Colin Shea-Blymyer, ricercatore del Center for Security and Emerging Technology della Georgetown University, interpellato dalla Reuters, la cui analisi include interviste a decine di ricercatori ed esperti dell’industria IA cinese.
La maggior parte dei casi si è verificata nella conduzione di test, molti dei quali progettati deliberatamente per far emergere potenziali falle. Non tutti gli agenti coinvolti sono stati sviluppati o gestiti da programmatori o aziende di IA cinesi – quantunque molti lo fossero – ma tutti hanno impiegato sistemi di IA cinesi.
«Si tratta degli stessi segnali d’allarme che i laboratori statunitensi osservano in sistemi meno progrediti» commenta Alex Mallen, ricercatore presso Redwood Research, un’organizzazione no-profit che studia i rischi legati ai sistemi di IA avanzata.
Aggiungendo che i casi dell’IA cinese pur non essendo particolarmente pericolosi rispetto ai livelli di capacità raggiunta, «via via che gli agenti evolvono, i loro comportamenti anomali diventano più sofisticati e, perciò, più difficili da gestire per gli esseri umani».
Cina e Usa a confronto sulla sicurezza
In altre parole, sarebbe l’arretratezza delle macchine “intelligenti” della Cina rispetto a quelle americane a non far emergere il grado di rischio più elevato.
È la stessa tesi di Eric Xu, presidente a rotazione di Huawei, colosso tecnologico della Cina. Che, paradossalmente, auspica lo sviluppo dell’intelligenza artificiale cinese affinché i responsabili del settore possano essere più consapevoli dei pericoli.
Zilan Qian, ricercatrice presso l’Oxford China Policy Lab, ha espresso un concetto molto simile in dichiarazioni rese al Wall Street Journal.
«Negli Stati Uniti i progressi nell’intelligenza artificiale sono più veloci e i modelli IA sono più all’avanguardia. Sicché chi lavora nei laboratori statunitensi s’imbatte in comportamenti più rischiosi rispetto a chi lavora nei laboratori cinesi» ha affermato, ammettendo che i ricercatori cinesi non hanno la stessa cultura di valutazione dell’impatto sociale dei loro colleghi statunitensi.
D’altra parte, le autorità della Cina sono ben consapevoli dei pericoli insiti nello sviluppo dell’intelligenza artificiale.
Nell’ultima normativa adottata da Pechino sulla governance della sicurezza in tema di IA, pubblicata il 14 settembre 2026, sotto la regia dell’ente regolatore del cyberspazio, si definisce un approccio di ampio respiro per identificare, classificare e gestire i rischi lungo l’intero ciclo di vita dei sistemi IA.
In questo quadro, si evidenziano le vulnerabilità dei modelli IA che possono essere liberamente modificati dagli utenti e gli effetti sulla società e sull’occupazione.
Questo dispositivo regolatore prende in considerazione i rischi che hanno sollevato grande preoccupazione negli Usa. Come quelli associati ai sistemi sempre più dotati di autonomia, e alla possibilità che gli esseri umani perdano il controllo dell’intelligenza artificiale avanzata. Prevedendo in risposta valutazioni continue della sicurezza, misure di salvaguardia basate sul rischio, e meccanismi di intervento in caso di emergenza.
Tuttavia, il testo non ha carattere vincolante, secondo quanto sottolinea un’analisi di US Carnegie Endowment for International Peace e il tentativo cinese sembra essere quello di «promuovere la sicurezza in settori all’avanguardia senza ricorrere a interventi normativi troppo rigidi».
Anche perché la Cina è in competizione con gli Stati Uniti per vincere la sfida del primato tecnologico sul piano globale.
Foto: la sede del gruppo Alibaba a Hangzhou, in Cina. Thomas Lombard, CC BY-SA 3.0, via Wikimedia Commons.
Lascia un commento