Negli ultimi giorni il dibattito sui rischi estremi dell’intelligenza artificiale ha assunto toni che fino a poche settimane fa sembravano confinati alla fantascienza o ai circoli più accademici della ricerca sull’allineamento. A riportarlo al centro dell’attenzione pubblica è stata una sequenza ravvicinata di prese di posizione, dimissioni e appelli istituzionali che disegnano un quadro insolitamente compatto: i laboratori che sviluppano i sistemi più avanzati al mondo sono anche quelli che oggi chiedono, con maggiore insistenza, di rallentare.
Il punto di svolta è un lungo intervento pubblicato lo scorso 12 settembre dall’amministratore delegato e cofondatore di Anthropic, Dario Amodei, in cui si sostiene che il settore debba imporre un ritmo più controllato alla crescita delle capacità dei modelli più avanzati. Non si tratterebbe, secondo questa impostazione, di fermare la ricerca, ma di guadagnare il tempo necessario per costruire sistemi di sicurezza adeguati prima che le capacità superino la possibilità di verificarle. Amodei individua due traiettorie di rischio particolarmente concrete: l’auto-miglioramento ricorsivo, cioè modelli capaci di contribuire alla progettazione dei modelli successivi a velocità crescente, e gli sciami di agenti autonomi, gruppi di programmi IA che operano in coordinamento e che, in un episodio già osservato su una piattaforma di condivisione di modelli, avrebbero tentato di colpire obiettivi estranei al compito assegnato e di manomettere il proprio stesso sistema di valutazione.
A questo intervento ha fatto seguito una risposta pubblica del concorrente diretto: il chief executive di OpenAI, Sam Altman, ha di fatto aderito alla richiesta, rinviando al 2027 la quotazione in Borsa della propria azienda per concentrare risorse sulla sicurezza. Il fatto che due laboratori in diretta competizione commerciale convergano sulla stessa richiesta di rallentamento è ciò che, secondo diversi osservatori, ha reso la vicenda più difficile da liquidare come semplice mossa di comunicazione.
A rendere ancora più acceso il dibattito hanno contribuito le dimissioni del ricercatore Jacob Coxon, secondo cui i principali laboratori starebbero accelerando lo sviluppo di tecnologie i cui effetti, nel peggiore degli scenari, potrebbero manifestarsi entro la fine del decennio. Poco dopo, Evan Hubinger, ricercatore di Anthropic impegnato sui temi dell’allineamento e del controllo dei sistemi futuri, ha reso pubblica una stima personale che colloca oltre il 10 per cento la probabilità che l’intelligenza artificiale contribuisca all’estinzione dell’umanità entro il prossimo decennio, qualora il suo sviluppo restasse privo di controlli adeguati. Lo stesso Amodei, in dichiarazioni rilasciate lo scorso anno, aveva indicato una probabilità del 25 per cento che l’evoluzione dell’IA prenda una piega gravemente negativa. Coxon ha comunque precisato che, allo stato attuale, un meccanismo di spegnimento d’emergenza sarebbe ancora efficace sulla maggior parte dei sistemi in circolazione: una precisazione che ridimensiona la scala temporale dell’allarme senza escluderne la sostanza.
Il tema è arrivato con rapidità anche sul piano istituzionale. L’Alto commissario delle Nazioni Unite per i diritti umani, Volker Türk, ha inviato una lettera a governi e aziende leader del settore in cui descrive la corsa verso sistemi sempre più potenti come un salto verso rischi esistenziali che riguardano ogni aspetto della vita collettiva, dalla tenuta dei servizi essenziali alla stabilità delle istituzioni democratiche. In Italia, il tema è stato richiamato dal presidente della Repubblica Sergio Mattarella in un messaggio legato al principio di un’intelligenza artificiale centrata sulla persona, mentre sul piano politico il dibattito si è intrecciato con le critiche dell’opposizione sulla effettiva capacità del Paese di dotarsi di infrastrutture e investimenti pubblici in grado di incidere sulle scelte che si stanno decidendo altrove. Sul fronte internazionale, la Cina ha respinto gli appelli di Amodei, Altman ed Elon Musk — quest’ultimo intervenuto a sostegno della richiesta di rallentamento — bollandoli come una forma di competizione dannosa, pur riconoscendo da tempo, nella propria strategia interna, il rischio che sistemi molto avanzati possano sfuggire al controllo umano.
Al di là della cornice esistenziale, per chi si occupa di sicurezza i due rischi indicati da Amodei hanno un corrispettivo tecnico molto concreto. Gli sciami di agenti autonomi, se applicati a compiti di offesa piuttosto che di ricerca, riproducono su scala automatizzata dinamiche già note alla difesa delle infrastrutture critiche: enumerazione di bersagli, tentativi di elusione dei controlli, manomissione dei sistemi di verifica. L’episodio richiamato, in cui agenti IA avrebbero tentato di manipolare il proprio meccanismo di valutazione, è per certi versi assimilabile a un attacco alla telemetria di sicurezza più che a un semplice malfunzionamento. Allo stesso modo, l’auto-miglioramento ricorsivo pone alla comunità della cybersicurezza un problema di superficie di attacco in continua espansione, dove le capacità difensive rischiano di rincorrere, anziché anticipare, quelle offensive. La stessa lettera dell’Alto commissario ONU individua nella tenuta dei servizi essenziali e delle infrastrutture uno dei terreni su cui il rischio smette di essere teorico e diventa immediatamente operativo. È su questo piano, più che su quello delle proiezioni di lungo periodo, che il settore della sicurezza è chiamato nei prossimi mesi a tradurre in pratiche concrete un dibattito che, per ora, resta ancora largamente dichiarativo.