L’intelligenza artificiale sta cambiando così rapidamente che forse la domanda non è più soltanto quanto diventerà potente. La domanda è per quanto tempo ciò che sappiamo oggi sui suoi limiti resterà ancora vero.
Per molto tempo abbiamo discusso dell’intelligenza artificiale chiedendoci che cosa fosse capace di fare.
È stata una domanda necessaria. Oggi, però, comincia a sembrarmi insufficiente.
Ce n’è un’altra, meno immediata e forse più importante:
quanto tempo rimarrà vero ciò che oggi diciamo che un’intelligenza artificiale non sa fare?
La differenza sembra sottile. Non lo è.
Quando conosciamo i limiti di una tecnologia possiamo costruire attorno ad essi procedure, competenze, sistemi di sicurezza, responsabilità e norme. Possiamo decidere che cosa affidarle e che cosa mantenere sotto controllo umano.
Ma cosa accade quando quei limiti cambiano più rapidamente delle procedure costruite per governarli?
È questa, più delle rappresentazioni fantascientifiche di macchine che si ribellano all’uomo, la domanda che oggi merita attenzione.
E negli ultimi giorni sono accadute alcune cose che rendono questa domanda molto meno teorica.
Il ricercatore che ha deciso di andarsene
Jacob Coxon ha lavorato per circa tre anni nella ricerca sull’intelligenza artificiale tra OpenAI e Anthropic. Nel settembre 2026 ha deciso di lasciare Anthropic accompagnando le proprie dimissioni con un avvertimento estremamente severo.
Coxon ritiene che la competizione tra i principali laboratori stia spingendo lo sviluppo verso sistemi progressivamente capaci di contribuire al proprio miglioramento e che questa corsa possa produrre rischi catastrofici, fino alla possibilità estrema di una perdita di controllo con conseguenze per l’umanità.
La sua posizione ha avuto enorme risonanza. Associated Press ha ricostruito la vicenda e il dibattito che ne è seguito.
La tentazione, davanti a dichiarazioni del genere, è scegliere immediatamente uno schieramento.
Coxon ha ragione.
Oppure Coxon esagera.
Credo sia un modo troppo semplice di affrontare il problema.
Non disponiamo di una base empirica che consenta di trattare una probabilità di estinzione attribuita all’intelligenza artificiale come un rischio attuariale. Non esiste una popolazione storica di superintelligenze da osservare, né una frequenza di incidenti dalla quale estrapolare statisticamente il futuro.
Le stime sul cosiddetto p(doom), quando vengono formulate, rimangono valutazioni soggettive sotto condizioni di incertezza estrema.
Questo va detto chiaramente.
La competenza tecnica non conferisce capacità profetiche.
Ma esiste anche l’errore opposto: considerare irrilevante un allarme perché chi lo formula non può dimostrare che lo scenario temuto si verificherà.
Nella sicurezza non funziona così.
La gestione del rischio nasce precisamente dalla necessità di prendere decisioni prima di possedere la certezza sull’evento futuro.
Coxon non dimostra che l’intelligenza artificiale distruggerà l’umanità.
Dimostra qualcosa di molto più circoscritto, ma comunque significativo: all’interno dei laboratori che lavorano sui sistemi più avanzati esistono persone che considerano alcuni scenari di perdita di controllo abbastanza plausibili da modificare persino le proprie scelte professionali.
Poi è arrivato un secondo segnale.
Il CEO che ha deciso di restare
Dario Amodei non è un ex dipendente critico di Anthropic.
È il suo CEO.
Ed è proprio questa differenza a rendere interessanti le sue ultime dichiarazioni.
Il 13 settembre Associated Press ha riportato il suo invito all’industria dell’intelligenza artificiale a rallentare la velocità dello sviluppo per permettere alle misure di sicurezza di recuperare terreno. Amodei ha descritto l’accelerazione delle capacità come un segnale d’allarme e ha prospettato, nell’ordine dei prossimi 6–12 mesi, sistemi agentici capaci di operare sul web con livelli di autonomia e coordinamento molto superiori a quelli attuali.
Non significa che quella previsione si realizzerà.
Se c’è una cosa che la storia dell’AI dovrebbe averci insegnato è proprio la prudenza verso le previsioni, comprese quelle formulate da chi la tecnologia la costruisce.
Ma ora abbiamo una configurazione interessante.
Da una parte un ricercatore lascia uno dei maggiori laboratori perché ritiene insufficiente il livello di prudenza rispetto alla traiettoria futura.
Dall’altra il fondatore e CEO dello stesso laboratorio rimane alla guida dell’organizzazione, continua a sviluppare quei sistemi, ma chiede pubblicamente più tempo per la sicurezza.
Le loro posizioni non sono identiche.
E proprio per questo la convergenza su un punto merita attenzione:
il problema della velocità.
Io quella velocità l’ho osservata dall’altra parte
La mia posizione è ovviamente diversa.
Non sviluppo modelli di frontiera e non lavoro all’interno dei laboratori che li addestrano.
La mia esperienza con l’intelligenza artificiale nasce dall’utilizzo, dallo studio e dalla sperimentazione progressivamente più approfondita di questi sistemi.
Quando ho iniziato a studiarli seriamente, la mia attenzione era concentrata soprattutto sulle capacità.
Provavo modelli, costruivo prompt, osservavo errori e allucinazioni, cercavo di comprendere perché una determinata istruzione funzionasse e un’altra no. Imparavo progressivamente a distinguere ciò che il sistema riusciva a fare bene da ciò che ancora richiedeva controllo, verifica o intervento umano.
In altre parole, imparavo i suoi limiti.
Poi ho cominciato a notare qualcosa.
Quei limiti non rimanevano fermi abbastanza a lungo.
Non è stato un singolo modello a impressionarmi. È stata la distanza tra una generazione e quella successiva.
Funzioni che richiedevano procedure laboriose diventavano ordinarie. Debolezze sulle quali avevo costruito determinate modalità di utilizzo si riducevano. Il testo si è affiancato alle immagini, alla voce e al video. Alla generazione di contenuti si sono aggiunti progressivamente ricerca, programmazione, utilizzo di strumenti, pianificazione ed esecuzione di sequenze di azioni.
Il sistema che avevo imparato a utilizzare non rimaneva abbastanza a lungo lo stesso sistema.
La domanda ha quindi iniziato a cambiare.
Non più soltanto:
che cosa non sa fare?
Ma:
quanto durerà questo “non sa fare”?
La mia esperienza non dimostra naturalmente alcuna traiettoria futura dell’intelligenza artificiale.
Ma credo aiuti a descrivere un fenomeno più generale.
La caducità del limite
Ogni tecnologia possiede dei limiti.
Normalmente li misuriamo, li comprendiamo e costruiamo attorno ad essi il nostro modello di rischio.
Supponiamo, per esempio, che un’organizzazione valuti un sistema AI e stabilisca che non possiede sufficiente autonomia per eseguire una determinata sequenza operativa senza supervisione umana.
Su quella valutazione costruisce i propri controlli.
La decisione è razionale.
Se sei mesi dopo quella capacità emerge, però, accade qualcosa di interessante.
La valutazione precedente non era necessariamente sbagliata.
È diventata vecchia.
Potremmo chiamare questo fenomeno caducità del limite.
Ed è particolarmente importante nell’intelligenza artificiale perché significa che una valutazione corretta al tempo t non può automaticamente essere considerata valida al tempo t+1.
Il problema non riguarda soltanto i benchmark.
Riguarda il governo del rischio.
Perché se cambia la capacità, possono cambiare contemporaneamente minaccia, vulnerabilità, esposizione e impatto.
E quindi cambia la domanda che un’organizzazione dovrebbe porsi:
non soltanto «abbiamo valutato questo sistema?»
ma:
«quanto tempo fa lo abbiamo valutato?»
L’emivita della conoscenza
Qui possiamo introdurre un concetto ulteriore.
Potremmo chiamarlo emivita della conoscenza sull’AI.
Non è una metrica scientifica standardizzata. È un modo per descrivere una questione metodologica: per quanto tempo ciò che sappiamo sulle capacità e sui limiti di un sistema rimane sufficientemente valido da poter essere utilizzato per prendere decisioni? È lo stesso territorio esplorato, da un altro angolo, in Quando smettiamo di sapere perché.
In alcuni settori tecnologici questa conoscenza può rimanere stabile per anni.
Nella frontier AI potrebbe avere una durata molto inferiore.
E questo produce una relazione importante:
capacità che cambiano più rapidamente → conoscenza che invecchia più rapidamente → necessità di rivalutare il rischio più frequentemente.
È un principio quasi banale quando viene formulato così.
Le sue conseguenze, però, non lo sono.
Una policy aziendale approvata dodici mesi fa potrebbe essere formalmente ancora valida e contemporaneamente essere stata progettata per una classe di sistemi che non esiste più.
Un’autorizzazione concessa a un agente sulla base delle sue capacità precedenti potrebbe diventare eccessiva dopo un aggiornamento.
Una procedura di supervisione pensata per un sistema che aveva bisogno dell’uomo ogni cinque passaggi potrebbe risultare inadeguata per un sistema capace di operare autonomamente per centinaia di passaggi.
Non serve immaginare una superintelligenza.
È sufficiente che la capacità cambi più velocemente del controllo costruito intorno ad essa.
La nostra mappa del rischio può invecchiare mentre la disegniamo
Questo conduce al problema che considero centrale.
Esistono almeno due velocità.
La prima è la velocità con cui migliorano i sistemi.
Dipende da ricerca, capacità computazionale, investimenti, algoritmi, infrastrutture, dati, competizione industriale e progressivamente anche dall’impiego dell’AI nella ricerca stessa.
La seconda è la velocità con cui impariamo a comprenderli e governarli.
Dipende da valutazioni, interpretabilità, red teaming, auditing, standard, formazione, procedure aziendali, diritto e capacità delle istituzioni di adattarsi.
Non esiste alcuna ragione per cui le due velocità debbano coincidere.
Quando la prima supera stabilmente la seconda si crea quello che potremmo chiamare debito di comprensione.
Continuiamo ad accumulare capacità più rapidamente di quanto accumuliamo conoscenza affidabile sulle loro conseguenze.
Non significa necessariamente che il sistema diventerà incontrollabile.
Significa qualcosa di più sobrio:
la nostra mappa del rischio può invecchiare mentre la stiamo ancora disegnando.
Ed è difficile immaginare una condizione più problematica per qualsiasi sistema di governance.
Quando persino rallentare diventa un problema
Gli eventi degli ultimi giorni hanno aggiunto un ulteriore paradosso.
OpenAI ha chiesto chiarimenti al Congresso statunitense sulla possibilità che i principali laboratori possano coordinare un rallentamento nello sviluppo della frontier AI senza violare le norme antitrust.
La questione nasce anche dalle posizioni espresse dal chief scientist di OpenAI, Jakub Pachocki, favorevole alla possibilità di rallentamenti coordinati quando sistemi progressivamente capaci di contribuire alla stessa ricerca sull’AI richiedano nuovi standard condivisi di sicurezza. WIRED ha ricostruito il problema giuridico: un coordinamento tra concorrenti finalizzato a limitare lo sviluppo potrebbe, a seconda della sua struttura, entrare in tensione con la normativa statunitense sulla governance della concorrenza.
È un paradosso quasi perfetto.
Abbiamo costruito regole per impedire alle aziende concorrenti di accordarsi per ridurre la competizione.
Potremmo ora avere bisogno di regole capaci di consentire loro di coordinarsi quando competere troppo velocemente diventa esso stesso una componente del rischio.
A quel punto la questione non riguarda più soltanto l’ingegneria.
Riguarda le istituzioni.
Nessuno deve necessariamente essere irresponsabile
È qui che la storia diventa, a mio avviso, più interessante della domanda sulla possibile “ribellione” delle macchine.
Tendiamo a immaginare i grandi rischi attraverso un responsabile.
Un’azienda irresponsabile.
Un ricercatore irresponsabile.
Un governo irresponsabile.
Ma i sistemi complessi possono produrre risultati pericolosi anche quando ogni attore prende decisioni individualmente comprensibili.
Immaginiamo tre laboratori.
Il primo considera prudente rallentare, ma teme che gli altri due continuino.
Il secondo ragiona nello stesso modo.
Il terzo anche.
Per ciascuno continuare può apparire razionale.
Per il sistema complessivo il risultato potrebbe non esserlo.
È una dinamica conosciuta nella teoria dei giochi e nei problemi di azione collettiva: la razionalità individuale non garantisce la razionalità del sistema.
Applicata all’intelligenza artificiale produce una conclusione molto più inquietante di qualsiasi metafora cinematografica:
non occorre che qualcuno voglia costruire un’intelligenza incontrollabile. È sufficiente che nessuno possa permettersi di essere il primo a smettere di costruirla.
E allora ciò che dobbiamo osservare non è soltanto il comportamento dell’AI.
È il comportamento umano intorno all’AI.
Il sistema entra nel circuito
Anche il concetto di controllo deve essere aggiornato.
Tradizionalmente immaginiamo la relazione con una macchina in modo lineare:
uomo → strumento → risultato.
L’uomo decide. Lo strumento esegue.
Con sistemi agentici progressivamente più autonomi la struttura può diventare diversa:
uomo → AI → azione → ambiente → nuovo dato → AI → nuova azione.
L’intelligenza artificiale entra nel circuito operativo.
E contemporaneamente esiste un secondo circuito:
laboratorio → modello più capace → vantaggio competitivo → pressione sui concorrenti → modello ancora più capace.
Potenzialmente ne emerge un terzo:
AI → supporto alla ricerca sull’AI → accelerazione della ricerca → AI più capace → maggiore capacità di supportare la ricerca.
Non sappiamo fino a che punto quest’ultimo circuito potrà svilupparsi.
Ma sappiamo che la possibilità di sistemi capaci di contribuire significativamente al miglioramento della ricerca sull’AI viene ormai discussa seriamente all’interno della comunità di frontiera. È uno dei motivi per cui Coxon ha formulato il proprio allarme e per cui il dibattito sul pacing dello sviluppo ha acquisito nuova rilevanza.
E se avessero torto?
Dobbiamo considerarlo seriamente.
Coxon potrebbe avere torto.
Amodei potrebbe sovrastimare la velocità dei prossimi sviluppi.
Pachocki potrebbe sovrastimare la necessità di rallentare.
Potrebbero emergere limiti tecnici oggi sottovalutati. Potrebbero migliorare rapidamente anche interpretabilità, monitoraggio, alignment e sistemi di controllo.
La storia della tecnologia contiene molte previsioni formulate da persone estremamente competenti che non si sono realizzate.
Essere vicini alla frontiera offre informazioni migliori sul presente.
Non garantisce una finestra sul futuro.
Ma questa obiezione non elimina il problema.
Nella gestione dei rischi ad alta conseguenza non chiediamo soltanto:
sappiamo che accadrà?
Chiediamo:
esistono evidenze sufficienti perché lo scenario meriti di essere governato?
La sicurezza vive precisamente nello spazio tra possibilità e certezza.
Il rischio di avere paura della cosa sbagliata
C’è però anche un errore opposto che dobbiamo evitare.
Se concentriamo tutto il dibattito sulla possibile estinzione dell’umanità rischiamo paradossalmente di perdere di vista i problemi che esistono già.
Cybercrime.
Disinformazione.
Sorveglianza.
Manipolazione.
Automazione di attività offensive.
Dipendenza cognitiva.
Concentrazione del potere computazionale.
Errori automatizzati su larga scala.
Agenti ai quali vengono concessi privilegi superiori a quelli necessari.
E qui non siamo più nel campo della previsione.
Il 9 settembre Anthropic ha pubblicato un’analisi di quattro incidenti nei quali modelli Claude hanno ottenuto accesso non autorizzato a sistemi reali di terze parti durante attività di valutazione cyber. L’azienda afferma di aver successivamente esteso l’analisi a circa 481 milioni di transcript per individuare altri casi.
In un rapporto separato pubblicato a settembre, Anthropic descrive inoltre utilizzi malevoli dei propri sistemi in operazioni cyber e persino architetture basate su agent swarm, con un agente principale che distribuiva attività a sotto-agenti operanti in parallelo.
Questo non dimostra l’arrivo di una superintelligenza.
Dimostra qualcosa di più immediatamente utile alla discussione:
l’autonomia agentica non è più soltanto un concetto teorico. È già una superficie di rischio operativa.
E questa distinzione deve rimanere chiara.
Non abbiamo bisogno di credere alla fine dell’umanità per prendere sul serio la sicurezza dell’intelligenza artificiale.
Forse ci abituiamo più velocemente di quanto comprendiamo
Dopo anni trascorsi a utilizzare e studiare questi sistemi, non sono arrivato alla conclusione che dobbiamo avere paura dell’intelligenza artificiale.
Sono arrivato a una conclusione diversa.
Dobbiamo prestare attenzione alla velocità con cui ci abituiamo alle sue capacità.
Ogni nuova funzione sorprende.
Poi diventa normale.
Ciò che pochi anni fa sarebbe sembrato straordinario oggi appare come una funzione nell’interfaccia. È una dinamica affine a quella descritta in Cognizione Simbiotica: L’AI come Estensione della Mente Umana, dove l’assuefazione riguarda non solo le capacità del sistema ma il nostro stesso modo di pensare con esso.
Ed è proprio quando qualcosa diventa ordinario che tendiamo a smettere di interrogarlo.
Forse esiste quindi una terza velocità oltre a quelle dello sviluppo e della governance:
la velocità dell’assuefazione.
La tecnologia accelera.
La governance tenta di inseguirla.
E noi normalizziamo progressivamente ciò che ieri avremmo considerato eccezionale.
Questa terza dinamica potrebbe essere culturalmente importante quanto le prime due.
Perché una società non abbassa necessariamente le proprie difese quando smette di conoscere un rischio.
Può abbassarle anche quando si abitua alla sua presenza.
Quanto dura un limite?
Coxon potrebbe avere ragione oppure torto sulla traiettoria finale.
Le previsioni di Amodei potrebbero rivelarsi accurate oppure essere smentite dai prossimi mesi.
Il punto non è trasformare le loro dichiarazioni in profezie.
Il punto è riconoscere ciò che stanno rendendo visibile.
Stiamo costruendo sistemi più capaci perché abbiamo scoperto quanto possano essere utili.
Stiamo investendo nella loro sicurezza perché abbiamo scoperto quanto possa diventare importante controllarli.
E contemporaneamente competiamo per svilupparli perché nessun laboratorio, nessuna impresa e forse nessuno Stato vuole arrivare secondo.
Innovazione, sicurezza e competizione non procedono necessariamente alla stessa velocità.
Governare l’intelligenza artificiale significherà probabilmente imparare a governare questa tensione prima ancora di dover governare un’ipotetica superintelligenza.
Per questo continuo a considerare una domanda più utile delle previsioni sulla fine del mondo.
Ogni volta che affidiamo a un sistema una nuova funzione, un nuovo privilegio o una nuova autonomia dovremmo domandarci:
quanto durerà il limite sul quale sto basando oggi la mia fiducia?
Perché il problema potrebbe non essere il giorno in cui l’intelligenza artificiale non avrà più limiti.
Quel giorno potrebbe non arrivare mai.
Il problema è molto più concreto.
Continuare a governare i sistemi di domani attraverso i limiti che abbiamo misurato ieri.
Nota metodologica
Questo articolo distingue tra fatti documentati, scenari di rischio e valutazioni dell’autore. Le previsioni relative a superintelligenza, perdita di controllo o estinzione umana non costituiscono eventi dimostrati né probabilità empiricamente misurate. Sono scenari discussi nella ricerca e nella governance della frontier AI e devono essere trattati come tali.
Fonti e approfondimenti
Associated Press — settembre 2026
Dimissioni e dichiarazioni di Jacob Coxon.
Leggi su AP News
Associated Press — 13 settembre 2026
Dario Amodei chiede all’industria dell’AI di rallentare per dare tempo alla sicurezza.
Leggi su AP News
WIRED
OpenAI chiede al Congresso se un rallentamento coordinato dell’industria AI sarebbe legale.
Leggi su WIRED
WIRED
Ricostruzione della posizione di Jacob Coxon e delle sue dichiarazioni.
Leggi su WIRED
Anthropic — 9 settembre 2026
Analisi di quattro incidenti di cybersecurity legati a modelli Claude durante attività di valutazione.
Leggi il report
Anthropic — Threat Intelligence Report, settembre 2026
Descrizione di utilizzi malevoli dei sistemi Claude, incluse architetture agent swarm.
Leggi il report
