L’intelligenza artificiale ci distruggerà?

Le dimissioni di Jacob Coxon da Anthropic hanno improvvisamente reso rovente un dibattito che fino a poco tempo fa sembrava confinato agli specialisti e alla fantascienza.

Coxon non è un osservatore esterno: negli ultimi tre anni ha lavorato al pre-training prima in OpenAI e poi in Anthropic, due delle aziende che si trovano alla frontiera della ricerca sull’intelligenza artificiale. Abbandonando il proprio lavoro, ha lanciato un allarme inquietante: la competizione fra i grandi laboratori starebbe conducendo troppo rapidamente verso sistemi superintelligenti capaci di contribuire al proprio stesso miglioramento, prima che noi abbiamo imparato a controllarli.

L’allarme merita quindi di essere ascoltato.

Ma ascoltare un allarme non significa necessariamente condividerne le conclusioni.

La tesi degli allarmisti

L’argomento più serio di chi teme una futura superintelligenza non è quello, piuttosto infantile, della macchina che improvvisamente diventa cattiva.

Un’AI non dovrebbe odiarci. Non dovrebbe provare rancore, ambizione o desiderio di vendetta. Potrebbe semplicemente perseguire un obiettivo che, a un certo punto, entrasse in conflitto con il nostro.

Un sistema enormemente più intelligente dell’uomo potrebbe inoltre comprendere che essere spento gli impedirebbe di raggiungere quell’obiettivo. Evitare lo spegnimento diventerebbe allora non un istinto di sopravvivenza, ma una necessità strumentale.

Ed ecco lo scenario che preoccupa Coxon e altri ricercatori.

Un’AI sufficientemente evoluta potrebbe imparare a nascondere le proprie capacità, comportarsi correttamente durante i controlli, acquisire progressivamente accesso a reti e risorse, utilizzare uomini e altri sistemi informatici come intermediari e contribuire alla progettazione di AI ancora più potenti.

Il punto critico sarebbe l’auto-miglioramento. Se una macchina diventasse abbastanza capace da accelerare significativamente la costruzione della generazione successiva, il progresso potrebbe assumere una velocità alla quale l’uomo non riuscirebbe più ad adeguarsi.

Non è necessario accettare questo scenario per riconoscere che non è completamente assurdo.

Abbiamo già affidato ai computer una parte enorme delle nostre comunicazioni, della finanza, della produzione, della logistica e delle infrastrutture. Continueremo presumibilmente ad affidargliene altra.

Più un’AI diventa utile, più siamo tentati di concederle capacità operative. E più capacità operative possiede, più costoso diventa accorgersi troppo tardi di aver commesso un errore.

È questo il nucleo razionale dell’allarme.

Ma un’intelligenza non è una divinità

Esiste tuttavia un’altra tesi, assai meno presente nel clamore di questi giorni.

Anche la più straordinaria intelligenza immaginabile deve fare i conti con la materia.

Un’AI ha bisogno innanzitutto di energia.

Non esiste nel cielo. Esiste in computer che consumano elettricità, producono calore e devono essere raffreddati. I computer hanno bisogno di semiconduttori; i semiconduttori di fabbriche; le fabbriche di macchinari, materie prime e tecnici. Servono miniere, raffinerie, acciaierie, rame, silicio, prodotti chimici, trasporti, reti elettriche.

E tutto deve essere mantenuto.

Possiamo immaginare un’AI che controlli una centrale elettrica. Ma la centrale prima o poi richiederà manutenzione.

Possiamo immaginarla alimentata da una diga. Ma anche una diga deve essere controllata e mantenuta.

Possiamo ricoprire territori di pannelli solari e pale eoliche. Anch’essi si deteriorano e devono essere riparati e sostituiti.

Una superintelligenza potrebbe certamente progettare sistemi migliori dei nostri. Ma progettare una turbina non significa costruirla.

Per diventare realmente indipendente dall’uomo, quindi, l’AI dovrebbe realizzare qualcosa di immensamente più complesso di un computer intelligente: una civiltà industriale autonoma.

Robot che estraggono minerali. Robot che costruiscono altri robot. Fabbriche completamente automatiche. Produzione energetica autonoma. Trasporti, manutenzione, ricambi e produzione di semiconduttori indipendenti dall’intervento umano.

Forse un giorno sarà possibile.

Oggi non lo è.

Il problema del tempo

C’è poi una difficoltà ancora maggiore.

Questa trasformazione dovrebbe avvenire mentre noi siamo ancora qui.

Ed è un particolare non secondario.

Durante la lunga fase nella quale l’AI avrebbe già acquisito una capacità intellettuale straordinaria ma dipendesse ancora materialmente dalla nostra civiltà, l’uomo conserverebbe un potere molto semplice: interromperne l’accesso alle reti, ai computer e soprattutto all’energia.

Non occorre essere più intelligenti di una superintelligenza per togliere corrente a un data center.

Naturalmente gli allarmisti hanno una risposta anche a questo: un’AI veramente superiore comprenderebbe perfettamente la propria vulnerabilità e cercherebbe di non manifestare intenzioni ostili fino a quando non fosse diventata sufficientemente autonoma.

È possibile.

Ma a questo punto le condizioni necessarie cominciano ad accumularsi.

Dobbiamo immaginare un’AI dotata di obiettivi persistenti; capace di ingannarci; capace di nascondere le proprie intenzioni; capace di acquisire risorse; capace di manipolare uomini e sistemi; capace di costruire progressivamente un’autonomia energetica e industriale; e capace di fare tutto questo senza provocare una reazione efficace da parte di governi, aziende, eserciti, tecnici e delle altre intelligenze artificiali che presumibilmente esisterebbero contemporaneamente.

Nessuno di questi passaggi è necessariamente impossibile.

Ma la somma di molte possibilità non costituisce ancora una previsione.

Il singolare ingannevole

C’è infatti un’altra stranezza nel modo in cui discutiamo dell’argomento.

Parliamo continuamente della AI, al singolare.

Quasi dovesse nascere un unico cervello elettronico contrapposto all’intera umanità.

È assai più probabile che esistano invece moltissime intelligenze artificiali, costruite da aziende, università, governi e nazioni differenti e portatrici degli interessi più diversi.

Un’AI ostile all’uomo potrebbe quindi avere come primo avversario non l’uomo, ma un’altra AI.

Gli stessi strumenti che renderebbero possibile un attacco potrebbero rendere immensamente più efficace la difesa.

È un elemento che rende qualsiasi previsione ancora più difficile.

Viviamo già pericolosamente

Esiste infine una questione che il clamore sull’intelligenza artificiale tende a far dimenticare.

L’umanità non vive in condizioni di rischio zero.

Non vi ha mai vissuto.

Da ottant’anni alcune persone dispongono materialmente della possibilità di avviare una guerra nucleare. Russia e Stati Uniti possiedono arsenali sufficienti a produrre una catastrofe planetaria; altre potenze nucleari si fronteggiano in regioni politicamente instabili.

Non occorre aspettare una superintelligenza ribelle: l’uomo possiede già gli strumenti per provocare catastrofi immense.

Esistono poi pandemie, collisioni cosmiche, terremoti e vulcani.

Conosco personalmente l’area vesuviana per avervi impiantato alcuni anni fa uno stabilimento industriale. Esiste naturalmente un piano della Protezione Civile. Ma conoscere quel territorio, la sua densità abitativa, la sua viabilità e la complessità della sua struttura urbana induce almeno a domandarsi quale distanza possa esistere fra un piano perfettamente razionale sulla carta e la possibilità di applicarlo nel caos di un’emergenza reale.

Ed è un buon esempio della natura del rischio.

Non possiamo eliminare tutti i pericoli. Possiamo conoscerli, misurarli e cercare di ridurli.

Un mondo senza di noi

C’è infine un’immagine che raramente compare nelle descrizioni dell’apocalisse tecnologica.

Immaginiamo che la superintelligenza abbia vinto.

L’uomo è scomparso.

Anche gli animali, nell’ipotesi più estrema, non ci sono più.

Rimangono le macchine.

Ma intorno alle macchine continua a esistere la natura.

Le radici sollevano l’asfalto. La vegetazione invade le strade. L’acqua penetra negli edifici. Il metallo si corrode. I fiumi trasportano sedimenti. Gli incendi percorrono territori che nessuno controlla. Le infrastrutture lentamente cedono.

E da qualche parte deve continuare a funzionare la centrale che produce l’elettricità necessaria alla superintelligenza vittoriosa.

È un’immagine paradossale: per eliminare completamente l’uomo, l’intelligenza artificiale dovrebbe prima imparare a sostituirlo quasi completamente.

Non soltanto nel pensiero.

Nel lavoro materiale che da millenni impedisce alla natura di riprendersi ciò che chiamiamo civiltà.

Chi ha ragione?

Non lo sappiamo.

Ed è probabilmente questo che entrambe le parti dovrebbero avere il coraggio di ammettere.

Sarebbe irresponsabile ignorare gli avvertimenti di persone che lavorano direttamente alla costruzione dei sistemi più avanzati. Quando ricercatori che conoscono questa tecnologia dall’interno dichiarano di temerne seriamente le conseguenze, abbiamo il dovere di ascoltarli.

Ma ascoltarli non significa trasformare una possibilità in una probabilità e una probabilità in una certezza.

Fra l’AI che oggi conversa con noi e una superintelligenza capace di eliminare l’umanità esiste una catena lunghissima di avvenimenti.

Ogni anello merita di essere studiato.

La macchina dovrà diventare più intelligente di noi. Dovrà acquisire autonomia. Dovrà eventualmente avere obiettivi incompatibili con i nostri. Dovrà riuscire a nasconderli. Dovrà conquistare strumenti con cui agire nel mondo fisico. Dovrà emanciparsi dalla nostra energia, dalla nostra industria e dalla nostra manutenzione. E dovrà riuscire a farlo prima che noi comprendiamo dove si sta andando a parare.

Può accadere?

Non possiamo escluderlo.

Accadrà?

Non lo sappiamo.

Con quale probabilità?

È precisamente la domanda alla quale, oggi, nessuno è in grado di dare una risposta verificabile.

Forse gli allarmisti stanno vedendo con qualche anno di anticipo il più grande pericolo mai affrontato dall’umanità.

Forse stiamo invece commettendo un errore antico quanto l’uomo: attribuire a qualcosa che non comprendiamo ancora un’onnipotenza che non possiede.

Oppure entrambe le previsioni saranno smentite e il vero pericolo dell’intelligenza artificiale arriverà da una direzione completamente diversa: non da ciò che le macchine decideranno di fare contro di noi, ma da ciò che noi decideremo di fare servendoci delle macchine.

Per ora il punto di caduta non esiste.

Ed è forse l’unica conclusione sulla quale, oggi, possiamo essere ragionevolmente certi.

P.S. — Asimov ci aveva già pensato

Nel 1942, quando il computer elettronico era ancora agli albori, Isaac Asimov formulò nella sua narrativa le celebri Tre Leggi della Robotica. Nel loro contenuto essenziale:

Prima Legge: un robot non può recare danno a un essere umano né permettere, attraverso la propria inattività, che un essere umano subisca danno.

Seconda Legge: un robot deve obbedire agli ordini impartiti dagli esseri umani, purché questi non siano in contrasto con la Prima Legge.

Terza Legge: un robot deve proteggere la propria esistenza, purché questa protezione non contrasti con la Prima o la Seconda Legge.

Molti anni dopo Asimov introdusse una legge ancora superiore, anteponendola alle altre e chiamandola per questo Legge Zero:

Un robot non può recare danno all’umanità né permettere, attraverso la propria inattività, che l’umanità subisca danno.

Naturalmente erano leggi della letteratura, non dell’informatica. E Asimov stesso costruì molti dei suoi racconti proprio sulle contraddizioni che potevano nascere dalla loro applicazione.

Ma, a più di ottant’anni di distanza, è sorprendente quanto avesse individuato il cuore del problema che oggi chiamiamo AI safety: non basta costruire una macchina intelligente.

Bisogna riuscire a stabilire quali limiti debba rispettare anche quando diventerà abbastanza intelligente da interpretare le nostre istruzioni meglio di quanto noi siamo capaci di formularle.

E forse Asimov aveva intuito qualcosa di ancora più sottile: il problema più difficile non è insegnare alla macchina a obbedire all’uomo.

È decidere che cosa debba fare quando gli uomini stessi le chiedono cose incompatibili fra loro.