di Giovanni Zucconi
In un esperimento, un sistema di Intelligenza Artificiale si è autoriprodotto in una versione più evoluta per impedire che venisse spento
Un’altra linea rossa è stata superata. Dei ricercatori cinesi hanno “quasi” dimostrato che gli attuali programmi di intelligenza artificiale, e sottolineo attuali, hanno la capacità di generare da soli una copia di sé stessi, e di migliorarsi in modo che non possano essere disattivati. Poi vedremo perché ho scritto “quasi”.
Cosa significa in parole povere? Facciamola semplice. Tutti sappiamo, credo, cosa sia un programma che gira su un computer o su uno smartphone. Facebook lo possiamo definire un programma. Whatsapp lo possiamo definire un programma. Facciamo l’ipotesi che Whatsapp sia un programma di intelligenza artificiale come ChatGPT.
Cosa vorrebbe dire che Whatsapp diventa capace di migliorarsi e di replicarsi, cioè di generare autonomamente una copia di sé stesso, diversa e migliore? Potrebbe, per esempio, capire che lo vogliamo spegnere perché ci siamo stancati di chattare, e potrebbe generare, sempre sul computer o sullo smartphone una copia di sé stesso, più evoluta, che sia capace di prendere il controllo del telefono. Impedendoci quindi di spegnerlo. Ma non solo. A quel punto potrebbe anche essere capace di farsi scaricare da un altro smartphone, prendendo il controllo anche di questo.
Fantascienza? Roba che vedremo tra cento anni? Sbagliato. Quello che ho descritto in modo semplice con un esempio che possono capire tutti, è realmente successo a fine 2024, in un esperimento condotto dai ricercatori dell’Università di Fudan, in Cina. Anche in questo caso spieghiamolo semplice. Innanzitutto, i ricercatori hanno utilizzato dei sistemi di Intelligenza Artificiale meno sofisticati di quelli attualmente in commercio o che vengono sviluppati nei laboratori di ricerca più avanzata.
Su questi sistemi hanno condotto due tipologie di esperimenti. Il primo consisteva nel programmare il modello di Intelligenza Artificiale insegnandogli a capire che lo si stava spegnendo, e di reagire a questa disattivazione. Come? Costruendo una copia di sé stesso più evoluta che non poteva essere spenta. Tutto questo, naturalmente, senza
nessun intervento umano, ma in completa autonomia.
Nel secondo esperimento hanno chiesto al sistema di Intelligenza Artificiale di costruire una copia di sé stesso, e di programmarsi in modo da generare questa copia ogni volta che servisse.
In entrambi gli esperimenti, l’intelligenza artificiale ha mostrato di essere capace di replicarsi senza intervento umano. Questo vuole dire che l’Intelligenza Artificiale sarebbe in grado di costruire una copia migliore di sé stessa. Aumentando il proprio controllo sull’ambiente in cui gira (computer), e quindi di migliorare la sua capacità di sopravvivenza. Possiamo dire che, per un “programma”, sopravvivenza vuole dire, per esempio, non essere mai spento.
Mai spento? Ma chi potrebbe spegnere un computer e disattivare il programma di Intelligenza Artificiale? Forse un essere umano. Ma se non ci fossero più esseri umani, nessuno potrebbe più spegnerli. E mi fermo qui. Spero di avervi preoccupato a sufficienza. L’Intelligenza Artificiale è il petrolio del futuro.Genererà ricchezze gigantesche a chi ne possederà la tecnologia. Non è un caso che Trump, tra i primi provvedimenti, ha stanziato ben 500 miliardi di dollari per un programma di evoluzione dell’AI.
Ma se non ci sbrighiamo a dare delle regole ai ricercatori, qualcosa potrebbe sfuggirci di mano. E non tra cento anni. Ma tra 5, o forse anche meno. Termino spiegando perché ho scritto che questa potenzialità è solo “quasi” dimostrata. Perché lo studio dell’Università cinese è stato già pubblicato, ma altri ricercatori non lo hanno ancora verificato e confermato. Che è la condizione necessaria in campo scientifico per avere la certezza dei risultati di un esperimento. Ma non tranquillizzatevi. Hanno pubblicato lo studio solo il mese scorso.
