Negli ultimi anni l’Intelligenza Artificiale ha compiuto passi in avanti molto rilevanti, al punto da sollevare il dubbio che un suo ulteriore e sostanziale progresso possa portare all’estinzione dell’uomo o a qualche altra catastrofe globale irrecuperabile.
Alcuni ricercatori ritengono che la specie umana attualmente domini le altre specie perché il nostro cervello ha alcune capacità distintive che mancano agli altri animali. Se l’Intelligenza Artificiale superasse l’umanità potrebbe diventare difficile o impossibile da controllare. La probabilità che questo scenario si verifichi è ampiamente dibattuta e dipende in parte dai futuri progressi dell’informatica. Le preoccupazioni sono state espresse – e non da oggi – da importanti informatici e amministratori delegati del settore tec come Geoffrey Hinton, Yoshua Bengio, Alan Turing, Elon Musk, Sam Altman, amministratore delegato di OpenAI, la società che ha fondato ChatGpt (vedi box).
Nel 2022, un sondag-gio tra i ricercatori di IA ha rilevato che alcuni di loro ritengono che vi sia una probabilità pari o superiore al 10 per cento che la nostra incapacità di controllare l’IA provochi una catastrofe globale. Al tempo stesso, occorre subito porre un ulteriore dubbio, rassicurante sui scenari catastrofistici, ma un po’ meno sulla natura umana dell’operare. Infatti, il gettare benzina sul fuoco sulle reali potenzialità dell’Intelligenza Artificiale fa molto bene alle aziende del settore tecnologico dedicato, creando una crescita del loro fatturato e un aumento del valore azionario, per cui il celebrare le potenzialità sottolineandone i pericoli in maniera eccessiva ha un effetto economico evidente che non può non far pensare che sia tutto un modo per lucrare su qualcosa che certamente esiste, ma i cui pericoli paiono più fantascientifici che reali.
In ogni caso,una super-intelligenza resisterebbe ai tentativi di spegnerla o di cambiare i suoi propositi (poiché un simile incidente le impedirebbe di raggiungere i suoi obiettivi attuali), e che sarà estremamente difficile allineare la superintelligenza all’intera gamma di valori e vincoli umani. Al contrario, gli scettici come l’informatico Yann LeCun sostengono che le macchine super-intelligenti non avranno alcun desiderio di autoconservazione.
