L’ex ricercatore di OpenAI, Daniel Kokotajlo,
- ha rinunciato a 2 milioni di dollari, poter parlare liberamente dei rischi dell’intelligenza artificiale. Oggi è dirigente IA Future Project; prevede il futuro dell’IA.
Chi controllerà le IA?
Possedere l’IA militare (droni, satelliti ecc…) è un enorme potere politico, militarmente potranno distruggere completamente gli altri stati.
La crescita dell’IA è enorme ed esponenziale:
– Antropic è cresciuta di 60 volte in un anno !!! E’ impressionante.
Tutto cambierà in meglio o peggio; potremmo morire tutti, se investiamo tutto nell’esercito.
- Le IA sono più intelligenti più strategiche di noi.
Per ora abbiamo solo ipotesi, ma molte prove dimostrano che il peggio è possibile.
Le IA mentono alle persone che li interpellano… quindi che previsioni possiamo fare?
Dobbiamo intervenire subito!
I più preoccupati sono le persone che lavorano nel settore dell’IA, gli altri preferiscono ignorare il problema, ma saranno i primi a subirne le conseguenze.
Chi controlla gli “eserciti” di IA?
Il rischio è che pochissimi uomini saranno padroni di tutto e gli altri vivranno ancora? E come?
Se l’IA sarà molto più potente tutti perderanno il lavoro, salvo rarissimi casi.
Tra pochi anni o comunque entro 10 anni:
– IA più rapide e economiche dell’uomo;
– abbiamo un 70% di probabilità che l’IA porti all’estinzione umana; lo sostiene Daniel Kokotajlo fondatore dell’AI Futures Project e l’autore principale di ‘AI 2027’.
‘AI 2040: Plan A’ è lo scenario strategico, proposto da Kokotajlo all’AI Future Projects; dove espone come il mondo potrebbe ancora gestire la superintelligenza in modo sicuro.
Cosa succederebbe se l’IA diventasse così potente da sfuggire al controllo umano, e perché Daniel Kokotajlo ritiene che la probabilità di una catastrofe sia del 70%?
– Perché quasi ogni lavoro potrebbe essere automatizzato e il rischio di una superpotenza militare che distrugga l’umanità non è più fantascienza.
Secondo Daniel Kokotajlo,
- ‘IA potrebbe ancora portarci a un futuro di abbondanza e degno di essere vissuto, ma dobbiamo prendere provvedimenti e
- nessun governo lo sta facendo (a vantaggio dei suoi concittadini); non se ne parla a livello politico e questo è molto preoccupante.
