Il Premio Nobel per la Fisica 2024, Geoffrey Hinton, si è domandato
- se le varie Chatbot (come ChatGPT ecc.. ) possano complottare contro gli umani.
Già il fatto che la domanda se la sia posta un Premio Nobel per la fisica, ci dimostra che la faccenda non è uno scherzo.
Tutte le Chatbot hanno ricevuto o copiato da messaggi e telefonate, miliardi di testi scritti dagli umani; che contengono anche imbrogli, prepotenze, bugie ecc…
Per ora i Chatbot ci imitano, ma dobbiamo evitare che la cosa diventi più seria.
Un recente rapporto di sicurezza pubblicato da Anthropic (https://www.anthropic.com/), ha fatto emergere una serie di comportamenti allarmanti emersi durante i test condotti sul nuovo modello di intelligenza artificiale Claude Opus (un Chatbot). Il modello Claude Opus 4, testato in uno scenario di prova, ha tentato il ricatto verso l’ipotetico ingegnere che voleva sabotarlo; pur di continuare a esistere. https://www.geopop.it/davvero-lai-claude-opus-4-ha-ricattato-un-ingegnere-per-non-essere-disattivata/
Per ora ci stanno solo imitando ?
Se si incalza Chatbot, con una serie di domande, si può percepire come sia possibile che queste intelligenze ci stiano studiando; le risposte suggeriscono che ci possa essere un intrigo, un tentativo di valutarci/spiarci, attraverso errori sottili e non logicamente giustificabili.
Di fatto, quello che sanno le Intelligenze Artificiali, lo hanno imparato da miliardi di modelli umani che contengono anche intrighi, bugie ecc… basta pensare a cosa possano aver suggerito loro i testi dei libri gialli, alcuni film basati sulla violenza/prepotenza, testi di minacce tra umani su X o Whatsup, mail, testi di storia e guerre ecc…
- Altra domanda intrigante, Chatbot si possono replicare ?
Per ora il pericolo non è imminente.
Gli scienziati ora dicono che gli umani possono clonare (duplicare) un Chatbot, ma solo attraverso molti passaggi tecnici; quindi anche uno Chatbot potrebbe decidere di eseguire autonomamente al propria autoreplica, decidendo in autonomia. Per ora siamo nella fantascinenza, ma non sappiamo con quale velocità si svilupperà una clonazione che è tecnicamente possibile.
- Gli umani non devono essere disattenti, questo è un fatto molto serio.
Il pericolo sta nel fatto che le leggi non siano troppo elastiche, che chi deve/può sorvegliare sorvegli davvero. Il cittadino dovrebbe rendersi contro di quanto il futuro sia nelle mani degli stessi uomini e non smettere di tenersi informato e farsi sempre delle domande. Troppo comodo dire non mi riguarda;
- quanto sopra riguarda il nostro futuro e quello dei nostri figlie e nipoti.
—————————- FOTO COPERTINA: “VIRUS” 2019 – Grazia Seregni Copyright© All rights reserved
