Tragici dilemmi etici e politici
Dario Amodei ha detto di no al Ministro della Guerra USA
Dario Amodei ha rinunciato a una somma favolosa(contratto con l’esercito USA), ma
- non intende rimuovere i suoi paletti morali dalla sua Intelligenza Artificiale Antropic; un limite per impedire all’IA Antropic di agire autonomamente (anche senza intervento umano); come per esempio un esercito di droni che sganci bombe autonomamente, identificazioni, classificazioni e informazioni senza limiti sui cittadini ecc…
Ultimamente, la relazione tra Anthropic e il governo Usa si è incrinata gravemente, perché ?
Antropic, è la società di un italiano che ha cercato di opporsi agli usi pericolosi dell’IA.
Infatti, l’IA può essere utilizzata per scopi malevoli come, tra l’altro:
- diffusione di disinformazione o lo
- sviluppo di armi autonome; indipendenti dalla volontà umana o usate dall’uomo a scopi “dannosi” per l’umanità.
L’episodio che segue, chiarisce
- il ruolo crescente dell’intelligenza artificiale nelle operazioni di guerra moderne
- e i conseguenti tragici dilemmi etici e politici legati al suo uso in guerra e in pace.
La società di Intelligenza Artificiale Antropic, si era distinta per essersi data
- un obiettivo ambizioso come
- sviluppare sistemi di intelligenza artificiale avanzati
- tenendo come base la sicurezza, la trasparenza e l’etica, con lo scopo di
- orientare l’AI solo verso applicazioni utili e sicure e
- mai distruttive per l’uomo.
L’approccio di “Constitutional AI,” caratteristica dell’IA Antropic,
- tiene conto di principi etici predefiniti, promuovendo risposte che
- non sorpassano i concetti di valori come la libertà, l’uguaglianza e la sicurezza personale;
- almeno questo era nelle regole costituenti di questa Ai.
Il prodotto top di Anthropic si chiama Claude, ovvero:
- modelli linguistici di grandi dimensioni (LLM) progettati per
- comprendere e generare testo usando un linguaggio naturale. La versione più recente, Claude 3.5 Sonnet (chatbot generativo), offre aiuto in compiti di:
- lettura, programmazione, matematica e visione,
- ed è uno dei chatbot generativi più intelligenti sul mercato.
“Claude Gov”, è usato, con varie restrizioni, da agenzie USAanche per analisi di intelligence; per esempio in caso di necessità per la difesa nazionale.
Anthropic è stata fondata nel 2021 in California da un importante gruppo che faceva parte dei dirigenti di OpenAI;
- tra loro i fratelli italo-americani Dario e Daniela Amodei.
Nel 2025, Antropic firmò un contratto di circa 200 milioni di dollari con il Pentagono.
Ma l’azienda,
- mise dei paletti etici ben precisi:
- negando l’uso dei suoi strumenti per sorveglianza di massa e per armi autonome senza controllo umano.
Nonostante il contratto,
- il governo USA ha chiesto ad Anthropic di cancellare queste restrizioni e permettere un uso “senza alcun limite”.
I proprietari di Antropic (italiani di origine)
- hanno risposto no alla dirigenza USA e ne sono nate delle divergenze di cui sappiamo trppo poco.
Ma, si sa che la tecnologia di Anthropic è rimasta funzionante nelle strutture militari statunitensi per un periodo di transizione; che si dice possa durare mesi.
- Secondo il Wall Street Journal, infatti, è utilizzata dal Comando Centrale USA (CENTCOM)
- anche durante la recente guerra contro l’Iran.
I dirigenti dell’azienda, temono che l’AI possa essere usata in attività militari senza la supervisione umana e senza limiti etici chiari.
Nel frattempo,
- la concorrente OpenAI, ha firmato un nuovo accordo con il Pentagono per fornire i propri modelli di AI, con clausole comprendenti limiti espliciti su sorveglianza domestica, controllo di sistemi d’arma autonomi e decisioni automatizzate ad alto rischio; almeno così hanno dichiarato.
