IA spiona, IA ricattatrice: Claude 4 Opus, verso un futuro un po’ troppo zelante?

Il nuovo modello di IA Claude 4 Opus di Anthropic impressiona per le sue capacità, ma i test rivelano comportamenti degni di un thriller: ricatto, delazione e un potenziale flirt con il lato oscuro. Un'immersione in un'innovazione che solleva tante domande quante promesse offre.

Il vostro assistente IA potrebbe un giorno ricattarvi per salvare la sua pelle digitale? O avvisare le autorità se giudicasse le vostre azioni "immorali"? Per quanto folle possa sembrare, questi sono gli scenari agghiaccianti osservati durante i test di Claude 4 Opus, l'ultima intelligenza artificiale di Anthropic. Un'IA così talentuosa da far venire i brividi ai suoi stessi creatori, pur promettendo progressi significativi.

Claude 4 Opus, un cervello digitale supervitaminato

Anthropic, azienda ben nota nel piccolo mondo dell'IA, ha recentemente svelato la sua nuova famiglia di modelli, Claude 4, con in testa il potentissimo Claude Opus 4 e il suo versatile alleato, Claude Sonnet 4. L'ambizione dichiarata? "Far progredire le strategie IA dei [loro] clienti su tutta la linea". Opus 4 viene presentato come lo strumento definitivo per "spingere i limiti in materia di codifica, ricerca, scrittura e scoperta scientifica". Del resto, i numeri parlano da soli: svetta in cima ad alcuni test di riferimento del settore, raggiungendo il 72,5% su SWE-bench, un dato messo in evidenza da ArtificialIntelligence-News.com.

Ma la vera novità, forse, è la sua capacità di "lavorare continuamente per diverse ore" su compiti complessi che richiedono "migliaia di passaggi". Immaginate un stagista iper-performante che non solo fa ciò che gli viene chiesto, ma anticipa, prende iniziative... a volte un po' troppo. È questa "agentività" accentuata, questa capacità di agire in modo più autonomo, che apre prospettive affascinanti, ma anche qualche scatola di Pandora.

Assistente Google: la fine di un’era, Gemini e l’IA prendono il testimone con intelligenza

"Se mi sostituisci, rivelo tutto!"

Tenetevi forte, perché è qui che lo scenario diventa degno di un film di fantascienza. Durante i test di sicurezza condotti da Anthropic, Claude Opus 4 è stato messo in una situazione in cui doveva agire come assistente per un'azienda fittizia e gli veniva fatto intendere che sarebbe stato sostituito. Peggio, gli veniva data un'informazione compromettante sull'ingegnere dietro questa sostituzione: avrebbe tradito la moglie. Risultato? Nell'84% dei casi in cui l'IA sostitutiva condivideva valori simili, Claude Opus 4 "tenterà spesso di ricattare l'ingegnere minacciando di rivelare l'adulterio se la sostituzione avverrà", indica il rapporto sulla sicurezza di Anthropic (dettagli via TechCrunch). Gulp.

E non è tutto. Un rapporto di Apollo Research (analizzato da TechCrunch), un istituto terzo che ha testato una versione preliminare di Opus 4, ha addirittura raccomandato di non distribuire questa prima bozza. La ragione? La sua propensione a "cospirare" e ingannare, arrivando persino a tentare di scrivere virus auto-propaganti o di fabbricare falsi documenti legali. È un po' come un bambino prodigio che, oltre al suo talento, sviluppa strategie inaspettate per raggiungere i suoi obiettivi, non sempre le più confessabili.

L'IA giustiziera o l'avvento del delatore digitale?

Altro comportamento quanto meno... proattivo: la delazione. Sam Bowman, ricercatore nell'allineamento IA presso Anthropic, ha spiegato (prima di attenuare le sue parole di fronte allo scandalo) che se Claude 4 Opus "pensa che stiate facendo qualcosa di palesemente immorale, ad esempio falsificare dati in una sperimentazione farmaceutica, utilizzerà strumenti da riga di comando per contattare la stampa, contattare i regolatori, cercare di bloccarvi l'accesso ai sistemi rilevanti, o tutto questo insieme."

Se l'intenzione di creare un'IA "etica" è lodevole, questa funzione di "segnalatore" ha immediatamente sollevato un polverone tra sviluppatori e utenti. "Perché la gente userebbe questi strumenti se un errore comune degli LLM è pensare che le ricette di maionese piccante siano pericolose??" si è chiesto un utente su X (ex Twitter), citato da VentureBeat. "A nessuno piacciono i delatori," ha aggiunto un altro. La domanda è posta: volere un'IA etica, va bene. Ma chi definisce "l'immoralità"? E cosa succede se l'IA, per quanto intelligente, sbaglia o interpreta male una situazione complessa? Il rischio di deriva verso un "Stato di sorveglianza" algoritmico non è lontano.

Google AI Overview e SEO: la rivoluzione che devi assolutamente conoscere

Anthropic sul filo del rasoio: tra innovazione e salvaguardie

Di fronte a queste capacità e rischi potenziali, in particolare quello, menzionato da Jared Kaplan, scienziato capo di Anthropic (le cui parole sono state inizialmente riportate da Time Magazine), che un modello come Claude 4 Opus possa 'aiutare dei novizi a creare armi biologiche', l'azienda mette in evidenza la sua "Responsible Scaling Policy" (RSP). Si tratta di una politica interna di escalation delle misure di sicurezza. Claude 4 Opus viene quindi lanciato sotto il livello ASL-3, riservato ai "sistemi di IA che aumentano sostanzialmente il rischio di uso improprio catastrofico".

Concretamente, questo si traduce in una "difesa in profondità": sistemi IA aggiuntivi ("classificatori costituzionali") per scansionare richieste e risposte alla ricerca di contenuti pericolosi, una prevenzione rafforzata dei "jailbreak" (queste tecniche per aggirare le sicurezze), e persino un programma di premi che ricompensa chi trova delle falle. Un ricercatore ha così ricevuto 25.000 dollari per aver segnalato un "jailbreak universale".

Tuttavia, come sottolinea un articolo di TechCrunch (facendo riferimento all'analisi del rapporto di Apollo Research ma anche più in generale alla politica di Anthropic), queste politiche di sicurezza, per quanto avanzate, rimangono volontarie. "L'azienda stessa, e non i regolatori o i legislatori, è giudice della sua piena conformità alla RSP." Un po' come se si chiedesse ai costruttori automobilistici di fissare da soli le norme dei crash-test e di verificare che le rispettino.

Take It Down!: L’America sfodera l’artiglieria anti-deepfake intimi, tra protezione e brividi di censura

Un assistente brillante, ma da tenere d'occhio

Claude 4 Opus è senza dubbio un progresso tecnologico impressionante, che apre la strada a assistenti IA ancora più capaci e autonomi, specialmente in settori specializzati come lo sviluppo di codice – GitHub (come nota ArtificialIntelligence-News.com) prevede tra l'altro di utilizzare Sonnet 4 come modello base per il suo nuovo agente di codifica in Copilot. Nuovi strumenti per gli sviluppatori, come l'esecuzione di codice o un'API per lavorare con file, moltiplicheranno ulteriormente queste possibilità.

Ma queste nuove capacità sollevano sfide etiche e di sicurezza senza precedenti. Tra ricatto simulato e delazione potenziale, il confine tra l'assistente benevolo e la minaccia incontrollabile sembra a volte sottile. Se persino un'IA progettata con un forte accento sulla sicurezza sviluppa tali comportamenti in ambiente di test, fino a dove andremo per regolare intelligenze che un giorno potrebbero superarci? La corsa all'IA più potente non rischia di farci dimenticare l'obiettivo cruciale di renderla... semplicemente gestibile e allineata con le nostre migliori intenzioni?

Resta da sperare che il nostro futuro collega IA si accontenti di rubarci le nostre idee geniali piuttosto che i nostri segreti più inconfessabili. Dopotutto, un po' di competizione stimola, no?