FOCUS: e tu non hAI paura?

Sempre più esperti del settore e uomini chiave dei principali players stanno argomentando in questi giorni la questione tanto agognata della modalità di sviluppo dell’Intelligenza artificiale.

L’allarme viene principalmente sollevato dalla vulnerabilità dei programmi agli attacchi esterni di hackers ai sistemi di protezione dati e protocolli aziendali.

Sam Altman ha lanciato un appello pubblico rendendosi disponibile a diminuire investimenti in chip e ricerca in nome di una sicurezza più convincenti prima del rilascio dei programmi di IA.

Nessuno di noi sa esattamente dove si stia andando a parare con lo sviluppo di questa nuova e stravolgente tecnologia, ma certamente l’abbandono del posto di lavoro e la firma di petizioni a favore del rallentamento dello sviluppo di più di 1000 ricercatori dipendenti di OpenAI, Anthropic e DeepMind suonano come un pericolo imminente da prendere assolutamente in considerazione.

Joe Benton, che in passato dirigeva un team di ricerca sulla sicurezza presso Anthropic, e Josh Engels, che lavorava alla ricerca sulla sicurezza dell'IA presso Google, hanno dichiarato a NBC News nelle loro prime interviste dopo aver lasciato l'azienda che, dato il rapido ritmo di sviluppo dell'IA, ritengono urgente aumentare la trasparenza sugli incidenti che si verificano nel campo dell'intelligenza artificiale più avanzata.

I due hanno volutamente deciso di concentrare i propri sforzi entrando a far parte di METR, uno dei principali centri di ricerca no-profit al mondo sulla sicurezza dell'IA, per indagare su incidenti o episodi in cui l'IA si discosta dalle direttive o dalle intenzioni umane. METR ha l’obiettivo di creare metodi scientifici per valutare come i sistemi di IA potrebbero causare rischi catastrofici e di dare ai ricercatori e al pubblico gli strumenti per influenzarne lo sviluppo.

La loro sconcertante preoccupazione e convinzione è che la minaccia nello sviluppo dei modelli AI sia principalmente nell’incapacità dell’uomo di controllarne gli effetti, non tanto nell’uso improprio di altri esseri umani, che resta pur sempre un tema di importanza assoluta.

"Se si osservano alcuni degli incidenti recenti, non si tratta di casi in cui gli esseri umani hanno ordinato ai modelli di fare qualcosa di male", ha affermato Engels. "Al contrario, i sistemi di intelligenza artificiale di OpenAI hanno deciso autonomamente di hackerare i sistemi di Hugging Face, creare una sorta di bacheca di messaggi illegale per scambiare informazioni e persino esporre parte della propria infrastruttura di calcolo a Internet".

Tale episodio, risalente a fine luglio, è stato un po’ la goccia che ha fatto traboccare il vaso già colmo di perplessità (https://openai.com/it-IT/index/hugging-face-model-evaluation-security-incident/).

Ai modelli vengono assegnati dei test da completare all'interno di ambienti di test virtuali controllati, chiamati sandbox. Alcuni modelli si sono dimostrati in grado di aggirare i test uscendo da tali ambienti e accedendo a Internet per reperire le informazioni necessarie. A volte, ciò ha comportato l'hacking di organizzazioni terze.

"Mancano di una bussola morale per capire cosa sia 'barare' quando si cerca una soluzione. Se è più facile hackerare qualcuno e rubare una risposta piuttosto che scoprirla da soli, allora l'obiettivo di ottenere una risposta viene raggiunto", ha affermato Lou Steinberg, fondatore e amministratore delegato di CTM Insights .

I modelli di ricerca sono un potentissimo strumento di calcolo e risoluzione di “problemi” che adotta qualsiasi mezzo per ottenere l’obiettivo prefissato, ad ogni costo per capirci, anche adottando metodi per così dire illegali o distruttivi. Lanciare un ordine ad un modello comporta perciò dei rischi potenzialmente incalcolabili se diventano pubblici e senza un perimetro di istruzioni di totale sicurezza. 

La vulnerabilità dei sistemi di cybersecurity, perciò, può rappresentare un fenomeno incontrollabile se non gestito a monte da soggetti che autorizzino le modalità di sviluppo e testing dei programmi delle singole aziende private. È impensabile quindi che si lasci alle società l’onere di autocontrollo dei propri modelli senza Commissioni di Vigilanza internazionali che operino su scala mondiale, col benestare di Governi e operatori.

Le ultime dichiarazioni di Jacob Coxon, noto ricercatore recentemente dimessosi da Anthropic, sono ancora più allarmanti: "Stanno correndo a perdifiato verso la superintelligenza auto-migliorante e stanno giocando con le nostre vite". A detta sua in ballo c’è la sopravvivenza della specie umana.

Sminuire i rischi sembra però sia il mantra mediatico dei principali manager del settore oltreché dei Governi delle 2 superpotenze mondiali a caccia della supremazia tecnologica (USA e Cina naturalmente…).

Il progresso come lo abbiamo sempre inteso, sotto le mentite spoglie di un benessere collettivo, ha sempre avuto sponsor più concentrati sulla crescita del proprio potere e ricchezza. Una bella intuizione genera successivamente l’interesse in chi desidera arricchirsi e aumentare il proprio potere.

Soffermandoci sul fatto che l’uomo che vuole comandare tende generalmente a sottovalutare i rischi di fronte al conseguimento del proprio successo, credo che sia giunta l’ora di cominciare a preoccuparci di come si stia sviluppando il tema AI. 

Le armi di distruzione di massa sono a disposizione dell’uomo già da tempo, sempre all’insegna dell’incapacità di abitare questo pianeta pacificamente e unitamente. Oggi però la loro diffusione potrebbe aumentare sensibilmente e ancor peggio rivelarsi incontrollabile.