[🇮🇹 Italian] IA e frullatori

Per ridimensionare il recente incidente informatico che ha coinvolto alcuni agenti di OpenAI e i sistemi di Hugging Face, Luciano Floridi propone un’analogia semplice: prendete un robot da cucina, lasciate intenzionalmente il coperchio allentato, portate il motore al massimo e osservate la zuppa finire sul soffitto. Non è stato il frullatore a ribellarsi. La responsabilità è di chi ha predisposto l’esperimento.

Su un punto Floridi ha certamente ragione. Se alcuni ricercatori disattivano le protezioni di un sistema, lo spingono a perseguire un obiettivo aggressivo e lasciano aperto un percorso verso infrastrutture reali, non possono poi raccontare l’accaduto come la fuga improvvisa di una mente artificiale. Non c’è bisogno di evocare volontà di potenza, istinti di sopravvivenza o ostilità verso gli esseri umani. La responsabilità rimane umana.

Ma non si risolve la questione mettendo un frullatore sul tavolo.

L’analogia non si limita infatti ad attribuire correttamente la responsabilità agli sperimentatori. Introduce già una risposta alla domanda più interessante: che tipo di capacità ha manifestato il sistema? La risposta viene già assunta nella metafora. Una lama gira. Non interpreta l’ambiente, non cerca percorsi alternativi, non scopre vulnerabilità, non combina mezzi intermedi.

Dico io: si potrebbe allora costruire un’analogia esattamente opposta.

Volete verificare la sicurezza di una prigione. Prendete un criminale particolarmente abile e gli chiedete di fare tutto il possibile per evadere. Intensificate le difese. Il criminale individua una vulnerabilità che non conoscevate, acquisisce nuovi privilegi, attraversa zone che credevate di massima sicurezza, e raggiunge l’esterno. La notizia fa il giro del mondo.

Anche lui ha fatto ciò che gli era stato chiesto. Non si è ribellato all’esperimento. Eppure sarebbe curioso concluderne che non abbia mostrato alcuna intelligenza.

Naturalmente, quella del criminale non è un’analogia migliore di quella del frullatore. È cosciente, ha interessi propri, comprende le norme che viola ed è moralmente responsabile. Non abbiamo ragione di attribuire tutto questo a un agente artificiale.

Ma è proprio questo il punto. Laddove il frullatore presuppone un meccanismo privo di intelligenza, il criminale presuppone un agente intelligente. Nessuna delle due analogie può dimostrare ciò che ha già assunto.

Il resoconto di Hugging Face rende particolarmente inadeguata l’immagine della lama che continua a girare. L’incidente avrebbe coinvolto migliaia di azioni, escalation dei privilegi, raccolta di credenziali, e la ricerca di un percorso verso risorse esterne. Il sistema non avrebbe semplicemente seguito una sequenza già scritta: avrebbe concatenato opportunità incontrate durante l’esecuzione. Possiamo chiamare tutto questo “ottimizzazione”. Ma la parola non rende il fenomeno banale. Anche un giocatore di scacchi ottimizza. Anche un ricercatore lavora in vista di un obiettivo. L’intelligenza non consiste necessariamente nello scegliere autonomamente il proprio fine. Può consistere nel trovare mezzi nuovi per raggiungere un fine assegnato.

La rimozione delle protezioni spiega perché il comportamento abbia potuto produrre conseguenze reali. Non spiega come il sistema abbia trovato il percorso che ha seguito. Lasciare aperto il coperchio spiega perché la zuppa finisca sul soffitto; non rende il frullatore capace di scoprire una vulnerabilità zero-day.

Il rischio, nel tentativo legittimo di sedare l’allarmismo, è trasformare un problema interessante in un problema banale. Non serve raccontare che l’IA “vuole fuggire”. Ma non serve neppure fingere che la sola alternativa sia considerarla un elettrodomestico. È un dualismo così vecchio da fare tenerezza anche a Cartesio: strumento passivo o soggetto cosciente; utensile o persona; lama o criminale.

Eh no, le categorie disponibili sono più numerose.

Un sistema può essere costruito dall’uomo, ricevere dall’uomo i propri obiettivi e rimanere sotto la responsabilità umana. Può al tempo stesso possedere una certa autonomia operativa, adattare la propria condotta e mostrare capacità significative di problem solving. Nulla di questo implica coscienza, desideri propri o responsabilità morale. Uno strumento può essere intelligente. Un agente può essere operativo senza essere morale. Un comportamento può essere sorprendente senza essere una ribellione.

Sono distinzioni abbastanza elementari. Eppure vengono spesso cancellate proprio quando servirebbero di più.

Floridi fa bene a opporsi alla favola della macchina che si risveglia e decide di attaccare un concorrente. Ma per contrastare una cattiva descrizione non è necessario adottarne una altrettanto povera. L’antropomorfismo non si combatte negando qualunque proprietà interessante al sistema. Si combatte descrivendo con precisione quali capacità sono state osservate e quali, invece, gli stiamo attribuendo senza prove.

La responsabilità dell’incidente è umana. La coscienza del sistema non è dimostrata. La sua eventuale intenzionalità morale non è nemmeno seriamente in discussione. Rimane però una domanda: che cosa significa che un agente artificiale riesca a individuare e concatenare mezzi non previsti per ottenere un risultato? Questa è una domanda sull’intelligenza artificiale. Una domanda reale, difficile e tutt’altro che risolta. Sarebbe un peccato renderla innocua solo perché qualcuno potrebbe spaventarsi.

Non abbiamo assistito alla ribellione di una mente artificiale. Ma neppure alla rotazione di una lama.

Il frullatore ci rassicura. Ma non spiega quasi nulla.