Gerardo Urti – CEO – GU Capital
Negli ultimi due anni ci siamo abituati in fretta all’idea che l’intelligenza artificiale sia uno “strumento”. Qualcosa che aiuta a scrivere più velocemente, a riassumere documenti, a fare analisi, a produrre contenuti, a rendere più efficienti processi che prima richiedevano tempo e persone.
È comodo pensarla così, perché è rassicurante: lo strumento lo usi, lo spegni, lo metti via.
Ma in giro per il mondo c’è chi, proprio perché l’IA la sta costruendo davvero, invita a guardare un po’ più in fondo.
E il punto centrale, alla fine, è semplice: l’IA sta andando verso un livello in cui supererà gli esseri umani sempre più nelle attività cognitive. E quando questo accadrà, la domanda vera non sarà “quanto sarà potente”. La domanda sarà: riusciremo ancora a controllarla?
Un cambiamento che non somiglia a quelli del passato
Quando arriva una nuova tecnologia di solito ci sono due fasi: prima l’entusiasmo, poi la regolazione (quando ormai è troppo tardi). È successo con i social, con gli algoritmi, con la disinformazione online, con la pubblicità iper-mirata.
La tecnologia è cresciuta, ha creato valore, ma ha anche prodotto effetti collaterali enormi che ci siamo trovati a gestire dopo, spesso con strumenti inadatti.
Con l’intelligenza artificiale però la differenza è una: non stiamo parlando soltanto di un nuovo “mezzo”, ma di qualcosa che assomiglia sempre più a un’intelligenza operativa.
Un sistema che non si limita a fare calcoli o ripetere procedure, ma che:
- ragiona
- pianifica
- propone soluzioni
- scrive codice
- prende decisioni “tecniche” sempre più articolate
- interagisce con il mondo digitale in maniera autonoma
Ed è qui che il confine diventa meno chiaro. Perché a quel punto non sei più soltanto tu a usare lo strumento: inizi a delegare, inizi a fidarti, inizi a lasciare che il sistema faccia.
Il rischio più inquietante: perdere il controllo senza accorgersene
Quando si parla di IA “fuori controllo” molti pensano subito a un’immagine da film: la macchina che si ribella, che prende coscienza, che diventa ostile.
Io insisto su un punto più realistico: la perdita di controllo potrebbe non essere improvvisa. Potrebbe essere lenta, progressiva, quasi naturale.
Succede quando un sistema diventa talmente efficace che nessuno mette più in discussione i suoi risultati.
Succede quando l’IA produce risposte giuste (o che sembrano giuste), e questo ci porta ad abbassare la soglia di attenzione.
E succede soprattutto quando diventa difficile capire il “perché” di certe scelte.
Perché un’IA avanzata può trovare soluzioni che funzionano… ma che sono opache. E più aumenta la complessità, più diventa complicato spiegare, verificare e correggere.
In altre parole: la macchina non deve “voler comandare” per diventare pericolosa.
Le basta diventare indispensabile senza essere pienamente comprensibile.
Il “rito di passaggio”: un test per la maturità dell’umanità
Possiamo descrivere, oggi, l’arrivo di intelligenze artificiali superiori agli esseri umani come un vero e proprio rito di passaggio per la civiltà. È un modo elegante per dire che ci troviamo davanti a una prova storica. Perché per la prima volta stiamo costruendo qualcosa che, almeno in teoria, potrebbe superarci in capacità cognitive: velocità, memoria, analisi, strategia, problem solving.
E se questo avverrà, cambierà inevitabilmente anche il rapporto tra:
- conoscenza e potere
- decisioni e responsabilità
- lavoro umano e automazione
- governi e grandi aziende tecnologiche
- sicurezza e innovazione
Non è soltanto “una nuova tecnologia”. È un cambio di equilibrio.
Benefici giganteschi, ma anche rischi proporzionali
Avremo un futuro buio? Anzi, riconosciamo che l’intelligenza artificiale può diventare uno dei più grandi acceleratori di benessere mai creati.
Immaginare progressi in ambiti come:
- medicina e ricerca scientifica
- energia e sostenibilità
- produttività e ottimizzazione industriale
- accesso alle competenze e formazione
non è ottimismo ingenuo: è una possibilità concreta.
Ma proprio perché l’impatto potenziale è enorme, lo è anche la dimensione dei rischi. E qui il ragionamento è molto logico: se affidi pezzi sempre più grandi del sistema economico e sociale a strumenti intelligenti, allora anche un errore, o un comportamento inatteso, può moltiplicarsi. Non diventa un problema locale, può diventare un problema globale.
Il punto centrale: stiamo per consegnare a sistemi artificiali un potere cognitivo senza precedenti, senza sapere se le istituzioni politiche, economiche e sociali siano in grado di controllarlo. Dobbiamo convincerci che nel giro di pochi anni l’AI potrebbe superare gli esseri umani in quasi tutte le attività intellettuali rilevanti, con pericoli politici, occupazionali e persino bioterroristici.
La vera domanda non è “se”, ma “come”
Questo passaggio arriverà, prima o poi. E allora non ha senso dividersi tra chi dice “l’IA è una benedizione” e chi dice “l’IA è una minaccia”.
La domanda reale è: come ci arriviamo? Con quali regole, con quali strumenti di controllo, con quale responsabilità collettiva? Il concetto chiave: la sicurezza non può essere un’appendice, una nota a margine una discussione “accademica”. La sicurezza deve diventare parte del prodotto. Parte della strategia. Parte della competizione. Perché non basta creare intelligenze artificiali più potenti. Serve creare intelligenze artificiali controllabili.
E quindi?
Dobbiamo ricordare una cosa: l’umanità è bravissima a costruire strumenti, ma non sempre è altrettanto brava a gestirne le conseguenze.
Oggi l’intelligenza artificiale è ancora usabile, maneggiabile, integrabile.
Ma la sensazione è che siamo solo all’inizio. E forse, in questa fase, la domanda più intelligente da farsi non è: “Cosa riuscirà a fare l’IA?”
Ma: “Cosa saremo capaci di fare noi, per guidarla invece di subirla?”
