Ho ascoltato Bletchley Park, il momento clou del viaggio di Alan Turing verso l’immortalità tecnologica gli avvertimenti di questa settimana che la prossima ondata di sistemi di intelligenza artificiale potrebbe minacciare l’umanità.
Ma per uno dei principali investitori tecnologici al mondo, ritardare lo sviluppo dell’intelligenza artificiale sarà altrettanto dannoso in termini di morti per incidenti stradali, pandemie e munizioni scarsamente mirate che avrebbero potuto essere evitate con la tecnologia.
“Crediamo che qualsiasi rallentamento dell’intelligenza artificiale costerà vite umane. Le morti che avrebbero potuto essere evitate dall’intelligenza artificiale sono una forma di omicidio”, ha scritto Marc Andreessen, uno dei primi contributori a Facebook, Pinterest e Twitter. in un post sul blog il mese scorso intitolato “Il Manifesto del Tecno-Ottimista”.
Quando si tratta di intelligenza artificiale, Andreessen non è l’unico tecno-ottimista in circolazione, nonostante una visione pessimistica della tecnologia che domina l’agenda in vista dell’AI Security Summit della scorsa settimana a Bletchley.
Durante l’incontro Elon Musk ha descritto l’intelligenza artificiale come “una delle più grandi minacce per l’umanità”, ma in una conversazione con: Rishi Sunak Giovedì ha anche interpretato la tecnologia in termini utopici. L’intelligenza artificiale è un “genio magico” che esaudisce desideri infiniti e inaugurerà “un’era di abbondanza”, ha detto. Questa è la visione più favorevole dell’intelligenza artificiale generale, un sistema teorico in grado di svolgere una varietà di compiti a livelli di intelligenza umana o sovrumana. Musk ha affermato che la sua impresa di intelligenza artificiale, xAI, cercherà di creare un sistema di “maggior interesse” per l’umanità.
Altri credono che le paure esistenziali basate su sistemi di intelligenza artificiale altamente avanzati che sfuggono al controllo umano e prendono decisioni che minacciano l’umanità siano esagerate. Nick Clegg, l’ex vice primo ministro diventato potente dirigente tecnologico, ha paragonato il clamore intorno all’intelligenza artificiale agli anni ’80. “panico morale” sui videogiochi. Uno dei suoi colleghi, Jan Lekun, una figura rispettata nel settore, ha definito “una sciocchezza” la preoccupazione che l’intelligenza artificiale possa distruggere l’umanità.
Nel complesso, tuttavia, l’ottimismo è più sfumato dell’atteggiamento rialzista di Andreessen. Clegg, che ha partecipato al vertice in qualità di presidente degli affari globali presso Meta di Mark Zuckerberg, ha riconosciuto questa settimana che esistono minacce a breve termine che devono essere affrontate, come la disinformazione generata dall’intelligenza artificiale che influenza le elezioni negli Stati Uniti e in India. Indonesia, Messico e Regno Unito l’anno prossimo.
“I giornali adorano le immagini di robot spaventosi con brillanti occhi rossi che dicono che domani prenderanno il controllo. Ma in realtà c’è ancora molto lavoro da fare sulle sfide più vicine, che temo potrebbero svolgere un ruolo secondario rispetto a quei rischi più speculativi”.
Questo cauto ottimismo è stato tipico dei partecipanti all’AI Security Summit. Demis Hassabis, CEO di Google DeepMind, il principale laboratorio di ricerca sull’intelligenza artificiale al mondo, ha avvertito che i rischi associati all’intelligenza artificiale devono essere affrontati. trattata con la stessa serietà della crisi climatica. Ma è anche sfacciatamente ottimista riguardo al lavoro positivo che l’intelligenza artificiale può svolgere in campi come la salute e la medicina, come dimostrato dai risultati ottenuti dalla sua divisione nella mappatura delle strutture proteiche con il programma AlphaFold.
Mustafa Suleiman, co-fondatore di DeepMind e ora amministratore delegato della società di tecnologia IA Inflection, ha affermato che la tecnologia apporterebbe un “enorme impulso” all’economia e alla società, ma l’industria deve anche affrontare i potenziali svantaggi. “Possiamo farlo? È una sfida ripida, una strada stretta, ma con sufficiente concentrazione, credo che possiamo assolutamente farcela.”
Anche gli esperti più allarmati sono diventati più ottimisti nell’ultima settimana. Max Tegmark, il professore del MIT dietro l’influente lettera che chiedeva un periodo di sei mesi pausa nei giganteschi esperimenti di intelligenza artificiale, era a Bletchley. Lui dice. “(Il vertice) in realtà mi ha reso più ottimista. Ha davvero superato le mie aspettative.”
dopo la promozione della newsletter
Alcuni pessimisti non sono convinti dei risultati del vertice, come l’accordo coinvolgimento del governo nella sperimentazione di nuovi sistemi di intelligenza artificiale. Nurtje Mares, professore ed esperto di sociologia digitale presso l’Università di Warwick, ha affermato che il comunicato del vertice non affronta alcun meccanismo per coinvolgere i cittadini e i gruppi interessati nella governance dell’intelligenza artificiale. “In altre parole, l’intelligenza artificiale non è solo dannosa, ma profondamente antidemocratica”, afferma.
Andreessen, che descrive l’intelligenza artificiale come “la nostra alchimia, la nostra pietra filosofale”, potrebbe sentirsi ancora più di cattivo umore dopo gli eventi di questa settimana a Bletchley. Se c’è ottimismo, i governi che partecipano al vertice vorrebbero che fosse qualificato.
La professoressa Dame Muffey Calder, preside del College of Science and Engineering dell’Università di Glasgow, ha affermato che è necessario affrontare rischi come la disinformazione e i pregiudizi nei set di dati su cui vengono formati i sistemi.
“Sono ottimista. Ma sviluppiamo gli ambiti applicativi dove abbiamo già riscontrato un beneficio dimostrato, come la salute e la medicina. E concentriamoci su come affrontare i rischi attuali come la disinformazione in questo momento. Queste sono le basi su cui possiamo costruire il futuro dell’intelligenza artificiale”.
