Da quando Rishi Sunak ha annunciato a giugno che il Regno Unito avrebbe ospitato il “primo vertice globale sulla sicurezza dell’intelligenza artificiale”, i funzionari di Westminster si sono affrettati a mettere insieme una lista di dirigenti tecnologici, politici e ricercatori entro una scadenza punitiva.
La promessa di Sunak di organizzare un evento di così alto profilo in soli sei mesi non era solo un tentativo di posizionare il Regno Unito come paese; capo nel nuovo campo caldo. Gli organizzatori volevano andare avanti prima che la prossima generazione di sistemi di intelligenza artificiale venisse rilasciata da aziende come Google e OpenAI, dando ai leader mondiali la possibilità di stabilire principi per la gestione della nuova potente tecnologia prima che diventi troppo grande per gli sforzi per controllarla.
“Idealmente, avremmo un anno per prepararci”, ha detto qualcuno coinvolto nell’organizzazione del vertice. “Avevamo fretta di completarlo prima che uscissero i successivi modelli (AI).”
Sottolineando l’alta posta in gioco in vista del vertice di Bletchley Park della prossima settimana, Sunak ha avvertito in un discorso di giovedì che “l’umanità potrebbe perdere completamente il controllo dell’intelligenza” se la tecnologia non sarà adeguatamente controllata, anche se ne crea di nuove. possibilità.
Portato generativo dopo ChatGPT IA: – una tecnologia in grado di generare rapidamente testi, immagini o codici informatici simili a quelli umani – è diventata nota al pubblico alla fine dello scorso anno, sollevando preoccupazioni su come il software potrebbe essere utilizzato in modo improprio. I critici affermano che l’intelligenza artificiale verrà utilizzata per creare e diffondere disinformazione, aumentare i pregiudizi all’interno della società o essere utilizzata come arma in attacchi informatici e guerre.
Si prevede che i leader politici di circa 28 paesi, tra cui Stati Uniti, Europa, Singapore, Stati del Golfo e Cina, nonché le principali aziende tecnologiche e gli alti dirigenti, uniranno gli sforzi la prossima settimana per stabilire le regole di base per lo sviluppo dell’”intelligenza artificiale di frontiera”. “. Sviluppatori di intelligenza artificiale.
Si prevede che l’elenco degli ospiti di circa 100 persone includa il presidente di Microsoft Brad Smith, il CEO di OpenAI Sam Altman, il capo di Google DeepMind Demis Hassabis e il capo di Meta AI Ian LeCun e il presidente degli affari globali Nick Clegg. Elon Musk, il miliardario della tecnologia che all’inizio di quest’anno ha formato un nuovo gruppo Avvio dell’intelligenza artificiale denominato x.ai, è stato invitato ma non si è impegnato a partecipare, secondo persone a conoscenza della questione.
Tuttavia, l’elenco selezionato dei partecipanti al vertice ha portato alle critiche di alcune organizzazioni e dirigenti esterni al settore tecnologico che si sentono esclusi dall’incontro.
I portavoce del primo ministro sull’intelligenza artificiale, l’investitore tecnologico Matt Clifford e l’ex diplomatico Jonathan Black, hanno trascorso gran parte del mese in aereo visitando i paesi per comprendere le loro posizioni sull’intelligenza artificiale e trovare un terreno comune.
Le persone coinvolte nel vertice affermano che il suo mandato si è ampliato in modo significativo nei mesi successivi al primo annuncio di Sunak. Inizialmente si concentrava quasi esclusivamente sui rischi per la sicurezza nazionale, come gli attacchi informatici e la possibilità di utilizzare l’intelligenza artificiale per progettare armi biologiche; Ora si prevede che coprirà tutto, dai deepfake all’assistenza sanitaria.
Queste persone hanno affermato che all’interno del governo c’è disaccordo sulla portata della misura. Il Dipartimento per la scienza, l’innovazione e la tecnologia desiderava un elenco più ampio di inviti e una discussione più ampia sull’impatto sociale dell’intelligenza artificiale, mentre il numero 10 ha preferito lasciare che un piccolo numero di nazioni e leader tecnologici si concentrassero su un mandato di sicurezza nazionale più ristretto.
“C’è stato un caos assoluto e nessuno è stato chiaro su chi ha la responsabilità di tutto”, ha detto una persona che ha partecipato al vertice.
L’ordine del giorno finale del primo giorno includerà tavole rotonde sui modi pratici per affrontare la sicurezza e su cosa possono fare i politici, la comunità internazionale, le aziende tecnologiche e gli accademici. Si concluderà con un caso di studio sull’uso dell’intelligenza artificiale per il bene pubblico nell’istruzione.
Il secondo giorno, sotto la guida di Sunak, circa 30 leader politici e leader tecnologici si incontreranno in un ambiente più privato. Gli argomenti trattati includeranno misure per rendere sicura l’intelligenza artificiale, nonché colloqui bilaterali e osservazioni conclusive da parte del primo ministro ospitante.
Uno dei risultati del vertice sarà un comunicato, che mira a confermare la posizione comune dei partecipanti sull’esatta natura della minaccia rappresentata dall’intelligenza artificiale.
Una bozza precedente affermava che la cosiddetta “AI borderline”, la forma più avanzata di tecnologia basata su prodotti come ChatGPT di OpenAI e Bard chatbot di Google, potrebbe causare “danni gravi, persino catastrofici”.
Il comunicato è uno dei quattro risultati chiave che gli organizzatori stanno pianificando per il vertice, secondo un membro del governo informato dei piani. Altri sono la creazione Lo annuncia l’AI Safety Institute, panel internazionale che esaminerà i rischi emergenti dell’IA e il prossimo Paese ospitante dell’evento.
In un discorso di giovedì, Sunak ha affermato che il Regno Unito non lo farà “Affrettati a configurare” AI. Invece, è probabile che il vertice si concentri sugli standard di “migliore pratica” per le aziende, hanno detto i funzionari che hanno partecipato all’evento.
Tuttavia, il governo vuole ancora valutare in modo indipendente i modelli che alimentano i prodotti di intelligenza artificiale. I funzionari sono in trattative con le aziende tecnologiche per un accesso più approfondito ai loro sistemi. Il governo sta anche cercando di acquistare chip da aziende tra cui Nvidia per costruire sofisticati sistemi informatici per condurre test di sicurezza indipendenti su modelli di intelligenza artificiale.
Un documento governativo che sarà pubblicato venerdì delineerà le raccomandazioni per sviluppare l’intelligenza artificiale su larga scala in modo responsabile. Le aziende dovrebbero avere politiche per disabilitare i propri prodotti se il danno non può essere prevenuto altrimenti, impiegare consulenti di sicurezza per cercare di “hackerare” i loro sistemi per trovare vulnerabilità e creare etichette per i contenuti generati o modificati dall’intelligenza artificiale.
Michelle Donnellan, ministro della Tecnologia del Regno Unito, che presiederà la prima giornata del vertice, chiede alle aziende di intelligenza artificiale di aderire a questi processi durante l’evento.
“Non dovresti davvero sognare di avere un’azienda in questo spazio senza questo processo di sicurezza”, ha detto Donnellan al Financial Times. “Tutte le aziende concordano sul fatto che le cose devono cambiare. Sono turbati dalla situazione attuale, che fondamentalmente è il loro compito a casa, ed è per questo che hanno accettato di lavorare con noi.”
Report aggiuntivi di Hannah Murphy e George Parker
