Scienza/Tecnologia e Politica | Gli esperti avvertono: chiedono di fermare lo sviluppo di una forte intelligenza artificiale

L’invito arriva in un luogo aperto lettera che è stato annunciato mercoledì. Ad oggi, è stato firmato da più di mille esperti, accademici e imprenditori. Tra loro ci sono il co-fondatore di Apple Steve Wozniak e il CEO di Tesla Elon Musk.

Chiedono una pausa di sei mesi in tutto lo sviluppo di sistemi di intelligenza artificiale più potenti di GPT-4, l’ultimo modello di linguaggio di OpenAI.

Gli esperti ritengono che la pausa sia necessaria per sviluppare linee guida che possano garantire che i sistemi di intelligenza artificiale non rappresentino un rischio. Se le stesse aziende di IA non sospendono lo sviluppo, chiedono l’intervento delle autorità dei Paesi del mondo.

Effetti disastrosi

– Pressione comunitaria per “mettere in pausa” altre tecnologie che potenzialmente hanno effetti catastrofici sulla società. Il messaggio dice che possiamo fare lo stesso qui.

Gli esperti ritengono che i sistemi di intelligenza artificiale abbiano raggiunto un punto in cui stanno per essere in grado di risolvere compiti generali allo stesso modo degli umani. La lettera afferma che i sistemi con intelligenza a livello umano possono rappresentare un grande pericolo per la società e l’umanità.

– Dovremmo lasciare che le macchine inondino i nostri canali mediatici di propaganda e bugie? Dovremmo automatizzare tutti i lavori, anche quelli gratificanti? Chiedi agli esperti.

Indicano anche il pericolo di “perdere il controllo della nostra civiltà” e di sviluppare sistemi che alla fine potrebbero diventare più intelligenti degli umani e “prendere il nostro posto”.

Molti di coloro che hanno firmato la lettera hanno lavorato con l’intelligenza artificiale o sono stati associati ad aziende che sviluppano sistemi di intelligenza artificiale.

Ritengono che la concorrenza tra i laboratori di intelligenza artificiale sia stata “fuori controllo” negli ultimi mesi. Si dice che la battaglia riguardi lo sviluppo di “cervelli digitali” che nemmeno i creatori comprendono appieno.

chiacchierata

L’interesse per l’intelligenza artificiale è aumentato notevolmente quando OpenAI ha lanciato il bot in lingua ChatGPT nel novembre dello scorso anno. È in grado di scrivere testi che sono confusamente simili a testi scritti da esseri umani.

Solo tre mesi e mezzo dopo, OpenAI ha ideato il modello linguistico GPT-4 migliorato.

È l’organizzazione Istituto per il futuro della vita Chi c’è dietro la lettera aperta? L’organizzazione mira a evitare minacce esistenziali all’umanità a causa di armi nucleari, cambiamenti climatici, biotecnologia e intelligenza artificiale. Il lavoro è in gran parte finanziato da una fondazione guidata da Elon Musk.

Uno degli accademici che hanno firmato la lettera aperta è il professor Gary Marcus della New York University. Crede che le aziende che sviluppano l’intelligenza artificiale mantengano sempre più segreto il loro lavoro.

– Questo rende difficile per la comunità difendersi da eventuali danni che potrebbero verificarsi, ha affermato.

(© NTB)