L’intelligenza artificiale segnerà il destino dell’umanità? Uno dei creatori di ChatGPT pensa che ci sia una probabilità del 50%.

Un ricercatore che è stato coinvolto nella creazione di ChatGPT ha avvertito che l’intelligenza artificiale potrebbe portare al destino dell’umanità, o almeno c’è una probabilità del 50% che quello scenario si realizzi.

Business Insider riferisce che Paul Christiano, che ha guidato il team di allineamento del modello linguistico presso OpenAI, ma da allora ha lasciato l’azienda e ora dirige il Centro di ricerca sull’allineamento senza scopo di lucro, ha lanciato l’avvertimento nel podcast Bankless.

Durante l’intervista, i conduttori hanno sollevato la prospettiva di uno “scenario del destino di Eliezer Yudkowsky”, con Yudkowsky che è un noto scettico sull’IA da molti anni (in realtà un paio di decenni).

Christiano ha detto ai conduttori: “Eliezer è coinvolto in questa trasformazione estremamente rapida una volta sviluppata l’intelligenza artificiale. Ho un punto di vista un po’ meno estremo su questo.

Descrive quindi più di un processo graduale di spostamento di marcia con l’accelerazione del cambiamento dell’IA e osserva che: “Nel complesso, forse stai ottenendo una possibilità di sventura del 50/50 poco dopo aver ottenuto sistemi di intelligenza artificiale a livello umano. “

Christiano ha anche affermato nel podcast che alla fine si verificherà “qualcosa come una probabilità del 10-20% che l’IA subentri”, culminando in uno scenario piuttosto desolante in cui molti (o addirittura la maggior parte) umani sono morti. “Lo prendo abbastanza sul serio”, aggiunge Christiano. Beh, non scherziamo.

La missione dell’Alignment Research Center è “allineare i futuri sistemi di machine learning (AI) con gli interessi umani”.

Destino eterno?

Questo è l’ennesimo in un bel mucchio di recenti avvertimenti su come il mondo potrebbe finire per essere influenzato negativamente dall’IA. E uno dei più estremi, di sicuro, dato il discorso sul destino dell’umanità e sulla popolazione terrestre che viene per lo più spazzata via.

Certo, anche Christiano non pensa che ci sia più di una possibilità relativamente piccola che quest’ultimo accada, ma comunque, un tiro di dadi del 20% (scenario peggiore) per un’acquisizione ostile dell’IA non è una prospettiva che qualcuno apprezzerebbe.

È, ovviamente, interessante che qualsiasi acquisizione da parte dell’IA debba essere ostile. Non possiamo avere lo sviluppo di un’intelligenza artificiale ponderata e benevola che governi veramente nel nostro migliore interesse, solo per una volta? Beh no. Qualsiasi intelligenza artificiale può iniziare con buone intenzioni, ma inevitabilmente usciranno dai binari e i giudizi per il “meglio” finiranno per andare storto in modi spettacolari. Hai visto i film, vero?

In tutta serietà, il punto da sottolineare ora è che mentre l’intelligenza artificiale non è davvero intelligente – non ancora come tale, è fondamentalmente ancora un grande (gigantesco) recupero di dati, che elabora tutti quei dati e, certamente, sta già facendo un uso impressionante di detto materiale – abbiamo ancora bisogno di linee guida e regole in vigore il prima possibile per scongiurare potenziali disastri in futuro.

Questi disastri possono assumere la forma di violazioni della privacy, ad esempio, piuttosto che la fine del mondo come lo conosciamo (TM), ma devono comunque essere evitati.

L’avvertimento più recente sull’intelligenza artificiale fornito da un esperto viene dal cosiddetto “Padrino dell’IA” che ha appena lasciato Google. Geoffrey Hinton ha sostanzialmente delineato l’ampia argomentazione contro l’IA, o almeno contro la sua rapida e incontrollata espansione – che sta accadendo ora – compresi i pericoli dell’IA che ci supera in astuzia in un modo molto più rapido di quanto si aspettasse. Per non parlare della minaccia ai posti di lavoro, che è già molto concreta. Questo è il pericolo più urgente a breve termine nel nostro libro.

Ciò segue una lettera aperta che chiede una pausa con lo sviluppo di ChatGPT e altri sistemi di intelligenza artificiale per almeno sei mesi, firmata tra gli altri da Elon Musk (che ha la sua risposta sotto forma di un’intelligenza artificiale che promette è “improbabile che annichilisca umani”).