Secondo quanto riferito, il team di OpenAI dedicato alla riduzione del rischio esistenziale della tecnologia emergente è stato sciolto, solo pochi giorni dopo che due dei fondatori dell'azienda si sono dimessi.
2VISUALIZZA GALLERIA – 2 IMMAGINI
Secondo un nuovo rapporto da Wired, il team Superalignment di OpenAI, incaricato di identificare i rischi che i sistemi avanzati basati sull'intelligenza artificiale diventino canaglia e mettano in pericolo l'umanità, è stato sciolto dal rapporto e assorbito nei suoi numerosi ranghi di ricerca e sviluppo. Il rapporto afferma che la ricerca sui rischi dei sistemi basati sull’intelligenza artificiale sarà ora guidata dal cofondatore di OpenAI John Schulman.
In particolare, Ilya Sutskever e Jan Leike, fondatori di OpenAI, hanno annunciato solo pochi giorni fa che avrebbero lasciato l'azienda. Sia Sutskever che Leike erano ricercatori di punta concentrati sulla mitigazione del rischio dell'IA e, dopo la sua partenza dall'azienda, Leike si è rivolto a X spiegando che aveva combattuto con la leadership di OpenAI per un bel po' di tempo riguardo ai suoi valori fondamentali ma, sfortunatamente, ha raggiunto il suo punto critico proprio in questo momento. settimana.
Advertisement
Inoltre, Leike ha detto che il Superallineamento è stato “navigando controvento” e sta lottando per ottenere abbastanza potenza di calcolo per condurre ricerche critiche. In poche parole, Leike ha affermato che OpenAI deve concentrarsi maggiormente sulla sicurezza e sulla protezione dei suoi modelli di intelligenza artificiale.
“Al momento, non disponiamo di una soluzione per guidare o controllare un'intelligenza artificiale potenzialmente superintelligente e impedirle di diventare canaglia. Ma gli esseri umani non saranno in grado di supervisionare in modo affidabile sistemi di intelligenza artificiale molto più intelligenti di noi, e quindi le nostre attuali tecniche di allineamento non raggiungeranno la superintelligenza. Abbiamo bisogno di nuove scoperte scientifiche e tecniche,” ha affermato il team di Superalignment al momento del lancio nel luglio 2023