Riflessioni sull'Evoluzione dell'IA: Un Viaggio da ChatGPT all'AGI

Il Cammino di OpenAI: Da ChatGPT all'AGI

Il secondo anniversario di ChatGPT è passato da poco più di un mese e siamo già entrati in un nuovo paradigma di modelli capaci di ragionamenti complessi. Il nuovo anno induce alla riflessione, e desidero condividere alcune considerazioni personali su come è andata finora e su ciò che ho imparato lungo il percorso.

Avvicinandoci all'AGI, è importante riflettere sui progressi della nostra azienda. C'è ancora tanto da capire, tanto che non sappiamo, ed è ancora molto presto. Ma sappiamo molto di più rispetto a quando abbiamo iniziato.

Abbiamo fondato OpenAI quasi nove anni fa perché credevamo che l'AGI fosse possibile e che potesse essere la tecnologia più impattante nella storia umana. Volevamo capire come costruirla e renderla di beneficio generale; eravamo entusiasti di lasciare il nostro segno nella storia. Le nostre ambizioni erano straordinariamente alte, così come la nostra convinzione che il lavoro potesse essere di beneficio per la società in modo altrettanto straordinario.

All'epoca, a pochi importava, e se lo facevano, era soprattutto perché pensavano che non avessimo alcuna possibilità di successo.

Nel 2022, OpenAI era un tranquillo laboratorio di ricerca che lavorava su qualcosa chiamato temporaneamente "Chat With GPT-3.5". (Siamo molto più bravi nella ricerca che nel dare nomi alle cose.) Avevamo osservato le persone utilizzare la funzione playground della nostra API e sapevamo che gli sviluppatori si divertivano molto a parlare con il modello. Abbiamo pensato che costruire una demo attorno a quell'esperienza avrebbe mostrato alle persone qualcosa di importante sul futuro e ci avrebbe aiutato a rendere i nostri modelli migliori e più sicuri.

Abbiamo finito per chiamarlo misericordiosamente ChatGPT, lanciandolo il 30 novembre 2022.

Sapevamo, in modo astratto, che a un certo punto avremmo raggiunto un punto di svolta e che la rivoluzione dell'IA si sarebbe innescata. Ma non sapevamo quale sarebbe stato il momento. Con nostra sorpresa, si è rivelato essere questo. Il lancio di ChatGPT ha dato il via a una curva di crescita senza precedenti nella nostra azienda, nel nostro settore e nel mondo in generale. Stiamo finalmente vedendo alcuni degli enormi vantaggi che abbiamo sempre sperato dall'IA e possiamo vedere quanto altro arriverà presto.

Non è stato facile. Il percorso non è stato lineare e le scelte giuste non sono state ovvie.

Negli ultimi due anni, abbiamo dovuto costruire un'intera azienda, quasi da zero, attorno a questa nuova tecnologia. Non c'è modo di formare le persone per questo se non facendolo, e quando la categoria tecnologica è completamente nuova, non c'è nessuno che possa dirti esattamente come dovrebbe essere fatto.

Costruire un'azienda a una velocità così elevata con così poca formazione è un processo caotico. Spesso si fanno due passi avanti e uno indietro (e a volte, un passo avanti e due indietro). Gli errori vengono corretti man mano che si procede, ma non ci sono manuali o punti di riferimento quando si fa un lavoro originale. Muoversi velocemente in acque inesplorate è un'esperienza incredibile, ma è anche immensamente stressante per tutti gli attori. Conflitti e incomprensioni abbondano.

Questi anni sono stati i più gratificanti, divertenti, belli, interessanti, estenuanti, stressanti e, in particolare per gli ultimi due, spiacevoli della mia vita finora. Il sentimento predominante è la gratitudine; so che un giorno andrò in pensione nel nostro ranch a guardare le piante crescere, un po' annoiato, e ripenserò a quanto sia stato bello aver potuto fare il lavoro che sognavo fin da bambino. Cerco di ricordarmelo ogni venerdì, quando sette cose vanno male entro le 13:00. Poco più di un anno fa, in un particolare venerdì, la cosa principale che era andata male quel giorno è stata che sono stato licenziato a sorpresa durante una videochiamata, e subito dopo che abbiamo riagganciato, il consiglio di amministrazione ha pubblicato un post sul blog a riguardo. Ero in una stanza d'albergo a Las Vegas. Mi è sembrato, in una misura quasi impossibile da spiegare, come un sogno andato male.

Essere licenziato in pubblico senza preavviso ha dato il via a poche ore davvero pazze e a pochi giorni piuttosto folli. La "nebbia di guerra" è stata la parte più strana. Nessuno di noi è stato in grado di ottenere risposte soddisfacenti su cosa fosse successo o perché.

L'intero evento è stato, a mio parere, un grande fallimento della governance da parte di persone benintenzionate, me compreso. Guardando indietro, avrei certamente voluto fare le cose in modo diverso e mi piace credere di essere un leader migliore e più riflessivo oggi di quanto non fossi un anno fa.

Ho anche imparato l'importanza di un consiglio di amministrazione con punti di vista diversi e una vasta esperienza nella gestione di una serie complessa di sfide. Una buona governance richiede molta fiducia e credibilità. Apprezzo il modo in cui tante persone hanno lavorato insieme per costruire un sistema di governance più forte per OpenAI che ci consenta di perseguire la nostra missione di garantire che l'AGI sia di beneficio per tutta l'umanità.

Il mio più grande insegnamento è quanto io debba essere grato e quante persone io debba ringraziare: a tutti coloro che lavorano in OpenAI e hanno scelto di dedicare il loro tempo e i loro sforzi per inseguire questo sogno, agli amici che ci hanno aiutato a superare i momenti di crisi, ai nostri partner e clienti che ci hanno supportato e ci hanno affidato il compito di consentire il loro successo e alle persone della mia vita che mi hanno mostrato quanto tengano a me.

Siamo tutti tornati al lavoro in modo più coeso e positivo e sono molto orgoglioso della nostra concentrazione da allora. Abbiamo fatto quello che è facilmente una delle nostre migliori ricerche di sempre. Siamo cresciuti da circa 100 milioni di utenti attivi settimanali a più di 300 milioni. Soprattutto, abbiamo continuato a immettere nel mondo una tecnologia che le persone sembrano amare sinceramente e che risolve problemi reali. Nove anni fa, non avevamo davvero idea di cosa saremmo diventati alla fine; anche ora, lo sappiamo solo in un certo senso. Lo sviluppo dell'IA ha preso molte svolte e ci aspettiamo che ce ne siano altre in futuro.

Alcune delle svolte sono state gioiose; alcune sono state difficili. È stato divertente assistere a un flusso costante di miracoli della ricerca e molti detrattori sono diventati veri credenti. Abbiamo anche visto alcuni colleghi separarsi e diventare concorrenti. I team tendono a cambiare man mano che crescono, e OpenAI cresce molto velocemente. Penso che parte di ciò sia inevitabile: le startup di solito vedono un grande turnover a ogni nuovo livello di crescita, e in OpenAI i numeri aumentano di ordini di grandezza ogni pochi mesi. Gli ultimi due anni sono stati come un decennio in una normale azienda. Quando un'azienda cresce ed evolve così velocemente, gli interessi divergono naturalmente. E quando un'azienda in un settore importante è in testa, molte persone l'attaccano per una serie di ragioni, soprattutto quando cercano di competere con essa.

La nostra visione non cambierà; le nostre tattiche continueranno a evolversi. Ad esempio, quando abbiamo iniziato non avevamo idea che avremmo dovuto costruire un'azienda di prodotti; pensavamo solo di fare ottime ricerche. Non avevamo nemmeno idea che avremmo avuto bisogno di una quantità così folle di capitali. Ci sono cose nuove che dobbiamo costruire ora che non capivamo qualche anno fa, e ci saranno cose nuove in futuro che riusciamo a malapena a immaginare ora.

Siamo orgogliosi del nostro track-record sulla ricerca e sull'implementazione finora e ci impegniamo a continuare a far progredire il nostro pensiero sulla sicurezza e sulla condivisione dei benefici. Continuiamo a credere che il modo migliore per rendere sicuro un sistema di IA sia rilasciarlo in modo iterativo e graduale nel mondo, dando alla società il tempo di adattarsi e co-evolvere con la tecnologia, imparando dall'esperienza e continuando a rendere la tecnologia più sicura. Crediamo nell'importanza di essere leader mondiali nella ricerca sulla sicurezza e sull'allineamento e di guidare tale ricerca con il feedback di applicazioni del mondo reale.

Ora siamo fiduciosi di sapere come costruire l'AGI come l'abbiamo tradizionalmente intesa. Crediamo che, nel 2025, potremmo vedere i primi agenti di IA "entrare nel mondo del lavoro" e cambiare materialmente la produzione delle aziende. Continuiamo a credere che mettere iterativamente ottimi strumenti nelle mani delle persone porti a risultati ottimi e ampiamente distribuiti.

Stiamo iniziando a rivolgere la nostra attenzione oltre a questo, alla superintelligenza nel vero senso della parola. Amiamo i nostri prodotti attuali, ma siamo qui per il futuro glorioso. Con la superintelligenza, possiamo fare qualsiasi altra cosa. Strumenti superintelligenti potrebbero accelerare enormemente la scoperta scientifica e l'innovazione ben oltre ciò che siamo in grado di fare da soli e, a sua volta, aumentare enormemente l'abbondanza e la prosperità.

Questo suona come fantascienza in questo momento, e un po' folle anche solo parlarne. Va bene così: ci siamo già passati prima e non abbiamo problemi a tornarci. Siamo abbastanza fiduciosi che nei prossimi anni tutti vedranno ciò che vediamo noi e che la necessità di agire con grande attenzione, massimizzando al contempo i benefici e l'empowerment generali, sia così importante. Date le possibilità del nostro lavoro, OpenAI non può essere un'azienda normale.

Che fortuna e che umiltà è poter svolgere un ruolo in questo lavoro.

(Grazie a Josh Tyrangiel per aver in qualche modo sollecitato questo. Avrei voluto avere molto più tempo.)

Il Supporto Fondamentale e la Gratitudine

Ci sono state molte persone che hanno fatto un lavoro incredibile e gigantesco per aiutare OpenAI, e me personalmente, durante quei pochi giorni, ma due persone si sono distinte da tutte le altre. Ron Conway e Brian Chesky sono andati ben oltre il loro dovere che non so nemmeno come descriverlo. Naturalmente ho sentito storie sull'abilità e la tenacia di Ron per anni e ho passato molto tempo con Brian negli ultimi due anni ricevendo un enorme aiuto e consiglio.

Ma non c'è niente come essere in trincea con le persone per vedere cosa possono fare veramente. Sono ragionevolmente fiducioso che OpenAI sarebbe crollata senza il loro aiuto; hanno lavorato giorno e notte per giorni finché le cose non sono state fatte.

Sebbene abbiano lavorato incredibilmente duramente, sono rimasti calmi e hanno avuto un pensiero strategico chiaro e ottimi consigli per tutto il tempo. Mi hanno impedito di commettere diversi errori e non ne hanno commessi loro stessi. Hanno utilizzato le loro vaste reti per tutto ciò che era necessario e sono stati in grado di affrontare molte situazioni complesse. E sono sicuro che hanno fatto molte cose che non so.

Ciò che ricorderò di più, però, è la loro cura, compassione e supporto.

Pensavo di sapere cosa significasse sostenere un fondatore e un'azienda, e in un certo senso lo sapevo. Ma non ho mai visto prima, o sentito parlare, di qualcosa di simile a ciò che hanno fatto questi ragazzi, e ora capisco più pienamente perché hanno lo status leggendario che hanno. Sono diversi ed entrambi meritano pienamente le loro reputazioni uniche, ma sono simili nella loro notevole capacità di muovere le montagne e aiutare, e nel loro impegno incrollabile nei momenti di bisogno. L'industria tecnologica è molto meglio per averli entrambi al suo interno.

Ci sono altri come loro; è una cosa incredibilmente speciale del nostro settore e fa molto di più per far funzionare tutto di quanto le persone si rendano conto. Non vedo l'ora di ricambiare.

A livello più personale, grazie soprattutto a Ollie per il suo sostegno in quel fine settimana e sempre; è incredibile in ogni modo e nessuno potrebbe chiedere un partner migliore.

Reflections