Reflexões sobre o Caminho da OpenAI: Do ChatGPT à Superinteligência

A Evolução da Inteligência Artificial e a Jornada da OpenAI

O segundo aniversário do ChatGPT foi há pouco mais de um mês, e já entramos no próximo paradigma de modelos capazes de realizar raciocínios complexos. O início de um novo ano nos coloca em um estado de reflexão, e eu gostaria de compartilhar algumas ideias pessoais sobre como tudo tem acontecido até agora, e algumas das coisas que aprendi ao longo do caminho.

À medida que nos aproximamos da Inteligência Artificial Geral (IAG), parece um momento importante para analisar o progresso da nossa empresa. Ainda há muito a entender, muito que não sabemos, e ainda é muito cedo. Mas sabemos muito mais do que sabíamos quando começamos.

Começamos a OpenAI há quase nove anos porque acreditávamos que a IAG era possível, e que poderia ser a tecnologia mais impactante na história da humanidade. Queríamos descobrir como construí-la e torná-la amplamente benéfica; estávamos animados para tentar deixar a nossa marca na história. Nossas ambições eram extraordinariamente altas e assim era a nossa crença de que o trabalho poderia beneficiar a sociedade de uma forma igualmente extraordinária.

Na época, pouquíssimas pessoas se importavam, e se importavam, era principalmente porque achavam que não tínhamos chance de sucesso.

Em 2022, a OpenAI era um laboratório de pesquisa discreto trabalhando em algo temporariamente chamado “Chat com GPT-3.5”. (Somos muito melhores em pesquisa do que em nomear coisas.) Estávamos observando as pessoas usarem o recurso de playground da nossa API e sabíamos que os desenvolvedores estavam realmente gostando de conversar com o modelo. Pensamos que construir uma demonstração em torno dessa experiência mostraria às pessoas algo importante sobre o futuro e nos ajudaria a tornar nossos modelos melhores e mais seguros.

Acabamos, misericordiosamente, chamando-o de ChatGPT e o lançamos em 30 de novembro de 2022.

Sempre soubemos, abstratamente, que em algum momento atingiríamos um ponto de inflexão e a revolução da IA seria iniciada. Mas não sabíamos qual seria o momento. Para nossa surpresa, acabou sendo este. O lançamento do ChatGPT desencadeou uma curva de crescimento como nada que já tenhamos visto — na nossa empresa, na nossa indústria e no mundo em geral. Estamos finalmente vendo alguns dos enormes benefícios que sempre esperamos da IA, e podemos ver o quanto mais virá em breve.

Não tem sido fácil. O caminho não tem sido suave e as escolhas certas não têm sido óbvias.

Nos últimos dois anos, tivemos que construir toda uma empresa, quase do zero, em torno desta nova tecnologia. Não há como treinar pessoas para isso a não ser fazendo, e quando a categoria de tecnologia é completamente nova, não há ninguém que possa dizer exatamente como deve ser feito.

Construir uma empresa em alta velocidade com tão pouco treinamento é um processo confuso. Muitas vezes, são dois passos para frente, um passo para trás (e às vezes, um passo para frente e dois passos para trás). Os erros são corrigidos à medida que avançamos, mas não existem manuais ou guias quando se está fazendo um trabalho original. Mover-se rapidamente em águas desconhecidas é uma experiência incrível, mas também é imensamente estressante para todos os participantes. Conflitos e mal-entendidos abundam.

Esses anos foram os mais gratificantes, divertidos, melhores, interessantes, exaustivos, estressantes e — particularmente nos últimos dois — desagradáveis da minha vida até agora. O sentimento predominante é de gratidão; Sei que um dia estarei aposentado na nossa fazenda vendo as plantas crescerem, um pouco entediado, e me lembrarei de como foi legal ter feito o trabalho que sonhei desde que era criança. Tento me lembrar disso em qualquer sexta-feira, quando sete coisas dão muito errado até 13h.

Desafios e Aprendizados na Jornada da OpenAI

Há pouco mais de um ano, em uma sexta-feira em particular, a principal coisa que tinha dado errado naquele dia foi que fui demitido de surpresa em uma videochamada, e logo depois que desligamos, o conselho publicou um post no blog sobre isso. Eu estava em um quarto de hotel em Las Vegas. Parecia, a um grau quase impossível de explicar, como um sonho que deu errado.

Ser demitido em público sem aviso prévio desencadeou algumas horas muito loucas e alguns dias muito loucos. A “névoa da guerra” foi a parte mais estranha. Nenhum de nós conseguiu obter respostas satisfatórias sobre o que havia acontecido ou por quê.

Todo o evento foi, na minha opinião, uma grande falha de governança por pessoas bem-intencionadas, incluindo eu mesmo. Olhando para trás, certamente gostaria de ter feito as coisas de forma diferente, e gostaria de acreditar que sou um líder melhor e mais atencioso hoje do que era há um ano.

Também aprendi a importância de um conselho com diversos pontos de vista e ampla experiência na gestão de um conjunto complexo de desafios. Uma boa governança requer muita confiança e credibilidade. Agradeço a forma como tantas pessoas trabalharam juntas para construir um sistema de governança mais forte para a OpenAI que nos permite prosseguir a nossa missão de garantir que a IAG beneficie toda a humanidade.

Minha maior lição é o quanto tenho a agradecer e quantas pessoas devo gratidão: a todos que trabalham na OpenAI e escolheram gastar seu tempo e esforço indo atrás desse sonho, aos amigos que nos ajudaram a superar os momentos de crise, aos nossos parceiros e clientes que nos apoiaram e confiaram em nós para viabilizar o sucesso deles, e às pessoas na minha vida que me mostraram o quanto se importavam. [1]

Todos nós voltamos ao trabalho de forma mais coesa e positiva e estou muito orgulhoso do nosso foco desde então. Fizemos o que é facilmente algumas das nossas melhores pesquisas de todos os tempos. Crescemos de cerca de 100 milhões de usuários ativos semanais para mais de 300 milhões. Acima de tudo, continuamos a colocar tecnologia no mundo que as pessoas genuinamente parecem amar e que resolve problemas reais.

A Visão da OpenAI para o Futuro da IA

Há nove anos, realmente não tínhamos ideia do que iríamos nos tornar; mesmo agora, só sabemos mais ou menos. O desenvolvimento da IA teve muitas reviravoltas e esperamos mais no futuro.

Algumas das reviravoltas foram alegres; algumas foram difíceis. Tem sido divertido ver um fluxo constante de milagres de pesquisa acontecerem, e muitos pessimistas se tornaram verdadeiros crentes. Também vimos alguns colegas se separarem e se tornarem concorrentes. As equipes tendem a mudar à medida que crescem, e a OpenAI cresce muito rapidamente. Acho que parte disso é inevitável — as startups costumam ver muita rotatividade em cada novo nível principal de escala, e na OpenAI os números aumentam em ordens de magnitude a cada poucos meses. Os últimos dois anos foram como uma década em uma empresa normal. Quando qualquer empresa cresce e evolui tão rapidamente, os interesses divergem naturalmente. E quando qualquer empresa em uma indústria importante está na liderança, muitas pessoas a atacam por todos os tipos de razões, especialmente quando estão tentando competir com ela.

Nossa visão não mudará; nossas táticas continuarão a evoluir. Por exemplo, quando começamos, não tínhamos ideia de que teríamos que construir uma empresa de produtos; pensávamos que apenas faríamos uma grande pesquisa. Também não tínhamos ideia de que precisaríamos de uma quantidade tão grande de capital. Existem coisas novas que temos que construir agora que não entendíamos há alguns anos, e haverá coisas novas no futuro que mal podemos imaginar agora.

Estamos orgulhosos do nosso histórico em pesquisa e implantação até agora e estamos comprometidos em continuar a avançar o nosso pensamento sobre segurança e partilha de benefícios. Continuamos a acreditar que a melhor forma de tornar um sistema de IA seguro é liberá-lo de forma iterativa e gradual no mundo, dando à sociedade tempo para se adaptar e coevoluir com a tecnologia, aprendendo com a experiência e continuando a tornar a tecnologia mais segura. Acreditamos na importância de sermos líderes mundiais em pesquisa de segurança e alinhamento, e em orientar essa pesquisa com feedback de aplicações do mundo real.

Estamos agora confiantes de que sabemos como construir a IAG como tradicionalmente a entendemos. Acreditamos que, em 2025, poderemos ver os primeiros agentes de IA “entrarem na força de trabalho” e mudarem materialmente a produção das empresas. Continuamos a acreditar que colocar grandes ferramentas nas mãos das pessoas de forma iterativa leva a grandes resultados amplamente distribuídos.

Estamos começando a direcionar nosso objetivo além disso, para a superinteligência no verdadeiro sentido da palavra. Adoramos os nossos produtos atuais, mas estamos aqui pelo futuro glorioso. Com a superinteligência, podemos fazer qualquer outra coisa. Ferramentas superinteligentes podem acelerar massivamente a descoberta científica e a inovação muito além do que somos capazes de fazer sozinhos e, por sua vez, aumentar massivamente a abundância e a prosperidade.

Isso parece ficção científica agora e um pouco louco até mesmo falar sobre isso. Tudo bem — já estivemos lá antes e estamos bem em estar lá novamente. Estamos bastante confiantes de que nos próximos anos, todos verão o que vemos, e que a necessidade de agir com muito cuidado, ao mesmo tempo em que maximizamos o amplo benefício e empoderamento, é muito importante. Dadas as possibilidades do nosso trabalho, a OpenAI não pode ser uma empresa normal.

Que sorte e humildade é poder desempenhar um papel neste trabalho.

(Obrigado a Josh Tyrangiel por ter provocado isso. Eu gostaria de ter tido muito mais tempo.)

Gratidão e Apoio na Jornada da OpenAI

[1] Houve muitas pessoas que fizeram uma quantidade incrível e gigantesca de trabalho para ajudar a OpenAI, e a mim pessoalmente, durante aqueles poucos dias, mas duas pessoas se destacaram de todas as outras. Ron Conway e Brian Chesky foram muito além do dever, que nem sei como descrever. É claro que ouvi histórias sobre a habilidade e tenacidade de Ron durante anos e passei muito tempo com Brian nos últimos dois anos recebendo muita ajuda e conselhos.

Mas não há nada como estar na trincheira com as pessoas para ver o que elas realmente podem fazer. Estou razoavelmente confiante de que a OpenAI teria desmoronado sem a ajuda deles; eles trabalharam dia e noite durante dias até que as coisas fossem feitas.

Embora tenham trabalhado incrivelmente duro, mantiveram a calma e tiveram um pensamento estratégico claro e ótimos conselhos durante todo o processo. Eles me impediram de cometer vários erros e não cometeram nenhum eles mesmos. Eles usaram suas vastas redes para tudo o que era necessário e foram capazes de navegar em muitas situações complexas. E tenho certeza de que fizeram muitas coisas que não sei.

O que vou me lembrar mais, porém, é o seu cuidado, compaixão e apoio.

Achei que sabia como era apoiar um fundador e uma empresa, e em certo sentido, eu sabia. Mas nunca antes vi, ou mesmo ouvi falar, de nada parecido com o que esses caras fizeram, e agora entendo melhor por que eles têm o status lendário que têm. Eles são diferentes e ambos merecem totalmente as suas reputações genuinamente únicas, mas são semelhantes na sua notável capacidade de mover montanhas e ajudar, e no seu compromisso inabalável em tempos de necessidade. A indústria da tecnologia está muito melhor por ter ambos nela.

Existem outros como eles; é uma coisa incrivelmente especial sobre a nossa indústria e faz muito mais para fazer tudo funcionar do que as pessoas percebem. Estou ansioso para retribuir.

Em uma nota mais pessoal, obrigado especialmente a Ollie por seu apoio naquele fim de semana e sempre; ele é incrível em todos os sentidos e ninguém poderia pedir um parceiro melhor.

Reflections