Refleksi Perjalanan OpenAI: Dari ChatGPT Hingga Superintelijen

Perjalanan Singkat Namun Penuh Makna

Belum lama rasanya ChatGPT merayakan ulang tahun keduanya, namun kita sudah memasuki era baru model AI yang mampu melakukan penalaran kompleks. Pergantian tahun seringkali membawa suasana reflektif, dan saya ingin berbagi beberapa pemikiran pribadi tentang perjalanan kita selama ini, serta pelajaran yang telah saya petik.

Saat kita semakin dekat dengan Artificial General Intelligence (AGI), momen ini terasa tepat untuk melihat kembali perkembangan perusahaan kita. Masih banyak hal yang perlu dipahami, masih banyak yang belum kita ketahui, dan semuanya masih terasa sangat awal. Namun, kita jauh lebih tahu dibandingkan saat pertama kali memulai.

Kami mendirikan OpenAI hampir sembilan tahun lalu karena kami percaya bahwa AGI adalah sesuatu yang mungkin, dan bahwa teknologi ini bisa menjadi teknologi paling berdampak dalam sejarah manusia. Kami ingin mencari tahu bagaimana cara membangunnya dan membuatnya bermanfaat bagi banyak orang. Kami bersemangat untuk mencoba memberikan jejak dalam sejarah. Ambisi kami sangat tinggi, begitu pula keyakinan kami bahwa pekerjaan ini dapat memberikan manfaat yang luar biasa bagi masyarakat.

Saat itu, hanya sedikit orang yang peduli. Kalaupun ada, kebanyakan dari mereka berpikir bahwa kami tidak mungkin berhasil.

Pada tahun 2022, OpenAI adalah sebuah laboratorium riset yang bekerja dalam senyap mengerjakan sesuatu yang sementara disebut “Chat With GPT-3.5”. (Kami jauh lebih baik dalam riset daripada dalam memberi nama.) Kami telah mengamati orang-orang menggunakan fitur playground API kami dan menyadari bahwa para pengembang sangat menikmati berinteraksi dengan model tersebut. Kami berpikir membuat demo yang berfokus pada pengalaman tersebut akan menunjukkan kepada orang-orang sesuatu yang penting tentang masa depan dan membantu kami membuat model kami lebih baik dan lebih aman.

Akhirnya, dengan penuh syukur, kami menamainya ChatGPT dan meluncurkannya pada tanggal 30 November 2022.

Secara abstrak, kami selalu tahu bahwa pada suatu saat kami akan mencapai titik balik dan revolusi AI akan dimulai. Namun, kami tidak tahu kapan momen itu akan tiba. Sungguh mengejutkan, ternyata momen itu adalah peluncuran ChatGPT.

Peluncuran ChatGPT memicu pertumbuhan yang belum pernah kami lihat sebelumnya—di perusahaan kami, di industri ini, dan di dunia secara umum. Kita akhirnya melihat beberapa dampak positif yang selama ini kita harapkan dari AI, dan kita bisa melihat betapa banyak lagi yang akan datang dalam waktu dekat.

Tantangan dan Pembelajaran

Perjalanan ini tidaklah mudah. Jalan yang kami lalui tidaklah mulus dan pilihan yang tepat tidak selalu jelas.

Dalam dua tahun terakhir, kami harus membangun seluruh perusahaan, hampir dari nol, di sekitar teknologi baru ini. Tidak ada cara untuk melatih orang untuk ini kecuali dengan melakukannya sendiri. Ketika kategori teknologi ini benar-benar baru, tidak ada seorang pun yang bisa memberi tahu Anda persis bagaimana seharusnya dilakukan.

Membangun perusahaan dengan kecepatan tinggi dan pelatihan yang minim adalah proses yang berantakan. Seringkali, langkah kami adalah dua langkah maju, satu langkah mundur (dan terkadang, satu langkah maju dan dua langkah mundur). Kesalahan diperbaiki seiring berjalannya waktu, tetapi tidak ada buku panduan atau rambu-rambu ketika Anda melakukan pekerjaan orisinal. Bergerak cepat di perairan yang belum dipetakan adalah pengalaman yang luar biasa, tetapi juga sangat menegangkan bagi semua pemain. Konflik dan kesalahpahaman sering terjadi.

Tahun-tahun ini adalah tahun-tahun yang paling memuaskan, menyenangkan, terbaik, menarik, melelahkan, penuh tekanan, dan—terutama dalam dua tahun terakhir—tidak menyenangkan dalam hidup saya sejauh ini. Perasaan yang paling dominan adalah rasa syukur. Saya tahu bahwa suatu hari nanti saya akan pensiun di peternakan kami, mengamati tanaman tumbuh, sedikit bosan, dan akan mengenang betapa kerennya saya bisa melakukan pekerjaan yang saya impikan sejak kecil. Saya mencoba mengingatnya setiap hari Jumat, ketika tujuh hal berjalan salah pada pukul 1 siang.

Beberapa waktu lalu, pada suatu hari Jumat, hal utama yang terjadi adalah saya dipecat secara tiba-tiba melalui panggilan video. Segera setelah panggilan ditutup, dewan direksi menerbitkan postingan blog tentang hal itu. Saya berada di kamar hotel di Las Vegas. Perasaan yang saya alami saat itu, sulit untuk dijelaskan, seperti mimpi buruk.

Dipecat di depan umum tanpa peringatan memicu beberapa jam yang sangat gila, dan beberapa hari yang cukup gila. “Kabut perang” adalah bagian yang paling aneh. Tidak satu pun dari kami yang mendapatkan jawaban yang memuaskan tentang apa yang telah terjadi, atau mengapa.

Menurut saya, seluruh kejadian itu adalah kegagalan besar dalam tata kelola oleh orang-orang yang bermaksud baik, termasuk saya sendiri. Jika melihat ke belakang, saya tentu berharap saya telah melakukan hal-hal secara berbeda, dan saya ingin percaya bahwa saya adalah pemimpin yang lebih baik dan lebih bijaksana hari ini daripada setahun yang lalu.

Saya juga mempelajari pentingnya dewan direksi dengan berbagai sudut pandang dan pengalaman luas dalam mengelola serangkaian tantangan yang kompleks. Tata kelola yang baik membutuhkan banyak kepercayaan dan kredibilitas. Saya menghargai cara begitu banyak orang bekerja sama untuk membangun sistem tata kelola yang lebih kuat untuk OpenAI yang memungkinkan kami untuk mengejar misi kami untuk memastikan bahwa AGI bermanfaat bagi seluruh umat manusia.

Pelajaran terbesar yang saya dapatkan adalah betapa banyak hal yang harus saya syukuri dan betapa banyak orang yang harus saya berterima kasih: kepada semua orang yang bekerja di OpenAI dan telah memilih untuk menghabiskan waktu dan upaya mereka mengejar impian ini, kepada teman-teman yang membantu kami melewati masa-masa krisis, kepada mitra dan pelanggan kami yang mendukung kami dan mempercayakan kami untuk memungkinkan kesuksesan mereka, dan kepada orang-orang dalam hidup saya yang menunjukkan betapa mereka peduli.

Kami semua kembali bekerja dengan cara yang lebih kohesif dan positif dan saya sangat bangga dengan fokus kami sejak saat itu. Kami telah melakukan apa yang dengan mudah menjadi beberapa penelitian terbaik kami. Kami tumbuh dari sekitar 100 juta pengguna aktif mingguan menjadi lebih dari 300 juta. Yang terpenting, kami terus menghadirkan teknologi ke dunia yang tampaknya benar-benar disukai orang dan yang memecahkan masalah nyata.

Perubahan dan Adaptasi

Sembilan tahun lalu, kami benar-benar tidak tahu akan menjadi apa kami pada akhirnya; bahkan sekarang, kami hanya sedikit tahu. Pengembangan AI telah mengalami banyak liku-liku dan kami mengharapkan lebih banyak lagi di masa depan.

Beberapa liku-liku itu menyenangkan; beberapa sulit. Sangat menyenangkan melihat aliran keajaiban penelitian yang terjadi secara terus-menerus, dan banyak orang yang pesimis telah menjadi orang yang percaya. Kami juga telah melihat beberapa rekan kerja memisahkan diri dan menjadi pesaing.

Tim cenderung berganti seiring dengan pertumbuhan, dan OpenAI tumbuh sangat cepat. Saya pikir sebagian dari ini tidak dapat dihindari—perusahaan rintisan biasanya mengalami banyak pergantian di setiap tingkat skala baru yang utama, dan di OpenAI, jumlahnya meningkat dalam hitungan orde setiap beberapa bulan. Dua tahun terakhir terasa seperti satu dekade di perusahaan normal. Ketika perusahaan mana pun tumbuh dan berkembang begitu cepat, kepentingan secara alami berbeda. Dan ketika perusahaan mana pun di industri penting menjadi yang terdepan, banyak orang menyerangnya karena berbagai alasan, terutama ketika mereka mencoba bersaing dengannya.

Visi kami tidak akan berubah; taktik kami akan terus berkembang. Misalnya, ketika kami memulai, kami tidak tahu bahwa kami harus membangun perusahaan produk; kami pikir kami hanya akan melakukan penelitian yang hebat. Kami juga tidak tahu bahwa kami akan membutuhkan modal yang sangat besar. Ada hal-hal baru yang harus kami bangun sekarang yang tidak kami pahami beberapa tahun lalu, dan akan ada hal-hal baru di masa depan yang hampir tidak bisa kita bayangkan sekarang.

Kami bangga dengan rekam jejak kami dalam penelitian dan penerapan sejauh ini, dan berkomitmen untuk terus memajukan pemikiran kami tentang keselamatan dan pembagian manfaat. Kami terus percaya bahwa cara terbaik untuk membuat sistem AI aman adalah dengan secara iteratif dan bertahap melepaskannya ke dunia, memberi masyarakat waktu untuk beradaptasi dan berevolusi bersama teknologi, belajar dari pengalaman, dan terus membuat teknologi lebih aman. Kami percaya pada pentingnya menjadi pemimpin dunia dalam penelitian keselamatan dan penyelarasan, dan dalam memandu penelitian tersebut dengan umpan balik dari aplikasi dunia nyata.

Menuju Superintelijen

Kami sekarang yakin bahwa kami tahu cara membangun AGI seperti yang telah kita pahami secara tradisional. Kami percaya bahwa, pada tahun 2025, kita mungkin akan melihat agen AI pertama “bergabung dengan tenaga kerja” dan secara material mengubah output perusahaan. Kami terus percaya bahwa secara iteratif memberikan alat-alat hebat di tangan orang-orang akan menghasilkan hasil yang hebat dan didistribusikan secara luas.

Kami mulai mengalihkan tujuan kami lebih dari itu, menuju superintelijen dalam arti kata yang sebenarnya. Kami menyukai produk kami saat ini, tetapi kami di sini untuk masa depan yang gemilang. Dengan superintelijen, kita dapat melakukan hal lain. Alat-alat superintelijen dapat mempercepat penemuan ilmiah dan inovasi secara besar-besaran melebihi apa yang mampu kita lakukan sendiri, dan pada gilirannya meningkatkan kelimpahan dan kemakmuran secara besar-besaran.

Ini terdengar seperti fiksi ilmiah saat ini, dan agak gila untuk membicarakannya. Tidak apa-apa—kita pernah berada di sana sebelumnya dan kita baik-baik saja untuk berada di sana lagi. Kami cukup yakin bahwa dalam beberapa tahun ke depan, semua orang akan melihat apa yang kita lihat, dan bahwa kebutuhan untuk bertindak dengan sangat hati-hati, sambil tetap memaksimalkan manfaat dan pemberdayaan yang luas, sangat penting. Mengingat kemungkinan dari pekerjaan kami, OpenAI tidak bisa menjadi perusahaan biasa.

Betapa beruntung dan merendahkannya bisa berperan dalam pekerjaan ini.

(Terima kasih kepada Josh Tyrangiel karena telah mendorong ini. Saya berharap kita punya lebih banyak waktu.)

Rasa Terima Kasih

Ada banyak orang yang melakukan pekerjaan yang luar biasa dan sangat besar untuk membantu OpenAI, dan saya secara pribadi, selama beberapa hari itu, tetapi dua orang menonjol di atas yang lainnya.

Ron Conway dan Brian Chesky melampaui panggilan tugas sehingga saya bahkan tidak yakin bagaimana menggambarkannya. Saya tentu saja telah mendengar cerita tentang kemampuan dan ketekunan Ron selama bertahun-tahun dan saya telah menghabiskan banyak waktu dengan Brian selama beberapa tahun terakhir untuk mendapatkan banyak bantuan dan nasihat.

Tetapi tidak ada yang seperti berada di parit bersama orang-orang untuk melihat apa yang sebenarnya dapat mereka lakukan. Saya cukup yakin OpenAI akan hancur tanpa bantuan mereka; mereka bekerja sepanjang waktu selama berhari-hari sampai semuanya selesai.

Meskipun mereka bekerja sangat keras, mereka tetap tenang dan memiliki pemikiran strategis yang jelas dan nasihat yang bagus. Mereka menghentikan saya dari melakukan beberapa kesalahan dan tidak membuat kesalahan sendiri. Mereka menggunakan jaringan luas mereka untuk segala sesuatu yang dibutuhkan dan mampu menavigasi banyak situasi yang kompleks. Dan saya yakin mereka melakukan banyak hal yang tidak saya ketahui.

Namun, yang paling akan saya ingat adalah perhatian, kasih sayang, dan dukungan mereka.

Saya pikir saya tahu seperti apa rasanya mendukung seorang pendiri dan perusahaan, dan dalam arti kecil saya memang mengetahuinya. Tetapi saya belum pernah melihat, atau bahkan mendengar, apa pun seperti apa yang dilakukan orang-orang ini, dan sekarang saya lebih memahami mengapa mereka memiliki status legendaris seperti itu. Mereka berbeda dan keduanya sepenuhnya pantas mendapatkan reputasi unik mereka, tetapi mereka serupa dalam kemampuan luar biasa mereka untuk memindahkan gunung dan membantu, dan dalam komitmen mereka yang tak tergoyahkan di saat-saat dibutuhkan. Industri teknologi jauh lebih baik karena memiliki keduanya di dalamnya.

Ada orang lain seperti mereka; itu adalah hal yang sangat istimewa tentang industri kita dan melakukan lebih banyak hal untuk membuat semuanya berhasil daripada yang disadari orang. Saya berharap untuk membayarnya kembali di masa depan.

Secara pribadi, terima kasih khususnya kepada Ollie atas dukungannya akhir pekan itu dan selalu; dia luar biasa dalam segala hal dan tidak ada yang bisa meminta pasangan yang lebih baik.

Reflections