Refleksi Perjalanan OpenAI: Dari ChatGPT ke Kecerdasan Super

Perjalanan Menuju AGI dan Peluncuran ChatGPT

Beberapa bulan yang lalu, kita merayakan ulang tahun kedua ChatGPT. Sekarang, kita telah memasuki era baru model yang mampu melakukan penalaran kompleks. Tahun baru sering kali membuat orang merenung, dan saya ingin berbagi beberapa pemikiran pribadi tentang perjalanan sejauh ini, serta beberapa hal yang telah saya pelajari.

Ketika kita semakin dekat dengan AGI (Artificial General Intelligence), saatnya untuk melihat kembali kemajuan perusahaan kita. Masih banyak yang perlu dipahami, masih banyak yang tidak kita ketahui, dan ini masih sangat awal. Namun, kita tahu lebih banyak daripada saat pertama kali memulai.

OpenAI dimulai hampir sembilan tahun yang lalu karena kami percaya bahwa AGI mungkin, dan itu bisa menjadi teknologi paling berdampak dalam sejarah manusia. Kami ingin mencari cara membangunnya dan membuatnya bermanfaat bagi semua orang. Kami sangat bersemangat untuk mencoba membuat jejak kami dalam sejarah. Ambisi kami sangat tinggi, begitu pula keyakinan kami bahwa pekerjaan ini dapat memberi manfaat bagi masyarakat dengan cara yang luar biasa.

Pada saat itu, sangat sedikit orang yang peduli, dan jika ada, itu karena mereka mengira kami tidak memiliki peluang untuk berhasil.

Pada tahun 2022, OpenAI adalah laboratorium penelitian yang tenang yang mengerjakan sesuatu yang sementara disebut "Chat With GPT-3.5". (Kami jauh lebih baik dalam penelitian daripada dalam memberi nama sesuatu.) Kami telah melihat orang-orang menggunakan fitur playground API kami dan tahu bahwa para pengembang sangat menikmati berbicara dengan model tersebut. Kami pikir membangun demo berdasarkan pengalaman itu akan menunjukkan kepada orang-orang sesuatu yang penting tentang masa depan dan membantu kami membuat model kami lebih baik dan lebih aman.

Kami akhirnya menyebutnya ChatGPT dan meluncurkannya pada tanggal 30 November 2022.

Kami selalu tahu, secara abstrak, bahwa pada suatu saat kami akan mencapai titik kritis dan revolusi AI akan dimulai. Namun, kami tidak tahu kapan momen itu akan terjadi. Yang mengejutkan kami, ternyata inilah saatnya. Peluncuran ChatGPT memicu pertumbuhan yang belum pernah kami lihat sebelumnya—di perusahaan kami, industri kami, dan dunia secara luas. Kami akhirnya melihat beberapa manfaat besar yang selalu kami harapkan dari AI, dan kami dapat melihat betapa banyak lagi yang akan segera datang.

Tantangan dan Pembelajaran dalam Membangun OpenAI

Perjalanan ini tidaklah mudah. Jalan yang dilalui tidak mulus, dan pilihan yang tepat tidak selalu jelas.

Dalam dua tahun terakhir, kami harus membangun seluruh perusahaan, hampir dari awal, di sekitar teknologi baru ini. Tidak ada cara untuk melatih orang untuk hal ini kecuali dengan melakukannya, dan ketika kategori teknologi benar-benar baru, tidak ada seorang pun yang dapat memberi tahu Anda persis bagaimana seharusnya hal itu dilakukan.

Membangun perusahaan dengan kecepatan tinggi dan pelatihan yang minim adalah proses yang berantakan. Sering kali dua langkah maju, satu langkah mundur (dan terkadang, satu langkah maju dan dua langkah mundur). Kesalahan diperbaiki seiring berjalannya waktu, tetapi tidak ada buku panduan atau penunjuk arah ketika Anda melakukan pekerjaan orisinal. Bergerak dengan cepat di perairan yang belum dipetakan adalah pengalaman yang luar biasa, tetapi juga sangat menegangkan bagi semua pemain. Konflik dan kesalahpahaman sering terjadi.

Tahun-tahun ini adalah tahun-tahun yang paling bermanfaat, menyenangkan, terbaik, menarik, melelahkan, menegangkan, dan—terutama untuk dua tahun terakhir—tidak menyenangkan dalam hidup saya sejauh ini. Perasaan yang paling kuat adalah rasa syukur; Saya tahu bahwa suatu hari nanti saya akan pensiun di peternakan kami, menonton tanaman tumbuh, sedikit bosan, dan akan mengingat betapa kerennya saya bisa melakukan pekerjaan yang saya impikan sejak kecil. Saya mencoba mengingat itu pada hari Jumat tertentu, ketika tujuh hal berjalan salah pada pukul 1 siang.

Sedikit lebih dari setahun yang lalu, pada hari Jumat tertentu, hal utama yang salah hari itu adalah bahwa saya dipecat secara tiba-tiba melalui panggilan video, dan setelah kami menutup telepon, dewan menerbitkan posting blog tentang hal itu. Saya berada di kamar hotel di Las Vegas. Rasanya, pada tingkat yang hampir tidak mungkin dijelaskan, seperti mimpi yang salah.

Dipecat di depan umum tanpa peringatan memicu beberapa jam yang sangat gila, dan beberapa hari yang cukup gila. "Kabut perang" adalah bagian yang paling aneh. Tidak seorang pun dari kami yang dapat memperoleh jawaban yang memuaskan tentang apa yang telah terjadi, atau mengapa.

Seluruh peristiwa itu, menurut saya, adalah kegagalan besar tata kelola oleh orang-orang yang bermaksud baik, termasuk saya sendiri. Melihat ke belakang, saya tentu berharap saya telah melakukan hal yang berbeda, dan saya ingin percaya bahwa saya adalah pemimpin yang lebih baik dan lebih bijaksana hari ini daripada setahun yang lalu.

Saya juga belajar pentingnya dewan dengan sudut pandang yang beragam dan pengalaman luas dalam mengelola serangkaian tantangan yang kompleks. Tata kelola yang baik membutuhkan banyak kepercayaan dan kredibilitas. Saya menghargai cara begitu banyak orang bekerja sama untuk membangun sistem tata kelola yang lebih kuat untuk OpenAI yang memungkinkan kami untuk mengejar misi kami untuk memastikan bahwa AGI bermanfaat bagi seluruh umat manusia.

Pelajaran terbesar saya adalah betapa banyak hal yang harus saya syukuri dan betapa banyak orang yang harus saya berterima kasih: kepada semua orang yang bekerja di OpenAI dan telah memilih untuk menghabiskan waktu dan upaya mereka mengejar impian ini, kepada teman-teman yang membantu kami melewati saat-saat krisis, kepada mitra dan pelanggan kami yang mendukung kami dan mempercayakan kami untuk memungkinkan kesuksesan mereka, dan kepada orang-orang dalam hidup saya yang menunjukkan betapa mereka peduli.

Kami semua kembali bekerja dengan cara yang lebih kohesif dan positif dan saya sangat bangga dengan fokus kami sejak saat itu. Kami telah melakukan apa yang dengan mudah menjadi beberapa penelitian terbaik kami. Kami tumbuh dari sekitar 100 juta pengguna aktif mingguan menjadi lebih dari 300 juta. Yang terpenting, kami terus menghadirkan teknologi ke dunia yang tampaknya benar-benar disukai orang dan yang memecahkan masalah nyata.

Visi Masa Depan dan Kecerdasan Super

Sembilan tahun yang lalu, kami benar-benar tidak tahu akan menjadi apa kami pada akhirnya; bahkan sekarang, kami hanya tahu sedikit. Pengembangan AI telah mengalami banyak liku-liku dan kami mengharapkan lebih banyak lagi di masa depan.

Beberapa liku-liku itu menyenangkan; beberapa sulit. Sangat menyenangkan menyaksikan serangkaian keajaiban penelitian terjadi, dan banyak penentang telah menjadi orang yang benar-benar percaya. Kami juga melihat beberapa kolega memisahkan diri dan menjadi pesaing. Tim cenderung berganti seiring dengan pertumbuhan, dan OpenAI berkembang sangat cepat. Saya pikir beberapa dari ini tidak dapat dihindari—startup biasanya melihat banyak pergantian pada setiap tingkat skala utama baru, dan di OpenAI jumlahnya meningkat dalam orde besaran setiap beberapa bulan. Dua tahun terakhir terasa seperti satu dekade di perusahaan normal. Ketika perusahaan mana pun tumbuh dan berkembang begitu cepat, kepentingan secara alami berbeda. Dan ketika perusahaan mana pun di industri penting memimpin, banyak orang menyerangnya karena berbagai alasan, terutama ketika mereka mencoba bersaing dengannya.

Visi kami tidak akan berubah; taktik kami akan terus berkembang. Misalnya, ketika kami memulai, kami tidak tahu bahwa kami harus membangun perusahaan produk; kami pikir kami hanya akan melakukan penelitian hebat. Kami juga tidak tahu bahwa kami akan membutuhkan modal yang sangat besar. Ada hal-hal baru yang harus kami bangun sekarang yang tidak kami pahami beberapa tahun yang lalu, dan akan ada hal-hal baru di masa depan yang hampir tidak dapat kami bayangkan sekarang.

Kami bangga dengan rekam jejak kami dalam penelitian dan penyebaran sejauh ini, dan berkomitmen untuk terus memajukan pemikiran kami tentang keselamatan dan pembagian manfaat. Kami terus percaya bahwa cara terbaik untuk membuat sistem AI aman adalah dengan secara iteratif dan bertahap melepaskannya ke dunia, memberi masyarakat waktu untuk beradaptasi dan berevolusi bersama teknologi, belajar dari pengalaman, dan terus membuat teknologi lebih aman. Kami percaya pada pentingnya menjadi pemimpin dunia dalam penelitian keselamatan dan penyelarasan, dan dalam memandu penelitian itu dengan umpan balik dari aplikasi dunia nyata.

Kami sekarang yakin bahwa kami tahu cara membangun AGI seperti yang kita pahami secara tradisional. Kami percaya bahwa, pada tahun 2025, kita mungkin akan melihat agen AI pertama "bergabung dengan tenaga kerja" dan mengubah output perusahaan secara material. Kami terus percaya bahwa secara iteratif menempatkan alat-alat hebat di tangan orang-orang mengarah pada hasil yang hebat dan terdistribusi secara luas.

Kami mulai mengalihkan tujuan kami lebih dari itu, menuju kecerdasan super dalam arti sebenarnya dari kata itu. Kami menyukai produk kami saat ini, tetapi kami di sini untuk masa depan yang gemilang. Dengan kecerdasan super, kita dapat melakukan hal lain. Alat-alat super cerdas dapat secara besar-besaran mempercepat penemuan ilmiah dan inovasi jauh melampaui apa yang mampu kita lakukan sendiri, dan pada gilirannya secara besar-besaran meningkatkan kelimpahan dan kemakmuran.

Ini terdengar seperti fiksi ilmiah saat ini, dan agak gila untuk membicarakannya. Tidak apa-apa—kita pernah berada di sana sebelumnya dan kita baik-baik saja untuk berada di sana lagi. Kami cukup yakin bahwa dalam beberapa tahun ke depan, semua orang akan melihat apa yang kita lihat, dan bahwa kebutuhan untuk bertindak dengan sangat hati-hati, sambil tetap memaksimalkan manfaat dan pemberdayaan yang luas, sangat penting. Mengingat kemungkinan pekerjaan kita, OpenAI tidak bisa menjadi perusahaan biasa.

Betapa beruntung dan merendahkannya untuk dapat memainkan peran dalam pekerjaan ini.

(Terima kasih kepada Josh Tyrangiel karena telah memicu ini. Saya berharap kami punya lebih banyak waktu.)

Ucapan Terima Kasih

Ada banyak orang yang melakukan pekerjaan luar biasa dan besar untuk membantu OpenAI, dan saya pribadi, selama beberapa hari itu, tetapi dua orang menonjol dari semua yang lain. Ron Conway dan Brian Chesky melampaui panggilan tugas yang bahkan saya tidak yakin bagaimana menggambarkannya. Saya tentu saja telah mendengar cerita tentang kemampuan dan ketekunan Ron selama bertahun-tahun dan saya telah menghabiskan banyak waktu dengan Brian selama beberapa tahun terakhir untuk mendapatkan banyak bantuan dan nasihat.

Tetapi tidak ada yang seperti berada di parit bersama orang-orang untuk melihat apa yang benar-benar dapat mereka lakukan. Saya cukup yakin OpenAI akan hancur tanpa bantuan mereka; mereka bekerja sepanjang waktu selama berhari-hari sampai semuanya selesai.

Meskipun mereka bekerja sangat keras, mereka tetap tenang dan memiliki pemikiran strategis yang jelas dan nasihat yang hebat sepanjang waktu. Mereka menghentikan saya dari melakukan beberapa kesalahan dan tidak melakukan kesalahan sendiri. Mereka menggunakan jaringan mereka yang luas untuk semua yang dibutuhkan dan mampu menavigasi banyak situasi yang kompleks. Dan saya yakin mereka melakukan banyak hal yang tidak saya ketahui.

Namun, yang paling akan saya ingat adalah perhatian, kasih sayang, dan dukungan mereka.

Saya pikir saya tahu seperti apa rasanya mendukung seorang pendiri dan sebuah perusahaan, dan dalam arti kecil saya memang melakukannya. Tetapi saya belum pernah melihat, atau bahkan mendengar, apa pun seperti apa yang dilakukan orang-orang ini, dan sekarang saya semakin mengerti mengapa mereka memiliki status legendaris yang mereka miliki. Mereka berbeda dan keduanya sepenuhnya pantas mendapatkan reputasi unik mereka yang asli, tetapi mereka serupa dalam kemampuan luar biasa mereka untuk memindahkan gunung dan membantu, dan dalam komitmen mereka yang tak tergoyahkan di saat-saat dibutuhkan. Industri teknologi jauh lebih baik karena memiliki keduanya di dalamnya.

Ada orang lain seperti mereka; itu adalah hal yang sangat istimewa tentang industri kami dan melakukan lebih banyak untuk membuat semuanya berjalan daripada yang disadari orang. Saya berharap dapat membayarnya kembali.

Secara pribadi, terima kasih khusus kepada Ollie atas dukungannya akhir pekan itu dan selalu; dia luar biasa dalam segala hal dan tidak ada yang bisa meminta pasangan yang lebih baik.

[1] Tautan: Tidak ada tautan eksternal yang digunakan dalam artikel ini.

Reflections