อเล็กซ์ แรดฟอร์ด ผู้บุกเบิก OpenAI กับการปฏิวัติยุค GPT โดยไม่มีปริญญาเอก

อเล็กซ์ แรดฟอร์ด: สถาปนิกผู้ไม่โดดเด่นแห่ง GPT

นิตยสาร Wired เปรียบเทียบสถานะของ Alec Radford ที่ OpenAI ว่าเหมือนกับ Larry Page ที่ประดิษฐ์ PageRank ซึ่งเป็นการปฏิวัติการค้นหาทางอินเทอร์เน็ต งานของ Radford โดยเฉพาะอย่างยิ่งในด้าน Transformer และ GPT ได้เปลี่ยนแปลงวิธีการทำงานของแบบจำลองภาษาปัญญาประดิษฐ์อย่างถึงรากถึงโคน

เมื่อเร็ว ๆ นี้ OpenAI ได้ประกาศการปรับโครงสร้างองค์กร โดยแบ่งออกเป็นบริษัทที่แสวงหากำไรและองค์กรไม่แสวงหากำไร ในขณะเดียวกัน Sam Altman ซีอีโอของ OpenAI ได้โพสต์บนแพลตฟอร์มโซเชียลมีเดีย X เพื่อขอบคุณบุคคลสำคัญหลายคนของ OpenAI และยกย่อง Alec Radford เป็นพิเศษ โดยเรียกว่าเขาเป็น "อัจฉริยะระดับไอน์สไตน์" และชี้ให้เห็นว่าความก้าวหน้าหลายอย่างในด้านปัญญาประดิษฐ์ในปัจจุบันสามารถสืบย้อนไปถึงผลงานวิจัยของเขาได้

มีรายงานว่า Radford ได้ออกจาก OpenAI เมื่อเดือนที่แล้วเพื่อทำการวิจัยอิสระ

ความสำเร็จทางวิชาการ

• ผลงานวิจัยของ Radford ได้รับการอ้างอิงมากกว่า 190,000 ครั้ง
• เขามีผลงานวิจัยหลายชิ้นที่ได้รับการอ้างอิงมากกว่า 10,000 ครั้ง

ภูมิหลังที่น่าประหลาดใจ

• Radford ไม่มีปริญญาเอก หรือแม้แต่ปริญญาโท
• ผลงานวิจัยบุกเบิกหลายชิ้นของเขาเริ่มต้นจาก Jupyter Notebook

เรื่องราวของ Alec Radford ได้รับความสนใจอย่างกว้างขวางอีกครั้งในวงการปัญญาประดิษฐ์ ผู้คนต่างชื่นชมเขาอย่างมาก

เส้นทางอาชีพของ Alec Radford

Alec Radford เป็นนักวิจัยที่โดดเด่นในด้านการประมวลผลภาษาธรรมชาติและคอมพิวเตอร์วิทัศน์ เขาเคยดำรงตำแหน่งนักพัฒนาและนักวิจัยด้านการเรียนรู้ของเครื่องที่ OpenAI ก่อนหน้านี้เขาเคยดำรงตำแหน่งหัวหน้าฝ่ายวิจัยที่บริษัท indico

ในช่วงที่ Radford อยู่ที่ OpenAI เขาได้ร่วมเขียนบทความวิจัยหลายฉบับเกี่ยวกับแบบจำลองภาษาแบบ Pre-trained Generative (GPT) และได้ตีพิมพ์ผลงานวิจัยหลายชิ้นในงานประชุมและวารสารชั้นนำ เช่น NeurIPS, ICLR, ICML และ Nature

เขายังเคยแบ่งปันมุมมองด้านปัญญาประดิษฐ์ของเขาบน X/Twitter แต่ไม่ได้ใช้งานตั้งแต่เดือนพฤษภาคม 2021 โดยทวีตสุดท้ายของเขาคือการอธิบายเหตุผลที่ตั้งค่าความกว้างของเลเยอร์ GPT-1 ไว้ที่ 768 จากข้อมูลใน LinkedIn Alec Radford เข้าศึกษาที่ Franklin W. Olin College of Engineering ระหว่างปี 2011 ถึง 2016 และได้รับปริญญาตรี สถาบันวิศวกรรมเอกชนแห่งนี้ตั้งอยู่ในเมืองเนดแฮม รัฐแมสซาชูเซตส์ มีชื่อเสียงในด้านอัตราการรับเข้าศึกษาที่ต่ำและการศึกษาชั้นยอด

ระบบการศึกษาของ Olin College of Engineering เรียกว่า "Olin Triad" ซึ่งรวมถึงพื้นฐานวิทยาศาสตร์และวิศวกรรม การเป็นผู้ประกอบการ และวรรณกรรม โรงเรียนเปิดสอนเพียงสี่ระดับปริญญา ได้แก่ วิศวกรรมเครื่องกล วิศวกรรมไฟฟ้าและคอมพิวเตอร์ วิทยาการคอมพิวเตอร์ และวิศวกรรมชีวการแพทย์

โรงเรียนให้ความสำคัญกับการศึกษาเชิงปฏิบัติ โดยสนับสนุนให้นักเรียนนำความรู้ไปประยุกต์ใช้กับความท้าทายในชีวิตจริง และแสวงหาความสนใจของตนเอง

ในช่วงปริญญาตรี Radford มีความหลงใหลในการเรียนรู้ของเครื่อง เขาและเพื่อนร่วมชั้นเข้าร่วมการแข่งขัน Kaggle และประสบความสำเร็จ จนได้รับเงินทุนจาก Venture Capital ในปี 2013 Radford และหุ้นส่วนได้ก่อตั้ง indico ในหอพัก เพื่อให้บริการโซลูชันการเรียนรู้ของเครื่องแก่บริษัทต่าง ๆ

ในช่วงที่ทำงานที่ indico Radford มีหน้าที่หลักในการระบุ พัฒนา และปรับปรุงเทคนิคการเรียนรู้ของเครื่องด้านภาพและข้อความที่มีแนวโน้ม และผลักดันให้เทคนิคเหล่านี้เปลี่ยนจากขั้นตอนการวิจัยไปสู่การใช้งานในอุตสาหกรรม

เขาได้ทำการวิจัยเกี่ยวกับ Generative Adversarial Networks (GAN) และนำเสนอ DCGAN เพื่อปรับปรุงความสามารถในการฝึก GAN ซึ่งถือเป็นความก้าวหน้าครั้งสำคัญในด้าน GAN

เนื่องจากอิทธิพลของพื้นที่บอสตันในด้านปัญญาประดิษฐ์นั้นไม่เท่ากับบริษัทเทคโนโลยียักษ์ใหญ่ในชายฝั่งตะวันตก ประกอบกับทรัพยากรที่มีจำกัด Radford จึงเข้าร่วม OpenAI ในปี 2016

เขาอธิบายงานใหม่นี้ว่า "คล้ายกับการเข้าร่วมหลักสูตรบัณฑิตศึกษา" โดยมีสภาพแวดล้อมการวิจัย AI ที่เปิดกว้างและมีความกดดันต่ำ

Radford เป็นคนที่มีบุคลิกเงียบ ๆ และไม่ต้องการติดต่อกับสื่อ เขาตอบคำถามของ Wired เกี่ยวกับงานในช่วงแรกของเขาที่ OpenAI ทางอีเมล โดยกล่าวว่าสิ่งที่เขาสนใจมากที่สุดคือการทำให้เครือข่ายประสาทสามารถสนทนากับมนุษย์ได้อย่างชัดเจน

เขาเชื่อว่าแชทบอทในขณะนั้น (ตั้งแต่ ELIZA ไปจนถึง Siri และ Alexa) มีข้อจำกัด ดังนั้นเขาจึงมุ่งมั่นที่จะสำรวจการประยุกต์ใช้แบบจำลองภาษาในงาน การตั้งค่า โดเมน และสถานการณ์ต่าง ๆ

การทดลองครั้งแรกของเขาคือการใช้ความคิดเห็นจาก Reddit จำนวน 2 พันล้านรายการเพื่อฝึกแบบจำลองภาษา แม้จะไม่สำเร็จ แต่ OpenAI ก็ให้พื้นที่ในการลองผิดลองถูกแก่เขาอย่างเพียงพอ ซึ่งวางรากฐานสำหรับการพัฒนาที่ก้าวกระโดดครั้งต่อ ๆ มา เช่น GPT รุ่นแรกที่เป็นที่รู้จักกันดี และการพัฒนา GPT-2 ที่เขาเป็นผู้นำ

งานเหล่านี้ได้วางรากฐานสำหรับแบบจำลองภาษาขนาดใหญ่สมัยใหม่ นิตยสาร Wired จึงเปรียบเทียบบทบาทของ Alec Radford ที่ OpenAI ว่าเหมือนกับ Larry Page ที่ประดิษฐ์ PageRank สิ่งที่น่าสนใจคือ แม้ว่า PageRank จะเป็นผลงานของ Larry Page ในช่วงที่กำลังศึกษาปริญญาเอกที่ Stanford แต่เขาก็ไม่ได้สำเร็จการศึกษาระดับปริญญาเอกในภายหลัง

Alec Radford ยังมีส่วนร่วมในการเขียนบทความวิจัย GPT-3 รวมถึงงานวิจัยเกี่ยวกับข้อมูลการฝึกอบรมล่วงหน้าและสถาปัตยกรรมของ GPT-4

ในช่วงปลายปี 2024 ก่อนวันสุดท้ายของการประกาศข่าว 12 วันติดต่อกันของ OpenAI มีข่าวลือว่า Alec Radford กำลังจะออกจาก OpenAI แต่ยังไม่ชัดเจนว่าเกี่ยวข้องกับการปรับโครงสร้างองค์กรของ OpenAI หรือไม่

ขณะนี้เราทราบเพียงว่าเขาจะกลายเป็นนักวิจัยอิสระ เขาอาจจะเลือกเข้ามหาวิทยาลัยเพื่อศึกษาต่อในระดับปริญญาเอก หรืออาจจะปรากฏตัวอีกครั้งพร้อมกับผลงานวิจัยใหม่หลังจากหายตัวไปสักพัก ไม่ว่าอย่างไรก็ตาม อนาคตที่ Alec Radford มีส่วนร่วมในการสร้างกำลังจะมาถึง ไม่ว่าปัญญาประดิษฐ์ทั่วไป (AGI) ที่ Altman คาดการณ์ไว้จะเกิดขึ้นในปีนี้หรือไม่ ปี 2025 ก็จะเป็นปีที่สำคัญอย่างยิ่งในด้านปัญญาประดิษฐ์