- Published on
GPT యుగానికి ఆద్యుడు: పిహెచ్‌డి లేకుండానే అగ్రగామిగా ఎదిగిన అలెక్ రాడ్‌ఫోర్డ్
- రచయితలు
- పేరు
- Ajax
అలెక్ రాడ్‌ఫోర్డ్: GPT యొక్క అన్‌సంగ్ ఆర్కిటెక్ట్
"వైర్డ్" మ్యాగజైన్ ప్రకారం, ఓపెన్ AI లో అలెక్ రాడ్‌ఫోర్డ్ యొక్క స్థానం, లారీ పేజ్ పేజ్ ర్యాంక్‌ను కనుగొని ఇంటర్నెట్ శోధనలో విప్లవాత్మక మార్పులు చేసినంత గొప్పది. ముఖ్యంగా ట్రాన్స్‌ఫార్మర్ మరియు GPT లపై రాడ్‌ఫోర్డ్ చేసిన పరిశోధనలు, కృత్రిమ మేధస్సు భాషా నమూనాల పనితీరును పూర్తిగా మార్చివేశాయి.
ఓపెన్ AI ఇటీవల లాభాపేక్ష కలిగిన మరియు లాభాపేక్ష లేని సంస్థలుగా విభజించబడింది. ఈ సందర్భంగా, ఓపెన్ AI CEO సామ్ ఆల్ట్‌మన్ X లో పలువురు ఓపెన్ AI వ్యవస్థాపకులకు కృతజ్ఞతలు తెలుపుతూ, అలెక్ రాడ్‌ఫోర్డ్‌ను "ఐన్‌స్టీన్ స్థాయి మేధావి" అని కొనియాడారు. అంతేకాకుండా, నేటి కృత్రిమ మేధస్సు పురోగతికి అతడి పరిశోధనలే మూలమని అన్నారు.
గత నెలలో రాడ్‌ఫోర్డ్ ఓపెన్ AI నుండి స్వతంత్ర పరిశోధన కోసం నిష్క్రమించినట్లు సమాచారం.
విద్యా విషయక విజయాలు:
- రాడ్‌ఫోర్డ్ యొక్క పరిశోధనా పత్రాలు 190,000 సార్లు పైగా ఉదహరించబడ్డాయి.
- అతని పరిశోధనా పత్రాలు చాలా వరకు 10,000 సార్లు పైగా ఉదహరించబడ్డాయి.
ఆశ్చర్యకరమైన నేపథ్యం:
- రాడ్‌ఫోర్డ్‌కు డాక్టరేట్ లేదు, కనీసం మాస్టర్స్ డిగ్రీ కూడా లేదు.
- అతని అనేక సంచలనాత్మక పరిశోధనలు మొదట జూపిటర్ నోట్‌బుక్‌లో చేయబడ్డాయి.
అలెక్ రాడ్‌ఫోర్డ్ కథ మరోసారి కృత్రిమ మేధస్సు రంగంలో విస్తృత దృష్టిని ఆకర్షించింది. ప్రజలు ఆయనను ప్రశంసిస్తున్నారు.
అలెక్ రాడ్‌ఫోర్డ్ యొక్క వృత్తి జీవితం అలెక్ రాడ్‌ఫోర్డ్ సహజ భాషా ప్రాసెసింగ్ మరియు కంప్యూటర్ విజన్ రంగాలలో ప్రముఖ పరిశోధకుడు. అతను ఓపెన్ AI లో మెషిన్ లెర్నింగ్ డెవలపర్ మరియు పరిశోధకుడిగా పనిచేశాడు. అంతకు ముందు ఇండికో కంపెనీలో పరిశోధనా అధిపతిగా పనిచేశాడు.
ఓపెన్ AI లో ఉన్న సమయంలో, రాడ్‌ఫోర్డ్ జనరేటివ్ ప్రీ-ట్రైనింగ్ (GPT) భాషా నమూనాలపై అనేక పరిశోధనా పత్రాలను రచించారు. న్యూరిప్స్, ఐసిఎల్ఆర్, ఐసిఎంఎల్ మరియు నేచర్ వంటి ప్రముఖ సమావేశాలు మరియు జర్నల్స్‌లో ప్రచురించారు. అతను X/Twitter లో కృత్రిమ మేధస్సుపై తన అభిప్రాయాలను పంచుకున్నాడు. కానీ 2021 మే నుండి యాక్టివ్‌గా లేడు. అతని చివరి ట్వీట్ GPT-1 యొక్క లేయర్ వెడల్పు 768 గా ఉండటానికి గల కారణాలను వివరించింది. లింక్డ్‌ఇన్ సమాచారం ప్రకారం, అలెక్ రాడ్‌ఫోర్డ్ 2011 నుండి 2016 వరకు ఫ్రాంక్లిన్ డబ్ల్యు. ఓలిన్ కాలేజ్ ఆఫ్ ఇంజనీరింగ్‌లో చదివారు మరియు బ్యాచిలర్ డిగ్రీని పొందారు. మసాచుసెట్స్‌లోని నీడ్‌హామ్‌లో ఉన్న ఈ ప్రైవేట్ ఇంజనీరింగ్ కళాశాల తక్కువ అడ్మిషన్ రేటు మరియు ఉన్నత విద్యకు ప్రసిద్ధి చెందింది.
ఓలిన్ ఇంజనీరింగ్ కళాశాల యొక్క విద్యా వ్యవస్థను "ఓలిన్ ట్రయాంగిల్" అంటారు. ఇందులో సైన్స్ అండ్ ఇంజనీరింగ్ ఫండమెంటల్స్, ఎంటర్‌ప్రెన్యూర్‌షిప్ మరియు లిబరల్ ఆర్ట్స్ ఉన్నాయి. ఈ పాఠశాల మెకానికల్ ఇంజనీరింగ్, ఎలక్ట్రికల్ అండ్ కంప్యూటర్ ఇంజనీరింగ్, కంప్యూటర్ సైన్స్ మరియు బయోమెడికల్ ఇంజనీరింగ్ అనే నాలుగు డిగ్రీలను మాత్రమే అందిస్తుంది.
ఈ పాఠశాల ఆచరణాత్మక విద్యకు ప్రాధాన్యతనిస్తుంది. విద్యార్థులు తమ జ్ఞానాన్ని వాస్తవ సవాళ్లతో మిళితం చేయమని మరియు వారి అభిరుచులను కొనసాగించమని ప్రోత్సహిస్తుంది.
అండర్ గ్రాడ్యుయేట్ సమయంలోనే రాడ్‌ఫోర్డ్‌కు మెషిన్ లెర్నింగ్‌పై మక్కువ ఏర్పడింది. అతను తన సహచరులతో కలిసి కాగల్ పోటీలలో పాల్గొని విజయం సాధించాడు. చివరకు వెంచర్ క్యాపిటల్ పొందాడు. 2013 లో, రాడ్‌ఫోర్డ్ తన భాగస్వామితో కలిసి డార్మిటరీలో ఇండికోను స్థాపించాడు. ఇది సంస్థలకు మెషిన్ లెర్నింగ్ పరిష్కారాలను అందించేది.
ఇండికోలో ఉన్న సమయంలో, రాడ్‌ఫోర్డ్ ప్రధానంగా మంచి ఫలితాలను ఇచ్చే ఇమేజ్ మరియు టెక్స్ట్ మెషిన్ లెర్నింగ్ టెక్నాలజీలను గుర్తించడం, అభివృద్ధి చేయడం మరియు మెరుగుపరచడంపై దృష్టి పెట్టాడు. పరిశోధన దశ నుండి వాటిని పరిశ్రమ అనువర్తనాల్లోకి మార్చడానికి కృషి చేశాడు.
అతను జనరేటివ్ అడ్వర్సరియల్ నెట్‌వర్క్స్ (GAN) పై పరిశోధనలు చేశాడు. GAN యొక్క శిక్షణ సామర్థ్యాన్ని మెరుగుపరచడానికి DCGAN ను ప్రతిపాదించాడు. ఇది GAN రంగంలో ఒక ముఖ్యమైన పురోగతిగా పరిగణించబడుతుంది.
బోస్టన్ ప్రాంతంలో కృత్రిమ మేధస్సు రంగంలో పశ్చిమ తీరంలోని టెక్ దిగ్గజాల ప్రభావం తక్కువగా ఉండటం, పరిమిత వనరులు ఉండటంతో రాడ్‌ఫోర్డ్ 2016 లో ఓపెన్ AI లో చేరాడు.
అతను ఈ కొత్త ఉద్యోగాన్ని "గ్రాడ్యుయేట్ కోర్సులో చేరినట్లు" అని అభివర్ణించాడు. ఇక్కడ ఓపెన్ మరియు తక్కువ ఒత్తిడితో కూడిన AI పరిశోధనా వాతావరణం ఉండేది.
రాడ్‌ఫోర్డ్ తక్కువ ప్రొఫైల్‌ను కలిగి ఉంటాడు మరియు మీడియాను కలవడానికి ఇష్టపడడు. ఓపెన్ AI లో తన ప్రారంభ పని గురించి "వైర్డ్" పంపిన ప్రశ్నలకు ఇమెయిల్ ద్వారా సమాధానమిచ్చాడు. న్యూరల్ నెట్‌వర్క్‌లు మానవులతో స్పష్టంగా సంభాషించేలా చేయడమే తన ప్రధాన ఆసక్తి అని తెలిపాడు.
అప్పటి చాట్‌బాట్‌లు (ELIZA నుండి సిరి మరియు అలెక్సా వరకు) పరిమితులను కలిగి ఉన్నాయని, అందువల్ల వివిధ పనులు, సెట్టింగ్‌లు, డొమైన్‌లు మరియు సందర్భాలలో భాషా నమూనాల అనువర్తనాలను అన్వేషించడానికి అతను అంకితమయ్యాడని అన్నాడు.
అతని మొదటి ప్రయోగం 2 బిలియన్ Reddit వ్యాఖ్యలను ఉపయోగించి భాషా నమూనాలకు శిక్షణ ఇవ్వడం. అది విఫలమైనప్పటికీ, ఓపెన్ AI అతనికి తగినంత ప్రయోగాలు చేసే అవకాశాన్ని ఇచ్చింది. ఇది తరువాత GPT మరియు GPT-2 వంటి విప్లవాత్మక పురోగతులకు పునాది వేసింది.
ఈ పరిశోధనలు ఆధునిక పెద్ద భాషా నమూనాలకు పునాదిగా నిలిచాయి. అందుకే "వైర్డ్" మ్యాగజైన్ అలెక్ రాడ్‌ఫోర్డ్‌ను పేజ్ ర్యాంక్‌ను కనుగొన్న లారీ పేజ్‌తో పోల్చింది. పేజ్ ర్యాంక్ అనేది లారీ పేజ్ స్టాన్‌ఫోర్డ్‌లో డాక్టరేట్ చేస్తున్న సమయంలో చేసిన పరిశోధన. కానీ అతను తరువాత డాక్టరేట్ పూర్తి చేయలేదు.
అలెక్ రాడ్‌ఫోర్డ్ GPT-3 పరిశోధనా పత్రం మరియు GPT-4 యొక్క ప్రీ-ట్రైనింగ్ డేటా మరియు ఆర్కిటెక్చర్ పరిశోధనలో కూడా పాల్గొన్నారు.
2024 చివరిలో, ఓపెన్ AI వరుసగా 12 రోజుల పాటు వార్తలు వెలువరించిన చివరి రోజుకు ముందు, అలెక్ రాడ్‌ఫోర్డ్ ఓపెన్ AI నుండి నిష్క్రమించనున్నట్లు వార్తలు వచ్చాయి. అయితే ఇది ఓపెన్ AI యొక్క సంస్థాగత పునర్వ్యవస్థీకరణకు సంబంధించినదా అనేది ఇంకా తెలియదు.
ప్రస్తుతానికి అతను స్వతంత్ర పరిశోధకుడిగా మారనున్నాడని మాత్రమే తెలుస్తుంది. అతను విశ్వవిద్యాలయంలో డాక్టరేట్ చేయడానికి వెళ్లవచ్చు లేదా కొంతకాలం తర్వాత కొత్త పరిశోధన ఫలితాలతో తిరిగి రావచ్చు. ఏది ఏమైనా, అలెక్ రాడ్‌ఫోర్డ్ సృష్టించిన భవిష్యత్తు రాబోతోంది. ఆల్ట్‌మన్ అంచనా వేసిన సాధారణ కృత్రిమ మేధస్సు (AGI) ఈ సంవత్సరం సాధ్యమవుతుందా లేదా అనేది పక్కన పెడితే, 2025 మాత్రం కృత్రిమ మేధస్సు రంగానికి చాలా ముఖ్యమైన సంవత్సరం కానుంది.