- Published on
آر ڈبلیو کے وی: ایک چھوٹی ٹیم کا بڑا ماڈل جو مصنوعی ذہانت کے دور کا اینڈرائیڈ بننے کا ارادہ رکھتا ہے
آر ڈبلیو کے وی ایک اوپن سورس ماڈل ہے جسے پینگ بو نے تیار کیا ہے، جس نے ایک حقیقی اوپن اے آئی بنانے پر توجہ مرکوز کرنے کے لیے اوپن اے آئی کی پیشکش کو ٹھکرا دیا۔ یہ ماڈل اختراعی طور پر عام طور پر استعمال ہونے والے ٹرانسفارمر آرکیٹیکچر کو آر این این میں تبدیل کرتا ہے، جس سے استخراجی لاگت اور میموری کا استعمال نمایاں طور پر کم ہوتا ہے۔
آر ڈبلیو کے وی نے اوپن سورس کمیونٹی میں توجہ حاصل کی ہے اور اسے اسٹیبلٹی اے آئی کی حمایت حاصل ہے، جس کی وجہ سے آر ڈبلیو کے وی فاؤنڈیشن کی تشکیل ہوئی ہے۔ حقیقی صارف کی تشخیص میں ماڈل کی کارکردگی مسابقتی رہی ہے، جو کئی معروف منصوبوں سے آگے ہے۔
یوان انٹیلیجنٹ او ایس، جو آر ڈبلیو کے وی پر مبنی ایک اسٹارٹ اپ ہے، کا مقصد ٹرمینل تعیناتی اور ماحولیاتی نظام کی ترقی پر توجہ مرکوز کرتے ہوئے "مصنوعی ذہانت کے دور کا اینڈرائیڈ" بننا ہے۔
پس منظر کا علم
- ٹرانسفارمر آرکیٹیکچر: بڑے لسانی ماڈلز (ایل ایل ایم) میں ایک وسیع پیمانے پر استعمال ہونے والا ماڈل آرکیٹیکچر جو متوازی پروسیسنگ اور اسکیل ایبلٹی کی اجازت دیتا ہے لیکن استخراج کے دوران کمپیوٹیشنل لاگت زیادہ ہوتی ہے۔
- آر این این (ریکرنٹ نیورل نیٹ ورک): قدرتی لسانی پروسیسنگ میں استعمال ہونے والا ایک پرانا قسم کا نیورل نیٹ ورک، جو ترتیب وار ڈیٹا کو سنبھالنے کی صلاحیت کے لیے جانا جاتا ہے لیکن متوازی پروسیسنگ میں کم موثر ہے۔
- اوپن سورس: سافٹ ویئر جو کسی کے بھی استعمال، ترمیم اور تقسیم کرنے کے لیے آزادانہ طور پر دستیاب ہے، جو کمیونٹی کی جانب سے چلائی جانے والی ترقی کو فروغ دیتا ہے۔
- استخراج: نئے ان پٹ ڈیٹا کی بنیاد پر پیشین گوئیاں کرنے یا مواد تیار کرنے کے لیے تربیت یافتہ ماڈل استعمال کرنے کا عمل۔
اہم مواد
آر ڈبلیو کے وی ماڈل کی ترقی اور اختراع
- اصل اور محرک
- ہانگ کانگ یونیورسٹی سے فزکس گریجویٹ پینگ بو نے تیار کیا۔
- مصنوعی ذہانت سے تیار کردہ ناولوں میں ان کی دلچسپی اور طویل متن کی تخلیق کے چیلنج سے متاثر۔
- آرکیٹیکچرل اختراع
- ٹرانسفارمر آرکیٹیکچر کو آر این این میں تبدیل کرتا ہے، جس سے استخراجی پیچیدگی مربع سے لکیری تک کم ہوتی ہے۔
- موثر متوازی تربیت اور اعلیٰ استخراجی کارکردگی حاصل کرتا ہے۔
- کمیونٹی اور سپورٹ
- اوپن سورس کمیونٹی میں توجہ حاصل کی، اسٹیبلٹی اے آئی کی حمایت حاصل ہے۔
- آر ڈبلیو کے وی فاؤنڈیشن تشکیل دی اور عالمی ڈویلپر کمیونٹی کو اپنی طرف متوجہ کیا۔
یوان انٹیلیجنٹ او ایس اور کمرشلائزیشن
- بانی اور ٹیم
- پینگ بو نے سی ٹی او لیو ژاؤ، سی او او کونگ چنگ اور شریک بانی لو ژوان سمیت ایک ٹیم کے ساتھ قائم کیا۔
- فی الحال سات افراد کی ٹیم ہے، جو بہتر بنیادی ماڈلز کی تربیت اور پہلے راؤنڈ کی فنڈنگ حاصل کرنے پر توجہ مرکوز کر رہی ہے۔
- تجارتی حکمت عملی
- آر ڈبلیو کے وی کے ارد گرد ایک ماحولیاتی نظام تیار کرکے "مصنوعی ذہانت کے دور کا اینڈرائیڈ" بننے کا ارادہ رکھتا ہے۔
- ڈیٹا کی رازداری کے خدشات کو دور کرنے کے لیے عمودی صنعت کے ماڈل کی عمدہ ٹیوننگ اور مقامی تعیناتی میں مشغول ہے۔
- ٹرمینل تعیناتی
- کلاؤڈ پر مبنی APIs کے ساتھ تاخیر، لاگت اور ڈیٹا سیکیورٹی کے مسائل کی وجہ سے آخری آلات پر ماڈلز چلانے کی اہمیت پر زور دیتا ہے۔
- موبائل آلات اور خصوصی چپس سمیت مختلف ہارڈ ویئر پلیٹ فارمز کو سپورٹ کرنے کا منصوبہ ہے۔
کارکردگی اور تشخیص
- حقیقی صارف کی تشخیص
- آر ڈبلیو کے وی کے ریوین-14 بی ماڈل نے ایل ایم ایس وائی ایس کے ہفتہ وار اپ ڈیٹ کردہ لیڈر بورڈ میں مسابقتی درجہ بندی حاصل کی۔
- چیٹ بوٹ ایرینا میں اچھی کارکردگی کا مظاہرہ کیا لیکن ایم ٹی بینچ اور ایم ایم ایل یو جیسے ٹاسک پر مبنی بینچ مارکس میں کمزوریاں دکھائی گئیں۔
- دیگر ماڈلز کے ساتھ موازنہ
- چیٹ جی ایل ایم جیسے ماڈلز کے ساتھ مقابلہ کرتا ہے، جو مکالمے کے منظرناموں میں طاقت اور ٹاسک جنرالائزیشن میں کمزوریاں دکھاتا ہے۔
مستقبل کے امکانات اور چیلنجز
- ماحولیاتی نظام کی ترقی
- تھرڈ پارٹی ایپلی کیشنز اور ہارڈ ویئر انضمام کے لیے ایک بڑا ماحولیاتی نظام بنانے کا ارادہ رکھتا ہے۔
- بینچ مارک کلائنٹس بنانے کے لیے چپ مینوفیکچررز اور کلاؤڈ پلیٹ فارمز کے ساتھ تعاون کرتا ہے۔
- ایپلیکیشن ڈویلپمنٹ میں چیلنجز
- ایسی اختراعی ایپلی کیشنز بنانے میں دشواری جو کارکردگی میں بہتری سے آگے بڑھیں۔
- کامیاب مصنوعات کی ترقی کے لیے تکنیکی حدود اور مارکیٹ کی حرکیات کو سمجھنے کی اہمیت۔
اہم تصورات کی وضاحت
- ٹرانسفارمر سے آر این این کی تبدیلی: آر ڈبلیو کے وی کا اختراعی طریقہ استخراج کی کمپیوٹیشنل پیچیدگی کو O(T^2) سے O(T) تک کم کرتا ہے، جس سے یہ طویل متن کی پروسیسنگ کے لیے زیادہ موثر ہو جاتا ہے۔
- اینڈ سائیڈ ماڈل تعیناتی: کلاؤڈ APIs کے ذریعے چلانے کے بجائے براہ راست آلات پر AI ماڈلز چلانا، تاخیر، لاگت اور ڈیٹا کی رازداری کے مسائل کو حل کرنا۔
- اوپن سورس اور کمیونٹی کی جانب سے چلائی جانے والی ترقی: ماڈل کی اوپن سورس نوعیت کمیونٹی کے تعاون اور وسیع پیمانے پر اپنانے کی اجازت دیتی ہے، جیسا کہ سافٹ ویئر کی دنیا میں لینکس۔
آر ڈبلیو کے وی، جسے پینگ بو نے تیار کیا ہے، اے آئی ماڈل آرکیٹیکچر میں ایک اہم اختراع کی نمائندگی کرتا ہے جس میں ٹرانسفارمر کو آر این این میں تبدیل کیا جاتا ہے، اس طرح استخراجی لاگت اور میموری کا استعمال کم ہوتا ہے۔ اس ماڈل نے اوپن سورس کمیونٹی میں مقبولیت حاصل کی ہے اور یہ یوان انٹیلیجنٹ او ایس کی بنیاد ہے، جس کا مقصد "مصنوعی ذہانت کے دور کا اینڈرائیڈ" بننا ہے۔ ٹرمینل تعیناتی اور ماحولیاتی نظام کی ترقی پر توجہ اس بات پر روشنی ڈالتی ہے کہ آر ڈبلیو کے وی کس طرح مختلف صنعتوں میں اے آئی ماڈلز کے استعمال میں انقلاب برپا کرنے کی صلاحیت رکھتا ہے۔ تاہم، ایسی ایپلی کیشنز بنانے میں چیلنجز باقی ہیں جو ماڈل کی صلاحیتوں سے حقیقی معنوں میں فائدہ اٹھائیں اور تکنیکی اور مارکیٹ کے بدلتے ہوئے منظرناموں کو سمجھیں۔