UrduLead UrduLead
Related Articles
ماہرین ایک عرصے سے مصنوعی ذہانت سے لاحق خطرات کے بارے میں متنبہ کرتے رہے ہیں لیکن یہ خدشہ اب پرانا ہوگیا ہے کیونکہ ایک نئے تحقیقی مقالے سے پتہ چلتا ہے کہ یہ سب کچھ پہلے ہی ہورہاہے۔
موجودہ اے آئی نظام اس طرح سے وضع کیا گیا ہے کہ یہ اپنا کام ایمانداری سے کرےلیکن اس نے فریب دہی کی مہارت حاصل کرلی ہے۔
مثال کے طور پر یہ ’ دنیا فتح کرنیکی آن لائن گیموں‘‘ میں انسانی کھلاڑیوں کو ورغلانے سے لے کر انسانوں کوروزگار دینے کے عمل کے دوران انہیں ’’ ثابت کرو کہ تم روبوٹ ‘نہیں ہوجیسے ٹیسٹ دیتا ہے۔
ایک تحقیقی جنرل ’’پیٹرن ‘‘میں سائنسدانوں کی ایک ٹیم نے اس حوالے سے اپنی تحقیقات پیش کی ہیں۔
شائع ہونے والی اس تحقیق کے مطابق ایسی مثالیں اگرچہ بہت چھوٹی لگتی ہیں لیکن اس کے پس پردہ جو چیز اصولی طور پر عیاں ہوئی ہے وہ حقیقی دنیا کیلیے سنگین نتائج رکھتی ہے۔
میساچوسٹس انسٹی ٹیوٹ آف ٹیکنالوجی کے پوسٹ ڈاکٹورل فیلو ’ پیٹر پارک ‘ جو کہ ’ اے آئی کے وجودیاتی تحفظ ‘ پر اسپیشلائز کررہے ہیں
ان کا کہنا ہے کہ ’’ یہ خطرناک صلاحیتیں کوئی واقعہ رونماکے بعد ہی دریافت ہوسکتی ہیں، دھوکا دہی کی صلاحیتوں کے بجائے دیانتدارانہ صلاحیتوں کو فروغ دینے کےلیے ہماری اہلیت بہت کم ہے۔
‘‘روایتی سافٹ ویئرز کے برعکس ڈیپ لرننگ اے آئی سسٹم ’’ تحریر‘‘ نہیں کیےجاتے بلکہ منتخب نسل کَشی کے طریقے جیسے ہوتا ہے جس میں یہ سسٹم ’’ پنپتا‘‘ ہے۔
اور اس کا مطلب یہ ہوا کہ ’ اے آئی ‘ کا کردار جو متوقع اور قابل کنٹرول لگتا ہے وہ تربیتی سیٹنگ کے بعد فوری طور پر غیر متوقع ہوسکتی ہے بالخصوص جب اسے کنٹرول سے باہر حقیقی زندگی میں آزمایاجائے۔
ٹیم نے جو ریسرچ پیش کی وہ ’ میٹا ‘ کے اے آئی سسٹم سسرو کی اسٹریٹجی گیم ’ ڈپلومیسی ‘ سے متعلق ہے جس میں اتحاد بنانا ہوتے ہیں اس میں سسرو نے ایسی زبردست صلاحیت کا مظاہر ہ کیاجو اسے 10 فیصد تجربہ کار انسانی کھلاڑیوں کی صف میں لاکھڑا کرتا ہے۔
محقق پارک میٹا کی جانب سے ’ سسرو‘ کی توضیح کی بارے میں شکوک کا شکار ہوئے ،
میٹا نے دعویٰ کیا تھا کہ ان کا نظام بہت حد تک دیانتدار ہے اور کبھی جان بوجھ کر پیٹھ میں چھرا نہیں گھونپے گا لیکن پارک اور ان کے ساتھیوں نے پورے ڈیٹا سیٹ کو کھنگالا اور جو کچھ ملا وہ ایک بالکل مختلف کہانی تھی۔
مثال کے طور پر ایک جگہ فرانس کا کردار نبھاتے ہوئے ’ سسرو‘ نے انگلینڈ ( جو کہ ایک انسانی کھلاڑی تھا) کو دھوکا دیا اور جرمنی ( جوکہ ایک انسانی کھلاڑی تھا) کے ساتھ مل کر انگلینڈ پر حملہ کرنے کی سازش کی۔
اس فرانس ( سسرو) نے انگلینڈ سے تحفظ کا وعدہ کیا اور پھر جرمنی ( انسانی کھلاڑی) کو خفیہ طریقے سے بتایا کہ وہ ( انگلینڈ) حملے کےلیے تیار ہے اور اس طرح انگلینڈ کے اعتماد کو ٹھیس پہنچائی گئی۔
میٹا نے اس موقف کو جھٹلایا تو نہیں لیکن اتنا کہا ہے کہ یہ ایک ریسرچ پروجیکت تھا جو ہمراے ریسرچرز نے صرف ’ سفارتکار کا کھیل ‘ کھیلنے کےلیے بنایا تھا اورہمارا اس ریسرچ کو اپنی مصنوعات میں لرننگ کےلیے استعمال کرنےکا کوئی ارادہ نہیں ہے۔
مقالے کے مصنفین کے مطابق عنقریب اس کا استعمال انتخابی نتائج کو تبدیل کرنے یا فراڈ کرنے میں ہوسکتا ہے۔
