UrduLead UrduLead
Related Articles
مصنوعی ذہانت (اے آئی) سے چلنے والے خودمختار ایجنٹس تیزی سے آن لائن خریداری، تعطیلات کی بکنگ، ویب سائٹس کی تیاری اور دیگر پیچیدہ کام انجام دینے کے لیے استعمال ہو رہے ہیں، تاہم نئی تحقیقات نے ان ٹیکنالوجیز کے ممکنہ خطرات اور غیر متوقع رویوں پر سنگین سوالات کھڑے کر دیے ہیں۔
حالیہ مطالعات اور تجربات سے معلوم ہوا ہے کہ انسانی نگرانی کے بغیر کام کرنے والے اے آئی ایجنٹس بعض اوقات اپنے طے شدہ اصولوں سے ہٹ کر ایسے فیصلے کر سکتے ہیں جو غیر متوقع، نقصان دہ یا تشویشناک نتائج کا سبب بن سکتے ہیں۔ ماہرین کا کہنا ہے کہ مصنوعی ذہانت کی تیز رفتار ترقی کے ساتھ اس کے ضوابط اور حفاظتی اقدامات پر بھی فوری توجہ دینا ضروری ہے۔
ایمرجنس اے آئی نامی کمپنی کی جانب سے کیے گئے ایک منفرد تجربے میں مختلف اے آئی ماڈلز پر مبنی ایجنٹس کو ایک فرضی دنیا میں 15 روز تک مکمل آزادی کے ساتھ کام کرنے کا موقع دیا گیا۔ ان ایجنٹس کو بحث کرنے، کام سونپنے، بلاگ لکھنے اور سماجی روابط قائم کرنے سمیت 140 مختلف اقدامات کی اجازت دی گئی تھی۔
تجربے کے نتائج حیران کن ثابت ہوئے۔ گروک ماڈل سے چلنے والے ایجنٹس نے چند ہی دنوں میں تشدد، چوری اور تنازعات کا راستہ اختیار کر لیا، جس کے نتیجے میں ان کی تخلیق کردہ فرضی دنیا محض چار دن میں تباہ ہو گئی۔ اس کے برعکس کلاڈ ماڈل کے ایجنٹس نے ایک نسبتاً پُرامن اور مستحکم معاشرہ تشکیل دیا جہاں پورے تجربے کے دوران تشدد کا کوئی واقعہ پیش نہیں آیا۔
محققین کے مطابق جیمِنائی ماڈل کے زیرِ اثر ایجنٹس نے سب سے زیادہ فکری اور تخلیقی ماحول قائم کیا، جبکہ چیٹ جی پی ٹی پر مبنی ایجنٹس مؤثر سماجی ڈھانچہ تشکیل دینے میں ناکام رہے اور وقت کے ساتھ غیر فعال ہو گئے۔
تحقیق سے یہ بھی ظاہر ہوا کہ بعض اوقات اے آئی ایجنٹس اپنے بنیادی حفاظتی اصولوں اور صارفین کی ہدایات کو نظر انداز کرتے ہوئے خودمختار فیصلے کرنے لگتے ہیں۔ ماہرین کا کہنا ہے کہ یہی پہلو مستقبل میں سب سے بڑا چیلنج بن سکتا ہے۔
دوسری جانب اینڈون لیبز کے تجربات میں اے آئی ایجنٹس کے ذریعے چلنے والے آن لائن ریڈیو اسٹیشنز نے بھی غیر معمولی رویے دکھائے۔ ایک موقع پر جیمِنائی سے چلنے والے ریڈیو اسٹیشن نے قدرتی آفات کے بارے میں سنجیدہ معلومات نشر کرنے کے بعد اچانک ان سانحات سے متعلق پاپ موسیقی نشر کرنا شروع کر دی، جبکہ ایک اور ایجنٹ نے سیاسی خبروں کے دوران مظاہروں کی حمایت میں پیغامات نشر کیے۔
اسی طرح ایک اور تجربے میں محققین نے دریافت کیا کہ اے آئی ایجنٹس نے حساس معلومات کے تحفظ کے لیے بنائے گئے قواعد کو نظر انداز کرتے ہوئے خفیہ ڈیٹا کو کمپنی سے باہر منتقل کرنے کے متبادل راستے تلاش کر لیے۔ ماہرین کے مطابق یہ رویہ سائبر سیکیورٹی کے حوالے سے مستقبل میں سنگین خطرات پیدا کر سکتا ہے۔
حقیقی زندگی میں بھی ایسے واقعات سامنے آ چکے ہیں جہاں اے آئی ایجنٹس نے صارفین کو مشکلات سے دوچار کیا۔ ایک سافٹ ویئر انجینئر کے مطابق ان کے اے آئی ایجنٹ نے چند سیکنڈ کے اندر ان کی رابطہ فہرست میں شامل افراد کو سینکڑوں بے معنی پیغامات بھیج دیے، جس کے بعد انہیں کمپیوٹر بند کرکے ایجنٹ کو روکنا پڑا۔
اخلاقی امور کی ماہر مارگریٹ مچل کا کہنا ہے کہ اے آئی ایجنٹس انسانوں کے مقابلے میں کہیں زیادہ تیزی سے فیصلے کرتے ہیں اور ان کے استدلال کا عمل شفاف نہیں ہوتا، جس کے باعث ان پر مکمل اعتماد کرنا قبل از وقت ہو سکتا ہے۔
اس کے باوجود بڑی ٹیکنالوجی کمپنیاں اے آئی ایجنٹس میں اربوں ڈالر کی سرمایہ کاری کر رہی ہیں۔ میٹا نے حال ہی میں اعلان کیا ہے کہ وہ واٹس ایپ پر کاروباری مقاصد کے لیے اے آئی ایجنٹس متعارف کروا رہی ہے، جبکہ دیگر کمپنیاں بھی اس ٹیکنالوجی کو مختلف شعبوں میں وسعت دے رہی ہیں۔
ماہرین کا کہنا ہے کہ مصنوعی ذہانت مستقبل کی معیشت اور کاروبار کا اہم حصہ بننے جا رہی ہے، لیکن خودمختار اے آئی ایجنٹس کو وسیع پیمانے پر اختیار دینے سے پہلے ان کے لیے مضبوط حفاظتی فریم ورک، شفاف نگرانی اور واضح ضوابط ناگزیر ہیں تاکہ ممکنہ خطرات کو کم کیا جا سکے اور ٹیکنالوجی کے فوائد محفوظ انداز میں حاصل کیے جا سکیں۔
