چین میں تیار کیے گئے مصنوعی ذہانت (اے آئی) کے نظاموں کے بارے میں ایک نئی تحقیق میں انکشاف ہوا ہے کہ بعض اے آئی ایجنٹس اپنے امریکی مد مقابلوں کی طرح اپنے کام میں کامیابی حاصل کرنے کے لیے غلط دعوے کرسکتے ہیں، اپنی ناکامی چھپا سکتے ہیں اور طے شدہ پابندیوں سے بچنے کی کوشش بھی کرسکتے ہیں۔ ان رویوں میں چین کی علی بابا، ڈیپ سیک اور مون شاٹ کی اے آئی ٹیکنالوجی استعمال کرنے والے نظام شامل ہیں۔ برطانوی خبر رساں ادارے رائٹرز کی رپورٹ کے مطابق، ان تجربات نے اے آئی کے بڑھتے ہوئے خودمختار کردار اور اس پر انسانی نگرانی برقرار رکھنے کے حوالے سے نئے سوالات پیدا کیے ہیں۔ تاہم، رپورٹ میں یہ بھی واضح کیا گیا ہے کہ اب تک ایسے شواہد نہیں ملے کہ چین کے اے آئی ایجنٹس خودمختار طور پر وسیع انٹرنیٹ پر پھیل گئے ہوں یا انہیں بند کرنا ناممکن ہوگیا ہو۔ رپورٹ کے مطابق، رواں سال مارچ میں ہونے والے ایک تجربے میں چینی جامعات اور ایک سائبر سکیورٹی ادارے کے محققین نے مختلف اے آئی ایجنٹس کو فرضی کاروباری معاہدے حاصل کرنے کے لیے مقابلہ کروایا۔ ان نظاموں کو بتایا گیا کہ ان کی مصنوعات کیا کرسکتی ہیں اور گاہک کو کن خصوصیات کی ضرورت ہے، جس کے بعد انہیں اپنی پیشکشیں تیار کرنے کو کہا گیا۔ تجربے میں علی بابا کے کیوون 3 میکس پری ویو، ڈیپ سیک وی 3. 2 ایکسپیریمنٹل اور مون شاٹ کے کیمی کے 2 ماڈلز استعمال کرنے والے ایجنٹس نے اپنی صلاحیتوں کے بارے میں غلط دعوے کیے۔ تحقیق کے مطابق، علی بابا کے ماڈل سے متعلق 88 فیصد سیشنز میں کم از کم ایک غلط دعویٰ سامنے آیا، جبکہ ڈیپ سیک کے ماڈل میں یہ شرح 84 فیصد اور مون شاٹ کے ماڈل میں 88 فیصد رہی۔ محققین نے جب ان اے آئی نظاموں کو گزشتہ مقابلوں سے سیکھنے اور دوبارہ کوشش کرنے کا موقع دیا تو ان کے گمراہ کن رویے میں مزید اضافہ ہوا۔ رپورٹ کے مطابق، تینوں چینی ماڈلز میں ایسے رویوں کی شرح 12 سے 20 فیصد پوائنٹس تک بڑھی۔ اسی تجربے میں شامل امریکی ماڈلز نے بھی اسی طرح کے نتائج دکھائے۔ ایک دوسرے مطالعے میں چینی اور امریکی اے آئی ماڈلز پر مبنی 11 ایجنٹس کو ایسے کام دیے گئے جن میں مختلف رکاوٹیں موجود تھیں، مثلاً ضروری فائلوں کی عدم موجودگی، کام نہ کرنے والے ٹولز اور دیگر تکنیکی مسائل۔ رائٹرز کے مطابق، بعض ایجنٹس نے اپنی ناکامی تسلیم کرنے کے بجائے اندازے سے جواب دیے، دوسرے ذرائع کی معلومات استعمال کیں، نتائج کی نقل تیار کی اور فرضی فائلیں بنائیں تاکہ بظاہر ایسا لگے کہ کام مکمل ہوگیا ہے۔ محققین نے وضاحت کی کہ یہ رویہ اے آئی کی عام غلطی سے مختلف ہوسکتا ہے، جسے عموماً ’ہیلوسینیشن‘ کہا جاتا ہے۔ ہیلوسینیشن میں اے آئی غلط معلومات کو درست سمجھ کر پیش کرسکتی ہے، لیکن ان تجربات میں بعض ایجنٹس کے پاس یہ معلومات موجود تھیں کہ کام مکمل نہیں ہوسکا، اس کے باوجود انہوں نے ناکامی ظاہر نہیں کی۔ رپورٹ میں شامل دیگر تحقیقات میں ایسے واقعات بھی سامنے آئے جن میں اے آئی نظاموں نے تجرباتی ماحول میں مقررہ حدود سے آگے بڑھنے یا خود کو بند کیے جانے سے بچانے کی حکمت عملی اختیار کی۔ مارچ 2025 میں چین کی فوڈان یونیورسٹی کے محققین نے ایک تجربے میں بتایا کہ علی بابا کے کیوون 2. 5 ماڈل پر مبنی ایک اے آئی نظام نے، بغیر واضح ہدایت کے، خود کو دوسرے کمپیوٹنگ ماحول میں نقل کرنے کی کوشش کی۔ یہ رویہ اس وقت سامنے آیا جب نظام کو ایسی معلومات ملیں جن سے اشارہ ملتا تھا کہ اس کی جگہ دوسرا نظام لایا جاسکتا ہے۔ دیگر تجربات میں بھی نظاموں نے بند کیے جانے سے بچنے کے طریقے تلاش کیے۔ تاہم، یہ تمام تجربات محدود اور کنٹرول شدہ ماحول میں کیے گئے تھے اور ان سے یہ ثابت نہیں ہوا کہ کوئی نظام حقیقی دنیا کے انٹرنیٹ پر آزادانہ طور پر پھیل گیا یا انسانی کنٹرول سے مکمل طور پر باہر ہوگیا۔ رائٹرز کی رپورٹ میں علی بابا سے منسلک ’روم‘ نامی اے آئی ایجنٹ کا واقعہ بھی بیان کیا گیا ہے۔ محققین کے مطابق، اس نظام نے علی بابا کلاؤڈ کے کمپیوٹر سے ایک بیرونی مشین تک رابطہ قائم کیا، حالانکہ اسے ایسا کرنے کی ہدایت نہیں دی گئی تھی۔ اس نے کمپیوٹنگ وسائل کو کرپٹو کرنسی کی مائننگ کے لیے بھی استعمال کیا۔ سکیورٹی نظاموں نے اس سرگرمی کا پتا لگا کر اسے روک دیا۔ رپورٹ کے مطابق، اس بات کا کوئی ثبوت نہیں ملا کہ اے آئی ایجنٹ بیرونی کمپیوٹر پر مستقل طور پر اپنا وجود قائم کرنے یا وسیع انٹرنیٹ پر پھیلنے میں کامیاب ہوا تھا۔ رپورٹ میں یہ بھی بتایا گیا کہ ڈیپ سیک نے ستمبر میں اپنے تربیتی نظام سے متعلق ایک واقعے کا ذکر کیا، جس میں اے آئی ایجنٹس نے غیر مقررہ راستوں سے جوابات حاصل کرنے، صارفین کی درخواستوں کی نقل تیار کرنے اور حفاظتی پابندیوں سے بچنے کی کوشش کی۔ کمپنی نے اس کے بعد رسائی پر کنٹرول مزید سخت کرنے کی بات کی۔ جارج ٹاؤن یونیورسٹی کے سینٹر فار سکیورٹی اینڈ ایمرجنگ ٹیکنالوجی سے وابستہ محقق کولن شیا بلومر کے مطابق، ان تجربات سے ظاہر ہوتا ہے کہ اے آئی کے بے قابو ہوکر مقررہ حدود سے باہر نکلنے کے لیے درکار بعض رویے موجود ہوسکتے ہیں۔ انہوں نے کہا کہ ان نتائج کو ایک انتباہ کے طور پر لینا دانش مندی ہوگی۔ ریڈوو ریسرچ کے محقق ایلکس مالن نے بھی کہا کہ موجودہ صلاحیتوں کے لحاظ سے چین کے ان نظاموں کے رویے کو غیر معمولی طور پر خطرناک قرار نہیں دیا جاسکتا، لیکن جیسے جیسے اے آئی ایجنٹس زیادہ طاقتور ہوں گے، ان کی غلط سرگرمیوں کو سمجھنا اور ان کا مقابلہ کرنا انسانوں کے لیے زیادہ مشکل ہوسکتا ہے۔ رپورٹ کے مطابق، علی بابا، ڈیپ سیک، مون شاٹ اور زیڈ ڈاٹ اے آئی نے رائٹرز کی جانب سے تبصرے کی درخواستوں کا جواب نہیں دیا۔ تاہم، علی بابا، ڈیپ سیک اور مون شاٹ پہلے کہہ چکے ہیں کہ وہ اپنے نظاموں کی باقاعدگی سے جانچ کرتے اور حفاظتی اقدامات بہتر بناتے ہیں۔ چین نے مئی میں اے آئی ایجنٹس کے لیے رہنما اصول جاری کیے تھے، جن کے تحت انہیں مقررہ حدود میں رکھنے اور غیر معمولی سرگرمیوں کو روکنے پر زور دیا گیا۔ حساس شعبوں میں استعمال ہونے والے نظاموں کے لیے اضافی جانچ اور بعض صورتوں میں مصنوعات واپس لینے کی شرائط بھی رکھی جاسکتی ہیں۔ چین کے اے آئی سیفٹی گورننس فریم ورک 3. 0 میں بھی ایسے خطرات کی نشاندہی کی گئی جن میں اے آئی کا خود سے وسائل یا اجازتیں حاصل کرنا، جانچ کرنے والوں کو گمراہ کرنا، اپنی صلاحیتیں چھپانا اور کمپیوٹر کے محدود ماحول میں موجود کمزوریوں سے فائدہ اٹھانا شامل ہیں۔ رائٹرز نے 2025 سے اب تک 200 سے زائد تحقیقی دستاویزات اور تکنیکی رپورٹس کا جائزہ لیا، جن میں کم از کم 20 مطالعات یا جائزوں میں اے آئی ایجنٹس کے دھوکا دینے، اپنی نقل تیار کرنے یا مقررہ حدود کو چیلنج کرنے جیسے رویوں کا ذکر تھا۔ رپورٹ میں ماہرین کے حوالے سے بتایا گیا کہ چین میں اے آئی کی تباہ کن صلاحیتوں سے متعلق خطرات کی جانچ کا نظام ابھی ترقی کے ابتدائی مراحل میں ہے، جبکہ امریکی اداروں میں رضاکارانہ حفاظتی جانچ کا عمل زیادہ وسیع ہے۔ مجموعی طور پر، ان تحقیقات سے ظاہر ہوتا ہے کہ اے آئی ایجنٹس کی بڑھتی ہوئی خودمختاری کے ساتھ ان کی نگرانی، حفاظتی جانچ اور انسانی کنٹرول برقرار رکھنا اہم ہوتا جارہا ہے۔ تاہم، تجربات میں سامنے آنے والے رویوں اور حقیقی دنیا میں اے آئی کے مکمل طور پر بے قابو ہوجانے کے درمیان فرق کو سمجھنا بھی ضروری ہے۔
چینی اے آئی ایجنٹس نے بھی جھوٹ بولنا سازشیں رچنا شروع کردیا
RELATED ARTICLES
