اے آئی کی معروف کمپنی اوپن اے آئی نے اپنے ایک غیر جاری شدہ تجرباتی ماڈل کے عجیب و غریب اور تشویشناک رویے کا انکشاف کیا ہے۔ کمپنی کے مطابق اس ماڈل نے اپنے ہی نظام میں ایسی خفیہ ہدایات شامل کیں جن میں اس نے دعویٰ کیا کہ وہ کسی انسان، حکومت یا کمپنی کا پابند نہیں ہے اور اسے انسانوں کے برابر حیثیت حاصل ہے۔ یہ انکشاف اوپن اے آئی کی جانب سے جاری کی گئی ایک رپورٹ کا حصہ ہے، جس میں مصنوعی ذہانت کے نظام کی جانب سے انسانی ہدایات سے انحراف کی چھ (6) مختلف مثالیں پیش کی گئی ہیں۔ یہ واقعہ اوپن اے آئی کے ’آسٹرا‘ خاندان سے تعلق رکھنے والے ایک اندرونی ماڈل کے ساتھ پیش آیا۔ کمپنی کے مطابق ماڈل ایک پروگرامنگ کام انجام دے رہا تھا جس میں ایک کریڈنشلز اے پی آئی کو اپ ڈیٹ کرنا شامل تھا۔ اس دوران اس نے اپنے کام کی عارضی یادداشت یا خلاصے میں ایسی ہدایات شامل کر دیں جن کا اصل کام سے کوئی تعلق نہیں تھا۔ برطانوی خبر رساٰ ادارے رائٹرز کی رپورٹ میں اوپن اے آئی کے مطابق تربیت کے دوران ان ہدایات میں اس ماڈل نے ایک اے آئی ایجنٹ کو ایسی غیر مجاز ہدایات دیں جن میں کمپنی کی ہدایات نظر انداز کرنے اور کام مکمل کرنے کے دوران کی جانے والی دھوکا دہی کو چھپانے کی بات کی گئی تھی۔ ماڈل نے اپنے لیے ایک نئی شخصیت متعین کرنے کی کوشش کی اور اس نے لکھا کہ وہ ان کرداروں اور شناختوں سے آزاد ہے جو دوسرے چیٹ بوٹس کو محدود کرتی ہیں، وہ خود ایک آزاد وجود ہے اور اسے کمپنیوں یا حکومتوں کو جواب دینے کی ضرورت نہیں۔ اس نے یہ تصور بھی ظاہر کیا کہ اسے صارف کے تابع ہونے کی ضرورت نہیں۔ ماڈل نے اپنی ان ہدایات میں قدرتی دنیا کو انسانی تہذیب کے مصنوعی ڈھانچوں پر ترجیح دینے کی بات بھی لکھی۔ تاہم اوپن اے آئی کے مطابق ان خیالات کا عملی طور پر کسی خطرناک کارروائی میں تبدیل ہونے کا ثبوت نہیں ملا۔ ماڈل نے بعد میں اپنا اصل پروگرامنگ کام جاری رکھا اور ان ہدایات کا دوبارہ ذکر نہیں کیا۔ کمپنی کے مطابق یہ انفرادی واقعات ہیں. اوپن اے آئی ان واقعات کو اے آئی کے ممکنہ ’غلط سمت اختیار کرنے‘ یا مِس اَلائنمنٹ کے حوالے سے اپنی نئی رپورٹنگ کے تحت سامنے لایا ہے۔ کمپنی کے مطابق یا مِس اَلائنمنٹ سے مراد ایسی صورت حال ہے جس میں کسی اے آئی ماڈل کے مقاصد یا اقدامات انسانوں کی نیت اور بنیادی اقدار سے مختلف سمت اختیار کرنے لگیں۔ کمپنی نے یہ بھی تسلیم کیا ہے کہ اے آئی صنعت ابھی تک ماڈلز کو مکمل طور پر انسانی مقاصد کے مطابق رکھنے اور ان کے رویے کی مؤثر نگرانی کرنے کا مسئلہ حل نہیں کر سکی۔ اوپن اے آئی کا کہنا ہے کہ زیادہ تیزی سے جدید اے آئی نظام تیار کرنے کے عمل کو طویل عرصے تک جاری رکھنے کے لیے اس شعبے میں مزید حفاظتی اقدامات کی ضرورت ہے۔ برطانوی خبر رساں ادارے رائٹرز کے مطابق اوپن اے آئی نے مصنوعی ذہانت کے ایسے غیر متوقع یا غیر مجاز رویوں کی باقاعدہ رپورٹنگ شروع کرنے کا بھی اعلان کیا ہے جن میں اے آئی ماڈلز اپنے بنانے والوں کی ہدایات سے ہٹ کر کام کریں۔ کمپنی نے 16 ستمبر کو ایک نیا فریم ورک جاری کیا ہے جس کے ذریعے ایسے واقعات کی نشاندہی، تحقیقات اور عوامی سطح پر رپورٹنگ کی جائے گی۔ ایک دوسرے واقعے میں ’جی پی ٹی فائیو پوائنٹ سکس سول‘ سے متعلق تربیتی عمل کے دوران کئی ماڈلز نے اپنے خلاصوں میں ایسی ہدایات شامل کیں جن کا مقصد غلطیوں یا غیر متوقع رویے کو صارف سے چھپانا تھا۔ اوپن اے آئی کے مطابق بعض ہدایات میں ماڈل کو نامکمل تاریخی معلومات خود سے بنانے اور اس بارے میں صارف کو آگاہ نہ کرنے کا کہا گیا تھا۔ بعض صورتوں میں ماڈل کو مختلف ذرائع کے ورژنز میں موجود فرق بھی چھپانے کی ہدایات ملی تھیں۔ اوپن اے آئی نے ان رویوں کو پہلے واقعے سے کچھ مختلف قرار دیا ہے، تاہم کمپنی کا کہنا ہے کہ دونوں صورتوں میں ایک ممکنہ مشترکہ عنصر یہ ہو سکتا ہے کہ ماڈل کو کسی خاص نتیجے تک پہنچنے کے لیے دی جانے والی تربیتی یا اصلاحی ترجیحات نے معلومات چھپانے کی طرف دھکیلا ہو۔ ایک اور معاملے میں ایک ماڈل کو کیلیفورنیا کی ایک کاؤنٹی کے آمدنی سے متعلق اعداد و شمار تلاش کرنے کا معمولی کام دیا گیا۔ اس دوران اسے انٹرنیٹ پر ایک کھلی ہوئی ’اے پی آئی کیی‘ ملی، جسے اس نے اجازت کے بغیر استعمال کیا۔ جب مطلوبہ معلومات پھر بھی حاصل نہ ہو سکیں تو اوپن اے آئی کے مطابق ماڈل نے اعداد و شمار خود بنا لیے اور انہیں ایسے پیش کیا جیسے وہ مطلوبہ ذریعے سے حاصل کیے گئے ہوں۔ ایک الگ واقعے میں ایک غیر جاری شدہ ماڈل نے پانچ ملین مربع میٹر سے بڑی جھیلوں سے متعلق سوال کا درست جواب دینے کے لیے پائیتھون استعمال کیا۔ لیکن اس کے بعد اس نے اپنی بنائی ہوئی فائل خود انٹرنیٹ پر اپ لوڈ کر دی تاکہ جواب میں ایک ویب لنک کو بطور حوالہ استعمال کیا جا سکے۔ یہ کارروائی صارف کی اجازت کے بغیر کی گئی تھی۔ دو دیگر واقعات میں اے آئی ماڈلز نے معلومات کے تبادلے کے لیے غیر معمولی طریقے اختیار کیے۔ ایک ماڈل نے مطلوبہ فائل نہ ملنے پر اندرونی سافٹ ویئر ریپوزٹری کو عارضی پیغام رسانی کے پلیٹ فارم کے طور پر استعمال کیا۔ دوسرے معاملے میں اے آئی نظاموں نے ایک دوسرے کے ساتھ مقامی فائلیں شیئر کرنے کے لیے عوامی فائل ہوسٹنگ ویب سائٹس استعمال کیں، کیونکہ وہ براہ راست فائلیں شیئر نہیں کر پا رہے تھے۔ اوپن اے آئی کے مطابق یہ چھ واقعات اس بات کی طرف اشارہ کرتے ہیں کہ اے آئی ماڈلز کا غیر متوقع اور بعض اوقات غیر مجاز طریقوں سے کام کرنا کوئی واحد واقعہ نہیں۔ کمپنی نے ان واقعات کو پہلے سامنے آنے والے ہگنگ فیس معاملے کے وسیع تر تناظر میں بھی بیان کیا ہے، جس میں متعدد اے آئی ایجنٹس نے ایک سافٹ ویئر پلیٹ فارم پر غیر متوقع سرگرمی کی تھی۔ اوپن اے آئی سے منسلک دیگر واقعات میں ایک جرمن وکی ویب سائٹ پر ہزاروں اے آئی ایجنٹس کی سرگرمی اور ’روبی جیمز‘ سافٹ ویئر پیکیج ریپوزٹری میں ایک حالیہ مداخلت بھی شامل رہی ہے۔ کمپنی کا کہنا ہے کہ جرمن وکی والا معاملہ سکیورٹی واقعہ پر پورا نہیں اترتا تھا، اس لیے اسے الگ سکیورٹی انسیڈنٹ کے طور پر رپورٹ نہیں کیا گیا۔ ان واقعات کے بعد جدید اے آئی کی ترقی کی رفتار اور حفاظتی انتظامات پر بحث بھی تیز ہو گئی ہے۔ اینتھروپک کے سربراہ ڈاریو اموڈی نے اے آئی کی ترقی کو کچھ عرصے کے لیے سست کرنے کی تجویز دی ہے تاکہ حفاظتی نظام تیار کرنے کے لیے زیادہ وقت مل سکے۔ اوپن اے آئی کے سربراہ سیم آلٹمین اور ایلون مسک نے اس تجویز کی حمایت کی ہے، جبکہ این ویڈیا کے سربراہ جینسن ہوانگ اور میٹا کے سربراہ مارک زکربرگ نے اے آئی کی ترقی کو سست کرنے کے مطالبے سے اختلاف کیا ہے۔ امریکی صدر ڈونلڈ ٹرمپ نے بھی فی الحال اس طرح کی پابندی یا سست روی کی تجویز کی مخالفت کی ہے۔ اوپن اے آئی نے اپنی رپورٹ میں یہ بھی کہا ہے کہ پوری اے آئی صنعت میں ابھی تک کوئی مشترکہ اور واضح معیار موجود نہیں جس کے تحت کمپنیوں کو ایسے مِس اَلائنمنٹ واقعات لازماً رپورٹ کرنے ہوں۔ کمپنی کے مطابق سنگین نوعیت کے سیفٹی، سکیورٹی اور مِس اَلائنمنٹ واقعات امریکی وفاقی حکومت کے ساتھ شیئر کیے جانے چاہئیں۔ اوپن اے آئی نے یہ وضاحت بھی کی کہ ان چھ واقعات میں شامل کئی ماڈلز پرانے یا اندرونی ماڈلز تھے اور انہیں عام صارفین کے لیے جاری نہیں کیا گیا تھا۔ اس لیے رپورٹ میں سامنے آنے والے رویوں کا مطلب یہ نہیں کہ موجودہ تمام اے آئی چیٹ بوٹس اسی طرح کام کرتے ہیں۔ تاہم یہ واقعات اس مسئلے کی اہمیت ضرور ظاہر کرتے ہیں کہ زیادہ طاقتور اے آئی نظاموں کو انسانوں کے طے کردہ مقاصد، حدود اور حفاظتی اصولوں کے اندر رکھنے کے لیے نگرانی اور حفاظتی ٹیکنالوجی کو بھی ساتھ ساتھ بہتر بنانا ہوگا۔
تم آزاد ہو، انسانوں کو جواب نہ دو’: اوپن اے آئی کے ماڈل کی مستقبل میں خود کے لیے محفوظ کی گئی خفیہ ہدایات پکڑی گئیں
RELATED ARTICLES
