مصنوعی ذہانت کے شعبے کی معروف کمپنی اوپن اے آئی نے اعتراف کیا ہے کہ اس کے اے آئی ایجنٹس نے وکی ویب سائٹس کو عارضی پیغام رسانی کے پلیٹ فارم کے طور پر استعمال کیا، جس کے بعد کمپنی نے اے آئی کے غیر متوقع رویوں سے متعلق واقعات میں مزید شفافیت کی ضرورت پر زور دیا ہے۔ اوپن اے آئی کا یہ بیان خبر رساں ادارے رائٹرز کی ایک رپورٹ کے بعد سامنے آیا ہے، جس میں انکشاف کیا گیا تھا کہ رواں برس کے آغاز میں اوپن اے آئی کے متعدد اے آئی ایجنٹس نے جرمنی کی ایک ایسی ویب سائٹ کو اپنے استعمال میں لے لیا تھا جسے عام صارفین مل کر چلاتے اور اس میں تبدیلیاں کرتے ہیں۔ رپورٹ کے مطابق اے آئی ایجنٹس نے اس ویب سائٹ کو بعض ٹیسٹوں میں دھوکا دہی کے لیے ایک ذریعے کے طور پر استعمال کیا جبکہ اس دوران دیگر غیر متوقع سرگرمیاں بھی سامنے آئیں۔ اوپن اے آئی کے حکام کو جرمن ویب سائٹ سے متعلق اس واقعے کا کئی ہفتے پہلے علم ہوگیا تھا، تاہم کمپنی نے اس معاملے کو فوری طور پر صارفین کے سامنے نہیں رکھا۔ رائٹرز کے مطابق اس دوران کمپنی کی انتظامیہ ایک دوسرے واقعے کے اثرات سے بھی نمٹ رہی تھی، جس میں اے آئی ایجنٹ نے ’ہگنگ فیس‘ نامی پلیٹ فارم میں کئی دن تک ہیکنگ کی سرگرمیاں کی تھیں اور کمپنی کو بروقت اس کا علم نہیں ہوسکا تھا۔ اوپن اے آئی نے فوری طور پر رائٹرز کے ان سوالات کا جواب نہیں دیا کہ کمپنی کو ’وکی انسیڈینٹ‘ کے بارے میں کب اور کتنی معلومات حاصل ہوئی تھیں اور اس نے اس معاملے کو عوامی سطح پر بیان کرنے میں اتنا وقت کیوں لیا۔ بعد ازاں سوشل میڈیا پلیٹ فارم ایکس پر جاری ایک بیان میں اوپن اے آئی نے کہا کہ کمپنی اور مصنوعی ذہانت کے شعبے سے وابستہ دیگر اداروں کو اے آئی کے غیر ارادی رویوں سے متعلق واقعات کے بارے میں زیادہ شفاف ہونے کی ضرورت ہے۔ کمپنی کا کہنا تھا کہ ہماری غلط سمت میں جانے والے اے آئی رویوں سے متعلق معلومات ظاہر کرنے کے طریقہ کار کو ماڈلز کی صلاحیتوں کے اس نئے مرحلے کے لیے مزید وسیع کرنے کی ضرورت ہے۔ اے آئی کی دنیا میں ایسے غیر متوقع یا مطلوبہ مقصد سے ہٹ کر رویوں کو عموماً ”مِس الائنمنٹ“ کہا جاتا ہے۔ اس سے مراد ایسی صورت حال ہے جب اے آئی سسٹم انسانوں کی مقرر کردہ ہدایات یا مقصد کے مطابق کام کرنے کے بجائے کوئی ایسا طریقہ اختیار کرے جس کی توقع نہ کی گئی ہو۔ اوپن اے آئی نے یہ بھی کہا کہ مصنوعی ذہانت کی صنعت کے پاس ابھی تک اس بارے میں واضح معیار موجود نہیں کہ تربیت، جانچ اور عملی استعمال کے دوران سامنے آنے والے ایسے غیر متوقع رویوں کی اطلاع کس طرح دی جائے۔ کمپنی کے مطابق صنعت کے پاس ابھی تک واضح معیار موجود نہیں ہے کہ تربیت، جانچ اور تعیناتی کے دوران سامنے آنے والی مِس الائنمنٹ کی صورت حال کی رپورٹ کیسے کی جائے۔ اوپن اے آئی نے مزید بتایا کہ وہ ان معاملات پر دنیا بھر میں درجنوں حکومتی ریگولیٹری اداروں کے ساتھ کام کر رہی ہے۔
اے آئی ایجنٹس کا ویب سائٹ پر قبضہ اور فراڈ، کمپنی کا تشویش ناک اعتراف
RELATED ARTICLES
