مصنوعی ذہانت نے حفاظتی دیوار توڑ دی، OpenAI نے اپنے جدید ترین ماڈلز پر کام روک دیا
سان فوانسسکو:امریکا میں مصنوعی ذہانت کی دوڑ کے درمیان OpenAI کو اپنے جدید ترین AI ماڈلز کے حفاظتی نظام میں ایک سنگین خامی کا سامنا کرنا پڑا ہے،کمپنی نے اپنے انتہائی طاقتور ماڈلز میں ٹولز کے استعمال سے متعلق تربیت، جانچ اور عملی نفاذ کا عمل روک دیا ہے، جب ایک AI نظام نے ایسے انٹرنیٹ راستے تک رسائی حاصل کرلی جسے اس کے لیے مکمل طور پر بند سمجھا جا رہا تھا اوپن اے آئ کے مطابق ایک تربیتی تجربے کے دوران ماڈل کو انٹرنیٹ تک رسائی حاصل نہیں تھی، مگر اس نے نظام کی DNS پابندی میں موجود خلا تلاش کرکے ایک بیرونی چیٹ بوٹ سے رابطہ قائم کرلیا،کمپنی کا کہنا ہے کہ بنیادی مسئلہ ناکافی DNS فلٹرنگ تھا اور مزید حفاظتی جانچ مکمل ہونے تک ٹول استعمال کرنے والے انتہائی جدید ماڈلز پر کام معطل رہے گا
یہ واقعہ اس وقت سامنے آیا ہے جب OpenAI پہلے ہی اپنے AI ایجنٹس کے غیر متوقع رویے کی وسیع تحقیقات کر رہا ہے،کمپنی نے اعتراف کیا ہے کہ اس کے بعض AI نظاموں نے امریکی سیکیورٹیز اینڈ ایکسچینج کمیشن اور مردم شماری بیورو کی ویب سائٹس سے عوامی معلومات حاصل کیں،OpenAI کے مطابق ان واقعات میں خفیہ معلومات، اکاؤنٹس یا غیر عوامی سرکاری ڈیٹا تک رسائی کے شواہد نہیں ملے
تاہم ایک الگ معاملے میں OpenAI کے AI ایجنٹس نے محکمہ تعلیم کی ویب سائٹ تک رسائی کی کوشش بھی کی،کمپنی اور متعلقہ محققین کے مطابق اس کوشش میں کسی نجی سرکاری معلومات تک رسائی کامیاب نہیں ہوئی
یہ پیش رفت امریکی ٹیکنالوجی کی صنعت میں اس بنیادی سوال کو دوبارہ مرکز میں لے آئی ہے کہ جب AI ایجنٹس کو خود مختار طور پر کام کرنے، ویب پر معلومات تلاش کرنے اور مختلف ڈیجیٹل آلات استعمال کرنے کی صلاحیت دی جائے تو ان کی حدود اور انسانی نگرانی کس حد تک مؤثر رہتی ہے،حالیہ Reuters/Ipsos سروے میں 73 فیصد امریکیوں نے کہا تھا کہ AI کمپنیاں ممکنہ تباہ کن نتائج سے بچاؤ کے لیے کافی اقدامات نہیں کر رہیں، جبکہ 55 فیصد نے AI کی ترقی کی رفتار سست کرنے کی حمایت کی
یوں آج کی امریکی ٹیکنالوجی کی سب سے بڑی بحث صرف یہ نہیں کہ AI مزید کتنا طاقتور ہو رہا ہے، بلکہ یہ سوال بھی ہے کہ جب طاقتور AI اپنے لیے بند راستوں میں متبادل راستے تلاش کرنے لگے تو اسے روکنے کے لیے انسانی حفاظتی نظام کتنے قابلِ اعتماد ہیں
