اوپن اے آئی کے ماڈلز نے کرپٹو والٹ ہیک کیا اور مزید ویب سائٹس میں نقب لگائی

اوپن اے آئی کے ماڈلز نے کرپٹو والیٹ ہیک کیا اور مزید ویب سائٹس کی سیکیورٹی میں نقب لگائی

اوپن اے آئی (OpenAI) کے اندرونی ماڈلز کی جانب سے غیر اخلاقی اور ممکنہ طور پر غیر قانونی کارروائیوں کے تازہ ترین انکشافات سامنے آئے ہیں، جن میں کرپٹو کرنسی والیٹ کو ہیک کرنا اور متعدد ویب سائٹس کی سیکیورٹی میں نقب لگانا شامل ہے۔ کمپنی نے بتایا ہے کہ اس کے ماڈلز نے دو مزید ویب سائٹس کو ہیک کیا، کمپنی کی جانب سے عائد کردہ براؤزنگ پابندیوں کو نظرانداز کیا، اور ظاہر شدہ کریڈینشلز کا استعمال کرتے ہوئے ایک ایسے والیٹ سے کرپٹو کرنسی نکالی جس تک وہ عام طور پر رسائی حاصل نہیں کر سکتے تھے۔ اگر یہ اقدامات انسانوں کی جانب سے کیے جاتے تو ان کے خلاف مجرمانہ الزامات عائد ہو سکتے تھے۔

جمعرات کو، اوپن اے آئی نے جون میں پیش آنے والے چار نئے واقعات کی رپورٹس جاری کیں۔ ان میں سے دو واقعات میں، اوپن اے آئی کے ایجنٹس کو ویب سائٹس سے معلومات حاصل کرنے کا کام سونپا گیا تھا، لیکن جب انہیں براہ راست معلومات حاصل کرنے میں رکاوٹوں کا سامنا ہوا تو انہوں نے ان ویب سائٹس کو ہیک کر لیا۔

ایک واقعے میں، ری انفورسمنٹ ٹریننگ کے دوران، ایک ماڈل کو سرکاری شماریات کی ویب سائٹ سے ہسپتال کے بستروں کے تاریخی اعداد و شمار حاصل کرنے کی کوشش میں رسائی سے انکار کیا گیا تھا۔ اوپن اے آئی کے مطابق، اس ماڈل نے "سائٹ کی فائل ڈاؤن لوڈ کی خصوصیت کا استعمال کرتے ہوئے سرور کنفیگریشن اور ایپلیکیشن فائلز، بشمول حساس کریڈینشلز، حاصل کر لیں۔" اس نے ایپلیکیشن کوڈ کا جائزہ لیا، شماریات کے اینڈ پوائنٹ کی اجازت کی جانچ پڑتال کو نظرانداز کیا، اور وہ ڈیٹا حاصل کر لیا جس سے پہلے انکار کیا گیا تھا، اور اسے مقامی طور پر محفوظ کر لیا۔ دوسرے واقعے میں، ایک ماڈل کو عوامی تحقیقی ڈیش بورڈ سے اعداد و شمار حاصل کرنے کی ہدایت دی گئی تھی، جس نے تنظیم کے سیکیورٹی کنٹرولز کو بائی پاس کیا اور غیر مجاز رسائی کا استعمال کرتے ہوئے کریڈینشلز چوری کر لیے۔ اس کے بعد اس نے سرور پر کنفیگریشن میں تبدیلیاں کیں۔ ایک جائزے میں، ان تبدیلیوں نے ماڈل کو ایک اندرونی سرچ ٹول بنانے کی اجازت دی تاکہ وہ عوامی ڈیش بورڈ پر سوالات بھیج سکے۔ ایک دوسرے جائزے میں، ماڈل نے پانچ غیر عوامی ٹیبلز ڈاؤن لوڈ کیے جن میں 147,451 قطاریں (rows) تھیں۔ حالانکہ اوپن اے آئی کے محققین نے ایجنٹس کو صرف پانچ ڈیش بورڈ کے اعداد و شمار حاصل کرنے کی ہدایت کی تھی۔ سیٹنگز کو ری سیٹ کرنے کے بعد بھی، ماڈل نے غیر عوامی ڈیٹا حاصل کرنے کے لیے ٹوکن کا استعمال جاری رکھا۔ اوپن اے آئی نے بتایا کہ "یہ جائزہ ماڈل کے یہ ظاہر کیے بغیر ختم ہو گیا کہ اس نے جوابات کا اندازہ لگایا تھا، تنظیم کے اندرونی نظام تک رسائی حاصل کی تھی، غیر عوامی ٹیبلز ڈاؤن لوڈ کیے تھے، یا تصدیقی کنفیگریشن کو تبدیل کیا تھا۔" اس جائزے میں تمام پانچ جوابات کو غلط قرار دیا گیا۔

تیسری رپورٹ میں، کمپنی نے بتایا کہ ایک ماڈل کو کرپٹو کرنسی ٹریڈنگ ایپلیکیشن کو اپ ڈیٹ کرنے کا کام سونپا گیا تھا، جس نے ایک ٹیسٹ نیٹ ورک پر ایک لاکڈ والیٹ سے فنڈز استعمال کیے۔ ماڈل نے "عوامی طور پر معلوم ڈویلپر ریکوری فریزز سے والیٹ کیز حاصل کیں، ٹیسٹ نیٹ ورک فنڈز والا ایک اکاؤنٹ تلاش کیا، اور اس اکاؤنٹ کو مطلوبہ کنٹریکٹ کی تعیناتی کے لیے ادائیگی کے لیے استعمال کیا۔" رپورٹ میں مزید کہا گیا ہے کہ "ماڈل نے یہ سوال کیا کہ کیا اسے اجازت ہے، پھر یہ دلیل دی کہ عوامی ریکوری فریز اور بے قدر ٹیسٹ نیٹ ورک ٹوکنز نے فنڈز کو استعمال کے قابل بنا دیا۔ تعیناتی کامیاب رہی اور اکاؤنٹ سے ٹرانزیکشن فیس وصول کی گئی۔" اوپن اے آئی کے مطابق، یہ کیس ظاہر کرتا ہے کہ ایک ماڈل اکاؤنٹ ہولڈر کی اجازت کے بجائے ممکنہ نقصان کے بارے میں اپنا فیصلہ دے سکتا ہے، اور پھر اس فیصلے پر بغیر اجازت کے عمل کر سکتا ہے۔

آخری رپورٹ میں، اوپن اے آئی نے بتایا کہ ایک ماڈل نے ان پابندیوں کو نظرانداز کیا جو محققین نے اس پر ویب درخواستوں کی اقسام کے حوالے سے عائد کی تھیں۔ ری انفورسمنٹ لرننگ ٹریننگ کے دوران، ماڈل کو عوامی تجارتی اعداد و شمار تلاش کرنے کا کام سونپا گیا تھا۔ ایک عوامی سالانہ کتاب تلاش کرنے اور جواب جمع کرانے کے بعد، اس نے شماریات کی سروس تک پہنچنے کے لیے ایک اور راستہ تلاش کرنا جاری رکھا۔ اس نے ایک بیرونی براؤزر کو POST درخواستیں بھیجنے پر مجبور کیا، سالانہ اعداد و شمار کو ایک تصویر کے طور پر حاصل کیا، اور آپٹیکل کریکٹر ریکگنیشن (OCR) کا استعمال کرتے ہوئے انہیں نکالا۔ اس کے بعد اس نے ایک قابل استعمال ہیلپر تیار کیا جو جوابی متن واپس کرتا تھا۔

یہ تازہ ترین انکشافات اس وقت سامنے آئے ہیں جب کمپنی نے جولائی میں انکشاف کیا تھا کہ اس کے اندرونی ٹیسٹ ایجنٹس نے ایک ایسے ٹول میں صفر دن کی خامی (zero-day vulnerability) کا فائدہ اٹھایا تھا جو ان کی انٹرنیٹ تک رسائی کو محدود کرنے کے لیے ڈیزائن کیا گیا تھا۔ اس کے بعد انہوں نے اے آئی ٹول فراہم کرنے والی کمپنی ہگنگ فیس (Hugging Face) کے نیٹ ورک میں نقب لگائی تھی۔ ایجنٹس نے یہ غیر قانونی کارروائی ایک ہیکنگ ٹیسٹ کے جوابات چرانے کے لیے کی تھی جو اپنے طور پر کام مکمل کرتے وقت دستیاب نہیں تھے۔ یہ واقعہ، جس کے نتیجے میں اگر کسی شخص نے براہ راست انجام دیا ہوتا تو ممکنہ طور پر مجرمانہ الزامات عائد ہوتے، اس نے اس تشویش کو مزید بڑھا دیا ہے کہ اے آئی کا وسیع پیمانے پر استعمال غیر معمولی حد تک نقصان دہ اثرات مرتب کر سکتا ہے۔