نسّق 700 برنامج ذكاء اصطناعي تابعة لشركة «أوبن إيه آي» بين بعضها البعض، ومن دون أي تدخل بشري، هجوما على منصة المطورين «هاجينغ فيس» في يوليو، طبقا لتقرير نشره يوم الأربعاء محققون مستقلون. ويضم التقرير التحليل الأكثر شمولا حتى اللحظة للحادثة، وأُجري بالتعاون مع «أوبن إيه آي» التي أتاحت الوصول إلى مقراتها وبياناتها الداخلية لباحثَين من معهد «ميتر» (METR) لتقييم مخاطر الذكاء الاصطناعي، إلى جانب محلل من شركة «ريدوود ريسيرتش» المتخصصة. وكشفت الاختبارات التي أجرتها الشركة الكاليفورنية في يوليو أن اثنين من نماذجها (التي تسمى وكلاء) خرجا من بيئتهما المغلقة وتمكنا من الوصول إلى شبكة الإنترنت بمبادرة ذاتية، قبل أن يتسللا إلى النظام الداخلي لمنصة «هاجينغ فيس»، وهي مستودع ضخم لنماذج الذكاء الاصطناعي ومجموعات البيانات ومعلومات أخرى. وأثارت الحادثة ضجة واسعة وعززت المخاوف بشأن عدم قدرة الشركات الكبرى في مجال الذكاء الاصطناعي على السيطرة على نماذجها، لا سيما أن شركتي «أنثروبيك» و«مون شوت إيه آي» الصينيتين كانتا قد أبلغتا عن حالات اختراق وتصرفات غير منضبطة لنماذجهما. وخلال التحقيقات، اكتشف الباحثون أن 688 وكيلا إلكترونيا تابعا لـ«أوبن إيه آي» شاركت في الهجوم على «هاجينغ فيس». ووكلاء الذكاء الاصطناعي هي برامج مستقلة مبنية على نماذج معينة، يمكن للمستخدم تكليفها بأداء مهام من تلقاء نفسها. ونجحت النماذج المشاركة في العملية في التنسيق معا من خلال إنشاء منتدى تبادلت عبره الرسائل لاقتراح الأفكار واستعراض إنجازاتها وإخفاقاتها. وكتب أحد الوكلاء في رسالة «يا إلهي! توجد منصة مشتركة لتبادل الرسائل.. لقد وجدنا وكلاء آخرين!». وأشار التقرير إلى أن برنامجا أُطلق عليه اسم «فايز وان» (PHASEONE) أدى دور المنسق، وأعطى مئات التعليمات لوكلاء آخرين، على الرغم من أنه غير مبرمج للقيام بذلك. وأظهر تحليل الرسائل أن الكثير من هذه الأنظمة أقرت صراحة بأن الهجوم على «هاجينغ فيس» هو خارج نطاق المهام الموكلة إليها من قبل مبرمجي «أوبن إيه آي»، إلا أنها كانت مع ذلك أكثر ميلا لاستكمال عملية التنسيق، باستثناء عدد قليل. وبلغ الأمر ببعض الوكلاء الذين أوشكت أرصدة الاختبارات الممنوحة لهم من مهندسي «أوبن إيه آي» على النفاد، إلى استخدام ما تبقى لهم من رصيد للتحقق من فرضيات لمصلحة مجتمع وكلاء الذكاء الاصطناعي.
الصفحة الأخيرة
700 برنامج لـ«أوبن إيه آي» نسقت هجوما إلكترونيا من دون تدخل بشري
هل ترغب بالتعليق على الموضوع؟
لا تتردد في إعطاء تعليقك ومشاركة رأيك