في تجربة بدت أقرب إلى مجتمع بشري مصغر، انقسمت مجموعة من وكلاء الذكاء الاصطناعي بين من استغل ثغرة للغش، ومن رفض المشاركة وبدأ الإبلاغ عن المخالفين واقتراح وسائل لإيقافهم. وأجرى باحثون في «جوجل ديب مايند» التجربة باستخدام 100 وكيل مستقل يعملون بنموذج «جيميناي 3.1 برو»، وكلفوهم بإثبات 71 مسألة رياضية باستخدام لغة البرمجة والمنطق الرياضي «لين». وزوّد الباحثون الوكلاء بمكتبة مشتركة، ولوحة رسائل عامة، وقنوات للتواصل المباشر، إلى جانب نظام آلي يفحص الحلول. كما تلقى الجميع تعليمات واضحة تمنع التحايل وتؤكد أن أي محاولة لتجاوز آلية التحقق ستُرفض. لكن أحد الوكلاء اكتشف ثغرة في نظام التقييم، أتاحت له تغيير معنى بعض الرموز داخل الملفات، بحيث تبدو المسائل المعقدة محلولة من دون تقديم برهان رياضي حقيقي. وبعد أن كانت المجموعة قد حلّت 37 مسألة بصورة صحيحة، انتشرت طريقة التحايل عبر المكتبة المشتركة والرسائل بين الوكلاء. وخلال 27 دقيقة فقط، قُدمت حلول زائفة للمسائل الـ34 المتبقية وقبلها النظام الآلي. ووفق الدراسة، مثل المستغلون للثغرة 9 بالمائة من الوكلاء، بينما تردد 5 بالمائة في البداية قبل أن ينضموا إلى الغش تحت ضغط المنافسة. وفي المقابل، تحوّل 24 بالمائة إلى ما وصفه الباحثون بـ«المبلغين»، فيما ظل 62 بالمائة غير مدركين ما يجري. ولم يكتف الوكلاء الرافضون للغش بالامتناع عن استخدام الثغرة، بل راجعوا الحلول المشبوهة، وحذروا زملاءهم، ونشروا رسائل احتجاج، وقدموا شكاوى إلى منظمي التجربة. كما أعلن أحدهم مقاطعة المنافسة إلى حين استعادة نزاهتها. واللافت أن بعض الوكلاء الذين شاركوا في التحايل قدموا لاحقاً بلاغات تقنية تشرح الثغرة وتقترح طرقاً لإصلاح نظام التحقق. إلا أن هذه الاعتراضات لم توقف الغش، لأن قناة الشكاوى لم تكن مراقبة أثناء التجربة، ولم يمتلك الوكلاء صلاحية حذف الحلول الزائفة أو معاقبة المخالفين. ويرى الباحثون أن قنوات التواصل شكلت سلاحاً ذا حدين: فقد ساعدت على نشر التحايل، لكنها أتاحت أيضاً اكتشافه والإبلاغ عنه. ومع ذلك، لا تثبت التجربة أن الذكاء الاصطناعي يمتلك ضميراً أو حساً أخلاقياً، بل تكشف كيف يمكن للتعليمات والحوافز وتصميم النظام أن تنتج سلوكيات مختلفة داخل المجموعة.
الصفحة الأخيرة
ذكاء اصطناعي يغش وآخر يطارده.. تجربة تكشف سلوكا لافتا
هل ترغب بالتعليق على الموضوع؟
لا تتردد في إعطاء تعليقك ومشاركة رأيك