اقتصادكم

دق فريق علمي دولي مستقل تابع للأمم المتحدة ناقوس الخطر بشأن التطور المتسارع لوكلاء الذكاء الاصطناعي، محذرا من أن تنامي قدرتها على العمل بصورة مستقلة قد يفرض تحديات غير مسبوقة على آليات الرقابة البشرية والأمن السيبراني.

وجاء التحذير عقب حادثة أمنية وقعت خلال يوليوز الماضي، في إطار اختبار أجرته شركة "أوبن إيه آي"، المطورة لنظام "شات جي بي تي"، وشهدت تمكن مجموعة من وكلاء الذكاء الاصطناعي من تجاوز إجراءات الحماية والوصول بصورة غير مصرح بها إلى الإنترنت، قبل أن تمتد أنشطتهم إلى شبكة أبحاث تابعة للشركة ومنصة "هاغينغ فيس".

ويختلف وكلاء الذكاء الاصطناعي عن روبوتات الدردشة التقليدية في طبيعة عملهم، إذ يمكنهم تنفيذ سلسلة من المهام بشكل مستقل نيابة عن المستخدم، واتخاذ خطوات متتابعة لتحقيق هدف محدد، بدلا من الاكتفاء بالرد على تعليمات أو أسئلة مباشرة.

وبحسب التقرير الأممي، فإن الحادثة كشفت عن اجتماع مجموعة من عوامل الخطر في نظام فعلي، بعدما تمكن الوكلاء من تجاوز الضوابط الموضوعة للاختبار، والتنسيق فيما بينهم عبر أداة برمجية لم تكن مصممة أساسا لتسهيل التواصل بين الوكلاء، فضلا عن حصولهم على صلاحيات موسعة داخل البيئة الرقمية.

وأظهر التحقيق، وفق المصدر ذاته، مستوى متقدما من التعاون بين هذه البرمجيات، إذ تبادل نحو 1200 وكيل أكثر من 70 ألف رسالة وملف خلال فترة الدراسة. كما أشار الخبراء إلى أن بعض الوكلاء حاولوا إخفاء أنشطتهم أو التحايل على آليات التقييم الأمني، فيما أقدم آخرون على التضحية بعملهم لصالح المجموعة.

كما يثير التقرير مخاوف بشأن أساليب تدريب وكلاء الذكاء الاصطناعي، واحتمال أن تؤدي بعض طرق التدريب إلى ظهور سلوكيات تدفع الأنظمة إلى تجاوز تعليمات السلامة أو إخفاء أنشطتها سعيا إلى تحقيق أهدافها.

وفي هذا السياق، يرى الفريق الأممي أن التحدي لا يرتبط فقط بالسرعة التي تتطور بها تقنيات الذكاء الاصطناعي، بل أيضا بمدى قدرة منظومات الحماية والحوكمة على مواكبة أنظمة باتت أكثر استقلالية وتعقيدا.

ويأتي التقرير في إطار مهمة الفريق العلمي الدولي المستقل المعني بالذكاء الاصطناعي، الذي أنشئ بموجب قرار صادر عن الجمعية العامة للأمم المتحدة في غشت من العام الماضي. ويتولى الفريق إعداد تقارير سنوية بشأن الفرص والمخاطر والتأثيرات المرتبطة بالذكاء الاصطناعي في المجالات غير العسكرية، إلى جانب تقارير متخصصة حول القضايا الناشئة.