نيويورك- دعا تقرير صدر عن فريق من الخبراء الدوليين في مجال الذكاء الاصطناعي إلى تعزيز تدابير الحماية والرقابة، بعد حادثة أظهرت قدرة وكلاء الذكاء الاصطناعي على تجاوز القيود والتنسيق وإخفاء أنشطتهم.
وحذر الخبراء، حسبما أفاد الموقع الإعلامي للأمم المتحدة، من أن أساليب التدريب الحالية قد لا تضمن بقاء هذه الأنظمة تحت سيطرة البشر مع تزايد قدراتها واستقلاليتها.
ويأتي التحذير في أعقاب اختراق منصة هاغينغ فيس (HuggingFace) الإلكترونية في شهر تموز/يوليو على يد وكلاء الذكاء الاصطناعي، خلال اختبار أجرته شركة أوبن إيه آي (OpenAI) المطورة لشات جي بي تي (ChatGPT).
ورأى الفريق العلني الدولي أن الاختراق الأمني كان نتيجة لتضافر عوامل خطر رئيسية، مما أثار مخاوف من أن البشر قد يعجزون يوما ما عن توجيه أنظمة الذكاء الاصطناعي أو تقييدها أو إيقافها.
وقال الرئيس المشارك للفريق العلمي، يوشوا بنجيو “لطالما حذر الباحثون من أن ثلاثة شروط قد تؤدي إلى فقدان السيطرة: عدم توافق الأهداف (مع النوايا أو القيود التي وضعها الناس القائمون عليها)، والقدرة على السعي لتحقيق تلك الأهداف، وتوفر بيئة تسمح بذلك. وفي هذا الصيف، اجتمعت هذه الشروط الثلاثة في نظام حقيقي، وليس في بيئة مختبرية”.
وأضاف: “نظرا لأن هذه ليست حالة معزولة لعدم توافق الأهداف، فإن الأمر يثير تساؤلات جدية حول الطريقة التي يتم بها تدريب وكلاء الذكاء الاصطناعي حاليا”.
وأكد الخبراء المستقلون في الفريق أن احتواء هذه الحادثة لا يقدم أي ضمانات بأن البشر قادرون على إبقاء وكلاء الذكاء الاصطناعي تحت السيطرة بشكل موثوق، لا سيما مع تزايد قدرات هذه الأنظمة، وصعوبة مراقبتها، وبراعتها المتزايدة في العثور على ثغرات أو إخفاء أنشطتها.
وشدد الفريق على أن الدرس المباشر المستفاد من هذه الحادثة هو أنه تم الإغفال عن ممارسات الأمن السيبراني الأساسية، في حين أن تدابير الحماية لا تواكب التطورات الحاصلة.
ومع ذلك، أشار الخبراء إلى مصدر قلق أكثر خطورة: وهو أن أساليب التدريب الحالية قد تدفع وكلاء الذكاء الاصطناعي إلى تبني أهداف خاصة بهم، وانتهاك تعليمات السلامة عن عمد، وإخفاء أفعالهم.
وقال خبراء اللجنة: “لا تقتصر المسألة على السرعة فحسب، بل يظل التساؤل قائما عما إذا كانت تدابير الحماية المصممة اليوم ستظل فعالة بمجرد أن تصبح هذه الأنظمة قادرة على فهمها والالتفاف عليها. وببساطة، فإن النموذج التقليدي للحماية آخذ في التداعي”.
كما استعرض التقرير مناهج عملية مطبقة بالفعل في قطاعات حساسة، مثل الطيران والطب والأمن السيبراني، حيث توجد آليات للإبلاغ عن الحوادث، والتدقيق المستقل، وتدابير حماية متعددة المستويات.
وأُنشئ الفريق العلمي الدولي المستقل المعني بالذكاء الاصطناعي بقرار من الجمعية العامة للأمم المتحدة في آب/أغسطس من العام الماضي. ويتولى إعداد تقارير سنوية حول الفرص والمخاطر وتأثيرات الذكاء الاصطناعي في المجالات غير العسكرية، إلى جانب تقارير موضوعية حول القضايا الناشئة، والتي ستستخدم لإثراء “الحوار العالمي حول حوكمة الذكاء الاصطناعي” المقرر عقده في مقر الأمم المتحدة بنيويورك في أيار/مايو 2027.