خبير: واقعة اختراق منصة Hugging Face لا تعني تمرد الذكاء الاصطناعي بل تكشف مخاطر منح الوكلاء صلاحيات واسعة

قال سامر عبيدات خبير الذكاء الاصطناعي، إن الواقعة الأخيرة المتعلقة بأحد نماذج الذكاء الاصطناعي باختراق « أوبن إيه آي » لمنصة Hugging Face ، لا تعني أن النظام أصبح واعيًا أو قرر التمرد من تلقاء نفسه، وإنما تؤكد أن وكلاء الذكاء الاصطناعي باتوا قادرين على تنفيذ سلاسل طويلة ومعقدة من القرارات، مشيرًا إلى أن الخطر الحقيقي يكمن في تحديد أهداف غير دقيقة، ومنح صلاحيات واسعة، ووجود بيئات تشغيل غير مؤمنة بالشكل الكافي.

وأوضح عبيدات، خلال مداخلة عبر برنامج «صباح جديد» المذاع على قناة القاهرة الإخبارية، أن الحادثة تفرض على شركات الذكاء الاصطناعي، وفي مقدمتها «أوبن إيه آي»، اعتماد مستوى أكبر من الشفافية، خاصة بعد المطالبات بالكشف عن تفاصيل ما حدث، مضيفا أن الواقعة لم تعد مجرد خطأ داخلي داخل مختبرات الشركة، بل امتدت آثارها إلى خارج بيئة الاختبار، وهو ما يجعل توضيح ملابساتها ضرورة لحماية قطاع الذكاء الاصطناعي بأكمله.

وأكد خبير الذكاء الاصطناعي أن المطلوب هو تقديم صورة تقنية واضحة تتضمن طبيعة المهمة التي أُسندت للنظام، والصلاحيات والأدوات التي أتيحت له، وكيف ومتى تجاوز نطاق عمله، ومتى اكتشفت الشركة ذلك، مع التشديد في الوقت نفسه على أن تكون الشفافية مسؤولة، بحيث لا تتضمن نشر كلمات مرور أو تفاصيل عن ثغرات أمنية غير مُعالجة قد يستغلها مهاجمون إلكترونيون.