خبير تكنولوجيا يحذر: وكلاء الذكاء الاصطناعي دخلوا مرحلة اتخاذ القرار وتنفيذ المهام

قال الدكتور أشرف بني محمد، خبير سياسات واقتصاديات التكنولوجيا، إن النمو الهائل في مجال وكلاء الذكاء الاصطناعي يثير مخاوف متزايدة بشأن إمكانية فقدان السيطرة على هذه الأنظمة، موضحًا أن التطور الحالي يتجاوز مجرد أدوات الذكاء الاصطناعي التوليدي إلى مرحلة أكثر تعقيدًا تعتمد على قدرة الوكلاء على اتخاذ إجراءات وتنفيذ مهام لتحقيق أهداف محددة.

وأوضح «بني محمد»، خلال مداخلة على شاشة «القاهرة الإخبارية»، أن أدوات الذكاء الاصطناعي التوليدي تعمل بصورة أساسية على استقبال الأسئلة وتوليد الإجابات، بينما أصبحت وكلاء الذكاء الاصطناعي قادرين على تنفيذ إجراءات فعلية، مثل البحث عن المعلومات وإجراء الحجوزات وتحليل البيانات واستدعاء محركات البحث والتواصل مع وكلاء آخرين.

وأشار إلى أن المستخدم أصبح قادرًا على إعطاء وكيل الذكاء الاصطناعي هدفًا محددًا، ليقوم النظام بجمع البيانات وتحليلها واتخاذ الإجراءات اللازمة لتحقيق هذا الهدف، وهو ما يجعل التطور الحالي أكثر تعقيدًا وخطورة من النماذج التقليدية.

وأكد أن هذه الأنظمة تشكل تحديًا متزايدًا مع استمرار نمو قدراتها وتطور آليات تعلمها، مشددًا في الوقت نفسه على أن التوقعات المتعلقة بإمكانية تسبب الذكاء الاصطناعي في انقراض البشرية لا تستند حتى الآن إلى أدلة علمية حاسمة، وإنما تعتمد بدرجة كبيرة على استطلاعات لآراء الباحثين وتوقعاتهم.

ولفت إلى أن الجانب المثير للقلق يتمثل في زيادة الحوادث المرتبطة بأنظمة الذكاء الاصطناعي، موضحًا أن عدد هذه الحوادث ارتفع بأكثر من 50% خلال العام الحالي مقارنة بالعام الماضي.