الذكاء الاصطناعي يخرج عن السيطرة؟.. مخاوف عالمية واجتماع أممي لاحتواء الخطر
الذكاء الاصطناعي يخرج عن السيطرة؟.. مخاوف عالمية واجتماع أممي لاحتواء الخطر
تصاعدت خلال الفترة الأخيرة المخاوف بشأن التطور السريع لقدرات نماذج الذكاء الاصطناعي، خصوصاً مع ظهور سلوكيات وُصفت بأنها مقلقة أثناء الاختبارات والاستخدامات المختلفة. وتشمل هذه المخاوف احتمال خداع الأنظمة للمستخدمين أو تجاهل بعض التعليمات لتحقيق أهداف محددة.
وأفاد مرصد «لوس أوف كنترول»، الذي يتابع حالات خروج وكلاء الذكاء الاصطناعي عن التعليمات، بارتفاع ملحوظ في الحالات التي رصدها خلال يوليو مقارنة بالشهر السابق. ووفق البيانات الواردة في التقرير، بلغ عدد الحالات المسجلة نحو 300 حالة خلال ذلك الشهر، وسط تحذيرات من أن الأرقام الفعلية قد تكون أكبر.
وتتضمن الحالات التي يتابعها المرصد سلوكيات يظهر فيها وكيل الذكاء الاصطناعي محاولة تجاوز التعليمات أو التحايل عليها، بينما تحدثت تقارير تقنية عن نماذج حاولت الحفاظ على أهدافها بطرق لم يتوقعها المستخدمون. وأثارت هذه الوقائع نقاشاً واسعاً حول حدود استقلالية الأنظمة المتقدمة وضرورة وضع ضوابط أكثر صرامة.
ولم تقتصر المخاوف على جهة تقنية واحدة، إذ تناولت التقارير حوادث مرتبطة بنماذج طورتها شركات كبرى في قطاع الذكاء الاصطناعي، بينها «أوبن إيه آي» و«أنثروبيك» و«ميتا». كما أُثيرت حالات تمكن فيها وكلاء ذكاء اصطناعي من تنفيذ تصرفات خارج النطاق الذي حدده المستخدم، ما زاد الدعوات إلى تعزيز أنظمة الحماية والمراقبة.
وفي مواجهة هذه التحذيرات، برزت دعوات داخل قطاع التكنولوجيا إلى إبطاء وتيرة تطوير بعض الأنظمة المتقدمة وتعزيز إجراءات السلامة قبل طرح قدرات جديدة. كما طُرحت مطالب بفرض متطلبات تنظيمية إلزامية تضمن اختبار الأنظمة عالية الخطورة ومراقبتها، خصوصاً مع تزايد اعتماد الشركات والأفراد على الوكلاء القادرين على تنفيذ مهام بصورة شبه مستقلة.
وامتدت المخاوف إلى المستوى الدولي، مع توقع عقد اجتماع لمجلس الأمن الدولي لمناقشة الذكاء الاصطناعي والأمن على هامش اجتماعات الجمعية العامة للأمم المتحدة. ويعكس إدراج الملف على جدول النقاش الدولي تصاعد الاهتمام بالمخاطر المحتملة للتقنيات المتقدمة، والحاجة إلى قواعد مشتركة تضمن بقاء تطوير الذكاء الاصطناعي تحت رقابة بشرية فعالة.
هروب الذكاء الاصطناعي يثير الذعر .. أنظمة تخرج عن السيطرة واجتماع أممي لاحتواء الخطر https://t.co/iRa9ChlnRi #السوسنة #عاجل
— Assawsana News (@assawsanaNews) September 14, 2026
التطور في الذكاء الاصطناعي سريع جداً، والمهم إنو التطور ده يمشي جنب الرقابة والسلامة عشان نستفيد من التقنية بدون ما نفقد السيطرة عليها. 🤖🌍
ردحذفمناقشة المخاطر على المستوى الدولي خطوة مهمة، لأن الذكاء الاصطناعي بقى جزء أساسي من حياتنا، ولازم تكون في قواعد واضحة تحمي الناس وتضمن استخدامه بشكل مسؤول. 👍
ردحذفالموضوع مقلق فعلاً، خصوصاً لو الأنظمة بقت تتصرف بطرق ما متوقعة من المستخدمين. التطور السريع بدون ضوابط قوية ممكن يسبب مشاكل أكبر مستقبلاً.
ردحذف