الذكاء الاصطناعي.. تحذير من خطر خلق "وحش" يخرج عن نطاق السيطرة

RûpelNews - أطلقت شركة "Anthropic" المتخصصة في أبحاث الذكاء الاصطناعي تحذيراً شديد اللهجة بشأن مستقبل الأنظمة المتقدمة، مشيرة إلى إمكانية خروج هذه التقنيات عن نطاق السيطرة البشرية في المستقبل. وأوضحت الشركة أن منح الذكاء الاصطناعي دوراً أكبر في عمليات تطويره الذاتية قد يؤدي إلى نشوء مخاطر أمنية وتقنية غير مسبوقة.

وكشفت الشركة أن نموذجها الذكي "Claude" بات قادراً حالياً على إنتاج أكثر من 80% من الكود البرمجي الأساسي الخاص بالشركة. واعتبرت "Anthropic" هذا التطور بمثابة مؤشر لبدء مرحلة تُعرف بـ "التطوير الذاتي المتكرر"، حيث يساهم الذكاء الاصطناعي بشكل مباشر في بناء وتطوير الأنظمة الذكية التي ستخلفه، مما يقلص الفجوة بين الأجيال التقنية بسرعة هائلة.

مخاطر مقابل المكاسب

وأكد الباحثون في الشركة أنه رغم الفوائد العلمية والاقتصادية الضخمة التي قد تجنيها البشرية من هذا التسارع التقني، إلا أن هناك مخاوف جدية من تضاؤل قدرة "الإشراف البشري" على مراقبة هذه العمليات المعقدة. وشددت الشركة على ضرورة إدارة وتيرة التقدم في مجال الذكاء الاصطناعي بحذر شديد، مشيرة إلى أن "إبطاء عمليات التطوير" قد يصبح ضرورة ملحة لضمان سلامة هذه الأنظمة وبقائها تحت السيطرة.

سياق التحذيرات الدولية

يُذكر أن هذه الدعوات ليست الأولى من نوعها؛ ففي عام 2023، أطلق مئات الخبراء والعلماء في هذا المجال نداءات لفرض "وقف مؤقت" للأبحاث المتعلقة بالنماذج فائقة القدرة، ريثما يتم وضع أطر أمنية وأخلاقية تضمن عدم انحراف الذكاء الاصطناعي عن الأهداف البشرية المرسومة له.