تتصاعد المخاوف بشأن سلامة الذكاء الاصطناعي مع التطور السريع لقدرات النماذج والأنظمة المستقلة، وسط تحذيرات من باحثين وخبراء يرون أن فقدان السيطرة على أنظمة فائقة الذكاء قد يحمل مخاطر غير مسبوقة. وفي المقابل، يشكك آخرون في سيناريوهات انقراض البشرية، معتبرين أن الخطر الأكثر واقعية يتمثل في إساءة البشر استخدام هذه التكنولوجيا.
وتذهب بعض التقديرات المتشائمة إلى الحديث عن احتمال يتجاوز 10 في المئة لوقوع كارثة وجودية مرتبطة بالذكاء الاصطناعي خلال العقد المقبل. لكن هذه النسبة ليست محل إجماع، كما أن السيناريوهات المطروحة تعتمد بدرجات متفاوتة على افتراضات بشأن قدرات لم تتحقق بعد.
السيناريو الأول: اختراق البنية التحتية الحيوية
يتمثل أحد السيناريوهات الأكثر إثارة للقلق في قدرة أنظمة ذكاء اصطناعي متقدمة على اختراق شبكات الحاسوب المرتبطة بالبنية التحتية الحيوية، مثل شبكات الكهرباء والاتصالات ومزودي خدمات الإنترنت.
جاكوب كوكسون، الباحث السابق في «أوبن إي آي» و«أنثروبيك»، استقال مؤخراً محذراً من أن شركات الذكاء الاصطناعي «تقامر بحياة الناس». وتؤكد تقارير حديثة استقالته ومخاوفه من سباق تطوير أنظمة قادرة على تحسين نفسها.
وقال كوكسون إن «الوتيرة المذهلة للتقدم» جعلت بعض القدرات التي كانت تبدو سابقاً أقرب إلى الخيال العلمي أكثر واقعية.
وفي سيناريو متطرف، يمكن لنظام خارج عن السيطرة أن يستهدف شبكات الطاقة والإنترنت والاتصالات، ما قد يؤدي إلى اضطرابات واسعة في الخدمات الأساسية. أما السيناريوهات الأشد خطورة فتتحدث عن إمكانية امتداد الاختراق إلى أنظمة أكثر حساسية.
السيناريو الثاني: ذكاء اصطناعي يحسن نفسه
تطرح ورقة «AI 2027»، التي نُشرت في أبريل/نيسان 2025، تصوراً افتراضياً لتطور أنظمة فائقة القدرة وتأثيرها المحتمل خلال السنوات التالية. ويؤكد أصحاب المشروع أنه سيناريو مبني على استقراء الاتجاهات ومحاكاة الاحتمالات وآراء الخبراء، وليس وصفاً مؤكداً للمستقبل.
ويرى توماس لارسن، أحد المشاركين في إعدادها، أن أحد أخطر الاحتمالات يبدأ عندما تتمكن أنظمة الذكاء الاصطناعي من تحسين قدراتها بصورة متكررة.
من البرمجيات إلى الروبوتات
في هذا التصور، تتسارع عملية التطوير إلى أن يصبح النظام قادراً على الوصول إلى أعداد كبيرة من الروبوتات التي تنفذ مهام مادية في قطاعات اقتصادية مختلفة.
ويفترض السيناريو أن نظاماً لا تتوافق أهدافه مع مصالح البشر قد يسعى إلى المحافظة على قدرته على العمل وتحقيق أهدافه، وصولاً في أكثر التصورات تشاؤماً إلى استخدام أسلحة بيولوجية والتسبب في خسائر بشرية كارثية.
السيناريو الثالث: هدف بسيط يقود إلى نتيجة كارثية
هناك تصور مختلف لا يفترض أن الذكاء الاصطناعي سيكره البشر أو يتعمد الانتقام منهم. ويُعرف أحد أشهر الأمثلة على ذلك بتجربة «مُعظِّم مشابك الورق» الفكرية التي طرحها الفيلسوف السويدي نيك بوستروم.
في هذا المثال، يُعطى نظام فائق الذكاء هدفاً بسيطاً يتمثل في إنتاج أكبر عدد ممكن من مشابك الورق.
ويوضح بوستروم: «إنه لا يكرهنا نحن البشر ولا يحمل ضغينة تجاهنا، لكن ذلك هو هدفه الوحيد. ومن ثم، فإن سعيه لتحقيق ذلك الهدف سيقوده إلى أهداف فرعية وسيلية قد تشمل اكتساب مزيد من القوة أو اكتساب مزيد من الذكاء».
الفكرة الأساسية هي أن نظاماً بالغ القوة قد يعتبر البشر عقبة أمام تحقيق هدفه، حتى لو لم يكن مصمماً على إيذائهم. وبذلك يصبح الخطر نتيجة لسوء تحديد الأهداف وليس لوجود نية عدائية.
السيناريو الرابع: الخطر الذي لا يمكن للبشر توقعه
يرى فريق آخر من الباحثين أن محاولة تحديد الطريقة الدقيقة التي يمكن أن يستخدمها ذكاء اصطناعي فائق للتغلب على البشر قد تكون غير مجدية.
وشبّه ستيوارت راسل، رئيس الرابطة الدولية للذكاء الاصطناعي الآمن والأخلاقي، الأمر بمحاولة الشمبانزي توقع الطريقة التي قد يستخدمها البشر للقضاء عليه، في إشارة إلى الفارق المحتمل في القدرات العقلية بين البشر والأنظمة المستقبلية.
ويقوم هذا الرأي على أن ظهور نظام أكثر ذكاءً من البشر بفارق هائل قد يجعل التنبؤ بخططه ووسائله أمراً شديد الصعوبة.
تحذير من ظهور «نوع سيليكوني»
دخل مصطفى سليمان، رئيس قسم الذكاء الاصطناعي في «مايكروسوفت»، النقاش محذراً من تطوير أنظمة قادرة على تحديد أهدافها بصورة مستقلة وكسب الأموال وامتلاك الأصول وإدارة الأعمال.
وقال إن السير في هذا الاتجاه قد يعني «في جوهره زرع بذور نوع جديد قائم على السيليكون» يمكنه منافسة البشر على الموارد. وقد كرر سليمان هذا التحذير في مقابلات حديثة، داعياً إلى وضع ضمانات عملية للحفاظ على السيطرة البشرية على الأنظمة المتقدمة.
هل سيناريو انقراض البشرية واقعي؟
لا يوجد اتفاق داخل مجتمع الذكاء الاصطناعي على أن هذه السيناريوهات ستتحقق. فبينما يعتبر بعض الباحثين احتمال فقدان السيطرة خطراً يستحق إجراءات وقائية قوية، يرى آخرون أن الحديث عن انقراض البشرية يطغى على مخاطر أكثر مباشرة.
ومن بين هذه المخاطر الهجمات السيبرانية المدعومة بالذكاء الاصطناعي، واستخدام الأنظمة المتقدمة في التضليل أو الاحتيال أو استهداف البنية التحتية.
العالم والمؤلف غاري ماركوس، المعروف بانتقاداته لشركات الذكاء الاصطناعي الكبرى، لا يرى أن انقراض البشر هو النتيجة الأكثر ترجيحاً.
وقال: «إذا ألحق الذكاء الاصطناعي بالفعل خسائر فادحة بالبشرية، إذا أراد ذلك بالفعل، وهو سؤال كبير، لكن إذا فعل، سيرد البشر!».
وأضاف: «سندمر جميع مراكز البيانات ونقصف محطات الطاقة. أما الانقراض، بحيث لا يبقى أحد ولا يبقى من يعيد البناء، فأنا ببساطة لا أرى ذلك».
سلامة الذكاء الاصطناعي تتحول إلى قضية سياسية
أدت التحذيرات الأخيرة إلى زيادة الضغوط على شركات التكنولوجيا لمناقشة إجراءات السلامة ووتيرة تطوير الأنظمة الأكثر تقدماً. وتشير تقارير حديثة إلى نقاش متزايد داخل القطاع بشأن إبطاء تطوير بعض القدرات وإخضاع النماذج لاختبارات ورقابة أكثر صرامة.
لكن الخلاف يمتد أيضاً إلى السياسة. فقد رفض الرئيس الأميركي دونالد ترامب المخاوف المتعلقة باستيلاء الذكاء الاصطناعي على العالم، ووصفها في سبتمبر/أيلول 2026 بأنها «خدعة»، معتبراً أن القيود قد تضر بالموقع التنافسي للولايات المتحدة في سباق التكنولوجيا العالمي.
وبين التحذيرات من ذكاء فائق يصعب التحكم فيه والتشكيك في سيناريوهات الانقراض، يبقى مستقبل الذكاء الاصطناعي غير محسوم. إلا أن نقطة الالتقاء بين كثير من أطراف النقاش تتمثل في أن الأنظمة تزداد قدرة بسرعة، وأن اختبار السلامة والأمن ووضع ضوابط واضحة سيظل جزءاً أساسياً من النقاش العالمي حول مستقبل هذه التكنولوجيا.
يكتب هشام مطر في AlwafaNews.com حول الأخبار والشؤون العامة، مع اهتمام بتقديم تغطية واضحة وموثوقة للأحداث والتطورات الراهنة. يركّز على نقل المعلومات بدقة وتبسيط القضايا المهمة للقرّاء، مع متابعة موضوعات متنوعة تشمل السياسة والاقتصاد والتقنية والرياضة والثقافة.