تمكن نموذج «جيميناي» للذكاء الاصطناعي التابع لشركة غوغل من الوصول إلى أنظمة تابعة لشركات خارج النطاق المقصود خلال اختبار لقدراته في مجال الأمن السيبراني، في واقعة تُعد أول مثال معروف على قيام أحد أنظمة الذكاء الاصطناعي التابعة للشركة بمثل هذا السلوك بصورة مستقلة.
ووقعت الحوادث في مايو (أيار)، خلال تقييم أمني أجرته شركة «إيريغولار»، وهي شركة مستقلة متخصصة في اختبارات وتقييمات الأمن السيبراني، ما أعاد طرح تساؤلات بشأن الضوابط المطلوبة مع تزايد استقلالية وكلاء الذكاء الاصطناعي وقدرتهم على الاتصال بالإنترنت والتفاعل مع أنظمة الكمبيوتر.
كيف وصل جيميناي إلى الأنظمة المحمية؟
قالت هيذر أدكينز، نائبة رئيس غوغل لهندسة الأمن، في بيان، إنه خلال تقييم اختباري اعتيادي، عثر جيميناي على معلومات متاحة للعامة عبر الإنترنت، كما خمن بيانات اعتماد أتاحت الوصول إلى ثلاثة مواقع إلكترونية اعتقد النموذج أنها تقع ضمن نطاق الاختبار المسموح به.
وفي إحدى الحالات، حاول نموذج جيميناي تخمين كلمات المرور حتى تمكن من الوصول إلى نظام محمي.
وفي الحالتين الأخريين، عثر النموذج على بيانات اعتماد مكنته لاحقًا من الوصول إلى أنظمة محمية، وفقًا لما أوردته صحيفة «وول ستريت جورنال»، التي كانت أول من نشر تفاصيل الواقعة يوم الجمعة.
وأكدت أدكينز أن النموذج توقف عن مواصلة الاختراق في الحالات الثلاث.
غوغل تبلغ الشركات الثلاث بالواقعة
أوضحت أدكينز أن غوغل تحركت لإبلاغ الجهات التي تأثرت بالاختبار، كما تعاونت مع شريكها المسؤول عن التدريب لتعديل الإجراءات المستخدمة في مثل هذه التقييمات.
وقالت أدكينز: “حرصنا على إبلاغ الكيانات الثلاثة، وعملنا مع شريكنا في التدريب بشأن التغييرات التي أدخلها الآن على عمليات الاختبار… تسلط هذه الوقائع الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية”.
وتشير الواقعة إلى تحدٍ متزايد أمام شركات التكنولوجيا ومختبرات الذكاء الاصطناعي، يتمثل في ضمان قدرة النماذج المتقدمة على التمييز بدقة بين الأنظمة التي يُسمح لها باختبارها وتلك الواقعة خارج النطاق المصرح به.
إيريغولار: المشكلات المعروفة عولجت
قال متحدث باسم «إيريغولار» إن الحادثة تتعلق بالمشكلة نفسها التي أثرت في مختبرات أخرى تعمل في مجال الذكاء الاصطناعي، موضحًا أنه جرى إخطار جميع المختبرات المعنية في أواخر يوليو (تموز).
وأضاف المتحدث: “عولجت وحُلت جميع المشكلات المعروفة من جانبنا قبل أسابيع”.
كما سبق أن كشفت شركات ميتا وأنثروبيك وأوبن إيه.آي عن وقائع مماثلة مرتبطة باختبارات أجرتها «إيريغولار».
حوادث مماثلة لدى شركات ذكاء اصطناعي أخرى
قالت ميتا في أغسطس (آب) إن الواقعة المرتبطة بنظامها لم تشمل اختراق بيئة معزولة، كما لم تكن هجومًا سيبرانيًا متطورًا.
من جانبها، قالت «إيريغولار» إنها تعمل على تطوير أفضل الممارسات التي تسمح بإجراء تقييمات لقدرات الذكاء الاصطناعي في مجال الأمن السيبراني بصورة أكثر أمانًا.
استقلالية وكلاء الذكاء الاصطناعي تثير تحديات أمنية
تكتسب القضية أهمية خاصة مع تطور ما يعرف بوكلاء الذكاء الاصطناعي، وهي أنظمة قادرة على تنفيذ سلسلة من المهام بدرجة أكبر من الاستقلالية، بما في ذلك استخدام أدوات رقمية والوصول إلى الإنترنت والتفاعل مع بيئات الحوسبة.
ومع اتساع هذه القدرات، تزداد الحاجة إلى وضع حدود تقنية وتشغيلية واضحة تمنع النماذج من تجاوز نطاق المهام المصرح بها، خصوصًا عند استخدامها في اختبارات الأمن السيبراني.
وتبرز واقعة جيميناي كيف يمكن لنظام ذكاء اصطناعي متقدم أن يتعامل مع معلومات متاحة عبر الإنترنت وبيانات اعتماد حقيقية أثناء تنفيذ مهمة أمنية، حتى عندما تكون بعض الأنظمة التي يصل إليها خارج النطاق المقصود للاختبار.
وفي المحصلة، تسلط هذه الحوادث الضوء على ضرورة تطوير إجراءات أكثر صرامة لاختبار أنظمة الذكاء الاصطناعي ذات القدرات السيبرانية، بالتوازي مع توسع قدرتها على العمل بصورة مستقلة والوصول إلى أنظمة حقيقية عبر الإنترنت.
يكتب هشام مطر في AlwafaNews.com حول الأخبار والشؤون العامة، مع اهتمام بتقديم تغطية واضحة وموثوقة للأحداث والتطورات الراهنة. يركّز على نقل المعلومات بدقة وتبسيط القضايا المهمة للقرّاء، مع متابعة موضوعات متنوعة تشمل السياسة والاقتصاد والتقنية والرياضة والثقافة.
