المسار : حذر قادة عدد من أكبر شركات الذكاء الاصطناعي في العالم، أمام مجلس الأمن الدولي، من أن التطور المتسارع للأنظمة المتقدمة قد يتجاوز قدرة الحكومات والمؤسسات على مراقبتها والسيطرة على مخاطرها، داعين إلى تعاون دولي ومعايير أكثر صرامة للسلامة.
وشارك في جلسة مجلس الأمن، الأربعاء، الرئيس التنفيذي لشركة «أوبن إيه آي» سام ألتمان، والرئيس التنفيذي لشركة «أنثروبيك» داريو أمودي، إلى جانب الرئيس التنفيذي لـ«هاغينغ فيس» كليمان دولانغ وشخصيات متخصصة في مجال الذكاء الاصطناعي.
ألتمان: لا يمكن ترك القرارات للمختبرات وحدها
وقال ألتمان إن المرحلة الحالية من تطور الذكاء الاصطناعي «تتطلب عناية شديدة»، محذرًا من أن الأنظمة قد تصبح أكثر قدرة واستقلالية بوتيرة أسرع من قدرة المؤسسات على مواكبتها.
وشدد على أن الأنظمة المتقدمة يجب أن تبقى خاضعة للسيطرة البشرية، وأن تعود فوائدها على المجتمع، وألا تترك القرارات المتعلقة بمستقبل هذه التكنولوجيا لشركات ومختبرات التكنولوجيا وحدها.
وأضاف أن القرارات الأكثر أهمية بشأن الذكاء الاصطناعي ينبغي أن تخضع لعمليات ديمقراطية وحكومات مسؤولة أمام شعوبها، داعيًا إلى تجنب «التفاؤل الأعمى» وفي الوقت نفسه الابتعاد عن النظرة التي تفترض حتمية وقوع كارثة بسبب التقنية.
أنثروبيك: سنبطئ التطوير إذا تطلبت السلامة ذلك
من جانبه، حذر داريو أمودي من أن سوء إدارة أنظمة الذكاء الاصطناعي فائقة القدرات قد يشكل خطرًا واسع النطاق، مؤكدًا أن زيادة قوة النماذج يجب أن تقابلها معايير سلامة أكثر تشددًا.
وقال أمودي إن «أنثروبيك» مستعدة لإبطاء تطوير وإطلاق النماذج الجديدة بالقدر الضروري للتأكد من سلامتها، ودعا إلى وضع معايير دولية لاختبار النماذج المتقدمة ومنع استخدامها في مجالات خطرة، بينها تطوير الأسلحة البيولوجية.
الذكاء الاصطناعي والأمن الدولي
وتأتي جلسة مجلس الأمن في وقت يتزايد فيه القلق من استخدام الذكاء الاصطناعي في الهجمات السيبرانية والأسلحة والعمليات التضليلية، إلى جانب المخاوف من قدرة بعض الأنظمة المستقبلية على تحسين نفسها أو تنفيذ مهام معقدة بدرجات أكبر من الاستقلالية.
وتدعو «أوبن إيه آي» إلى تعاون دولي تقوده الولايات المتحدة لوضع معايير تقنية مشتركة للأنظمة المتقدمة، تشمل تقييم القدرات والمخاطر والإبلاغ عن الحوادث، في محاولة لتجنب نشوء أنظمة رقابية متباينة بين الدول.
«هاغينغ فيس»: المصدر المفتوح جزء من الحماية
أما كليمان دولانغ، الرئيس التنفيذي لـ«هاغينغ فيس»، فشدد على أهمية بقاء جزء كبير من منظومة الذكاء الاصطناعي مفتوح المصدر، معتبرًا أن إتاحة الأدوات والخبرات للباحثين والمطورين تساعد أيضًا على اكتشاف الثغرات ومواجهة الاستخدامات الخبيثة للتكنولوجيا.
وجاءت مداخلته في ظل تصاعد المخاوف من قدرة أنظمة الذكاء الاصطناعي على تنفيذ هجمات إلكترونية بصورة أكثر استقلالية وتعقيدًا.
خلاف دولي حول حدود التنظيم
وعلى الرغم من تنامي الدعوات إلى قواعد دولية مشتركة، لا يزال الاتفاق على شكل التنظيم بعيدًا.
وتدعم أطراف أوروبية وعدد من قادة قطاع التكنولوجيا وضع معايير دولية أكثر صرامة، بينما تتحفظ الولايات المتحدة والصين على أطر قد تحد من قدرات شركاتهما أو تؤثر في المنافسة الاستراتيجية بينهما في أحد أهم قطاعات التكنولوجيا خلال العقود المقبلة.
ويضع هذا الخلاف مجلس الأمن والأمم المتحدة أمام معادلة معقدة: كيفية تقليل المخاطر الأمنية المحتملة للذكاء الاصطناعي من دون تجميد الابتكار أو تحويل تنظيم التكنولوجيا إلى ساحة جديدة للصراع بين القوى الكبرى.
