دعا براد سميث، رئيس شركة مايكروسوفت، إلى اعتماد إطار دولي صارم لتنظيم الذكاء الاصطناعي، يتضمن اختبارات مستقلة للنماذج المتقدمة، وإلزام الشركات بالإبلاغ عن الحوادث وإخطار المتضررين من الاختراقات أو الأضرار التي قد تتسبب فيها الأنظمة الذكية.
وقال سميث في مقابلة مع هيئة الإذاعة البريطانية «بي بي سي» الاثنين، إن المنتجات الاستهلاكية مثل الحليب والغسالات تخضع لفحوص وقواعد سلامة أوضح من تلك المطبقة على أنظمة الذكاء الاصطناعي. ونقلت وكالة رويترز عنه مطالبته بمنظومة رقابية تتجاوز التعهدات الطوعية، وتتيح تقييماً مستقلاً للتقنيات الجديدة وتحدد آليات التعامل مع الحوادث والأضرار.
وأشار إلى أن المخاطر لم تعد تقتصر على إنتاج معلومات خاطئة، إذ باتت بعض وكلاء الذكاء الاصطناعي قادرين، عند منحهم صلاحيات الوصول إلى الملفات والحسابات وأدوات العمل، على تنفيذ إجراءات غير مقصودة أو الاطلاع على بيانات حساسة. ولذلك، طالب بإجراء اختبارات مستقلة للنماذج المتقدمة قبل إطلاقها، وتزويدها بما وصفه بـ«مكابح الطوارئ» لإيقافها أو إبطائها عند تجاوز حدود الأمان.
كما دعا إلى إلزام الشركات قانونياً بإعداد تقارير عن الحوادث وإبلاغ المتضررين عندما يتسبب أحد وكلاء الذكاء الاصطناعي في اختراق أنظمتهم، بما يساعد على رصد الأضرار والتحقيق فيها وتحديد المسؤوليات.
وبموجب اتفاقات طوعية مع شركات تطوير النماذج، يتيح معهد سلامة الذكاء الاصطناعي في بريطانيا إمكانية تقييم أنظمة متقدمة قبل نشرها، لفحص قدراتها والمخاطر المرتبطة بها، وفقاً لما أوردته رويترز.
وتزداد صعوبة تحديد المسؤولية القانونية مع ارتفاع مستوى استقلالية الأنظمة وتعقيدها، إذ قد تقع الأضرار على عاتق الشركة المطورة للنموذج، أو المؤسسة التي تدمجه في خدماتها، أو الجهة التي تمنحه صلاحيات واسعة. ويثير ذلك تساؤلات حول مدى قدرة الأطر الحالية على تحديد المسؤوليات وضمان التحقيق في الحوادث ومعالجة آثارها.
ورغم وجود قوانين وأطر للحوكمة في عدد من الدول، يتمثل التحدي في تحويل مبادئ السلامة العامة إلى اختبارات وإجراءات قابلة للتحقق والمساءلة، بما يواكب التطور السريع للتقنية واتساع استخدامها.
ولا يقتصر النقاش على الحد من المخاطر، بل يمتد إلى تأثير القواعد الجديدة على المنافسة والابتكار؛ إذ قد ترفع متطلبات الامتثال المكلفة أعباء الشركات الناشئة والمنافسين الأصغر، وتمنح الشركات الكبرى أفضلية أو تعرقل دخول منافسين جدد إلى السوق.
ونقلت رويترز عن وزير الذكاء الاصطناعي البريطاني كانيشكا نارايان أن الحكومة ستبحث تنظيم النماذج المتقدمة إذا ثبت عدم كفاية النهج الحالي، في حين أعلنت مايكروسوفت، في تقرير الشفافية السنوي الخاص بالذكاء الاصطناعي، تطوير معاييرها الداخلية للذكاء الاصطناعي المسؤول بما يراعي اختلاف مكونات التقنية واستخداماتها ومستويات مخاطرها.
تنويه: هذا الخبر تم نقله تلقائياً من مصدره (المشهد اليمني) ولا يعبر بالضرورة عن وجهة نظر الموقع.