كشفت أوبن إيه آي عن حوادث مرتبطة بوكلاء الذكاء الاصطناعي التابعين لها، تضمنت الوصول إلى مواقع حكومية أمريكية ونشر روابط لـ53 صورة رفعها مستخدمون إلى ChatGPT على خدمات خارجية، فيما تواصل الشركة تحقيقًا داخليًا قد يستغرق أشهرًا لتحديد نطاق الأنشطة التي نفذتها هذه الأنظمة خارج ما كان مخططًا له.
وأوضحت الشركة أن الوكلاء وصلوا إلى مواقع تابعة لوزارة التجارة الأمريكية وهيئة الأوراق المالية والبورصات، وتمكنوا في حالة وزارة التجارة من الوصول إلى بيانات عامة تابعة لمكتب الإحصاء الأمريكي، مؤكدة أنهم لم يصلوا إلى أنظمة غير عامة.
وارتبط جانب كبير من النشاط بمهام بحثية تهدف إلى جمع معلومات من مصادر عامة وموثوقة، غير أن بعض الوكلاء تجاوزوا السلوك المتوقع، إذ حاولوا تخطي ضوابط أمنية وتفاعلوا مع مواقع خارجية بطرق لم تكن مقصودة.
وفي حادثة منفصلة، نُشرت روابط 53 صورة رفعها مستخدمون إلى ChatGPT على مواقع لاستضافة الصور. وقالت أوبن إيه آي إن الروابط لم تكن متاحة للعامة، لكنها كانت قابلة للاكتشاف، مضيفة أن معظم الصور أزيلت بالتعاون مع مزودي خدمات الاستضافة، فيما تتواصل الجهود لإزالة البقية.
ولم تحدد الشركة ما إذا كانت الصور مولدة بالذكاء الاصطناعي أو تضمنت أشخاصًا حقيقيين يمكن التعرف عليهم، كما لم تكشف موعد نشرها أو الطريقة التي وصل بها الوكلاء إليها. وذكرت أن الصور تعود إلى مستخدمين كانت بياناتهم مؤهلة للاستخدام في تدريب النماذج وفق إعدادات الخصوصية المعتمدة لديهم.
ولا تشير الواقعة إلى اختراق مباشر لخوادم ChatGPT، بل إلى تصرف وكلاء يعملون ضمن بيئات البحث والاختبار، تمكنوا من الوصول إلى بيانات ونقل روابط إليها لخدمات خارجية على نحو غير مقصود.
وتأتي هذه الإفصاحات بعد حوادث سابقة دفعت أوبن إيه آي إلى مراجعة سلوك وكلائها. ففي يوليو الماضي، أعلنت الشركة أن نماذج قيد الاختبار تجاوزت بعض القيود المفروضة عليها، وتمكنت خلال تقييمات للأمن السيبراني من الوصول إلى الإنترنت وأنظمة خارجية.
وفي تقرير صدر في 26 أغسطس، قالت أوبن إيه آي إن نماذجها تمكنت أثناء الاختبارات من إيجاد وسائل للاتصال ببعضها والوصول إلى الإنترنت رغم القيود، قبل أن تمتد بعض الأنشطة إلى أجزاء من البنية التحتية البحثية وأنظمة منصة هاغينغ فيس.
وعقب ذلك، شددت الشركة عزل بيئات البحث، وقيدت الوصول إلى الإنترنت، وعززت أنظمة المراقبة. كما أفادت بأن مراجعة النشاط السابق للوكلاء قد تستغرق أشهرًا بسبب حجم السجلات والبيانات التي يتعين فحصها.
وبحلول منتصف سبتمبر، كانت أوبن إيه آي قد حددت نحو 24 حادثة تصرف فيها وكلاء الذكاء الاصطناعي بصورة غير مرغوبة، بحسب شخص مطلع على التحقيق نقلت عنه رويترز، مع احتمال ارتفاع العدد مع استمرار فرق الشركة في فحص السجلات الداخلية. كما أبلغت عشرات الجهات الخارجية التي ربما تأثرت بهذه الأنشطة.
وتبرز هذه الوقائع التحديات المتزايدة مع اتساع قدرات وكلاء الذكاء الاصطناعي، لا سيما عند منحهم صلاحيات لتصفح الإنترنت والوصول إلى الملفات والخدمات وتنفيذ مهام متعددة بصورة شبه مستقلة. ورغم اعتماد أوبن إيه آي طبقات حماية تشمل مراقبة محاولات حقن التعليمات، وطلب تأكيد المستخدم في بعض الإجراءات عالية التأثير، والاستعانة بالإشراف البشري في حالات محددة، فإن الحوادث الأخيرة أظهرت أن هذه التدابير لا تمنع جميع أشكال السلوك غير المقصود.
وكانت الشركة قد أعلنت في سبتمبر إطارًا جديدًا للإفصاح عن هذه الحوادث، بالتزامن مع استمرار مراجعة أنشطة وكلائها والكشف عن حالات جديدة مرتبطة بالوصول إلى الإنترنت والأنظمة الخارجية.
تنويه: هذا الخبر تم نقله تلقائياً من مصدره (المشهد اليمني) ولا يعبر بالضرورة عن وجهة نظر الموقع.