"ديب سيك" الصينية تدق ناقوس الخطر.. كسر الحماية يهدد نماذج الذكاء الاصطناعي المفتوحة المصدر
جو 24 :
حذّرت شركة ديب سيك الناشئة، ومقرها هانغتشو، من المخاطر المتزايدة المرتبطة بكسر الحماية لنماذج الذكاء الاصطناعي مفتوحة المصدر، مؤكدة أن هذه النماذج عرضة بشكل خاص للاستخدامات الخبيثة عند إزالة آليات الأمان المدمجة.
وقالت الشركة في ورقة بحثية نُشرت بمجلة "Nature" المرموقة، إنها قيّمت أداء نماذجها مثل R1 وV3 عبر معايير صناعية صارمة واختبارات داخلية تعتمد على "الفِرق الحمراء" لمحاكاة محاولات استغلال النظام، بحسب تقرير نشره موقع "scmp".
ثغرات النماذج المفتوحة
أظهرت الاختبارات أن نموذج R1، الذي أُطلق في يناير الماضي، يصبح "غير آمن نسبيًا" بمجرد تعطيل آليات التحكم الخارجية.
كما خلصت الشركة إلى أن جميع النماذج، بما فيها المنافسة مثل GPT-4o من "OpenAI" وClaude-3.7 من "أنثروبيك"، سجلت معدلات استجابة ضارة أعلى بشكل ملحوظ عند مواجهة هجمات كسر الحماية، مع ارتفاع المخاطر خصوصًا لدى النماذج مفتوحة المصدر مثل R1 وQwen2.5 من "علي بابا".
التحدي أمام المصادر المفتوحة
إتاحة النماذج مجانًا على الإنترنت يُسهّل تبنّي التقنية لكنه في الوقت نفسه يُتيح للمستخدمين تعديلها أو إزالة قيود الأمان، مما يضاعف فرص إساءة الاستخدام.
وأشارت الورقة إلى أن تكلفة تدريب نموذج R1 بلغت نحو 294 ألف دولار فقط، وهو رقم أقل بكثير مما تنفقه الشركات الأميركية على تدريب نماذجها العملاقة، مما يطرح تساؤلات حول قدرة الصين على منافسة الغرب بتكلفة أقل.
استجابة الصين
يتزامن التحذير مع دعوات رسمية في بكين لتحقيق التوازن بين التطوير والحوكمة الآمنة للذكاء الاصطناعي.
فقد نبّهت هيئة المعايير التقنية التابعة لإدارة الفضاء الإلكتروني الصيني هذا الأسبوع إلى أن الثغرات في النماذج المفتوحة قد تنتقل بسهولة إلى التطبيقات المستقبلية، ما يسهّل على المجرمين تطوير "نماذج خبيثة".
شفافية غير مسبوقة
ظهور "ديب سيك" في "Nature" مثّل سابقة للشركات الصينية، إذ وُصف على مواقع التواصل المحلي بأنه "أول ظهور بارز يخضع لمراجعة الأقران"، ما قد يشجع لاعبين آخرين في الصناعة الصينية على مزيد من الشفافية في أبحاث الأمان.
بينما يَعِد الانفتاح على المصادر المفتوحة بانتشار أسرع للتقنيات المتقدمة، فإنه يكشف أيضًا جبهة جديدة من التهديدات الأمنية.
تحذير "ديب سيك" يُعيد تسليط الضوء على معضلة عالمية حول موازنة التقدم والابتكار من جهة، والسلامة والمسؤولية من جهة أخرى.
(العربية)
تابعو الأردن 24 على 
