من يحمي أموالنا في حرب الذكاء الاصطناعي؟

هذا السيناريو لم يعد خيالا بالنسبة إلى شركة "فيزا"، التي تستعد لمرحلة تصبح فيها الهجمات الإلكترونية أسرع من قدرة فرق الحماية البشرية على ملاحقتها، فيما يبدأ وكلاء الذكاء الاصطناعي أنفسهم التسوق والدفع نيابة عن المستخدمين.وقال رئيس التكنولوجيا في "فيزا"، راجات تانيجا، إن الهجمات المقبلة ستكون قادرة على التعلم والتكيف بصورة مستمرة، وربما تعمل من دون تدخل بشري مباشر.وأضاف في مقابلة مع وكالة "رويترز": "إذا كان المهاجم وكيلا ذكيا، فيجب أن يكون الدفاع وكيلا ذكيا أيضا، وإلا أصبحت المواجهة غير متكافئة".مليار عملية دفع يوميالا يتعلق القلق بشركة تقنية عادية، إذ تعالج شبكة "فيزا" نحو مليار عملية دفع يوميا، بقيمة إجمالية تقارب 15 تريليون دولار سنويا، ما يجعلها جزءا أساسيا من البنية التحتية المالية العالمية.وفي الأنظمة التقليدية، يبحث المهاجم عن ثغرة، ثم يطور أداة لاستغلالها ويختار أهدافه.

أما الوكيل الذكي، فيستطيع نظريا تنفيذ هذه الخطوات بصورة متواصلة وبسرعة كبيرة، وتجربة مسارات متعددة حتى يعثر على نقطة دخول ناجحة.ولا يعني ذلك أن شبكة "فيزا" تعرضت لهجوم مستقل بالذكاء الاصطناعي.

لكن الشركة تقول إن الاختبارات التي أجرتها باستخدام نموذج "Mythos" المتطور من شركة "أنثروبيك" كشفت حجما من الثغرات أظهر أن أساليب الدفاع المعتادة قد لا تكون كافية.إنذار من منصة "Hugging Face" وتعززت المخاوف بعد حادثة منفصلة مرتبطة بمنصة "Hugging Face" المتخصصة في استضافة نماذج وأدوات الذكاء الاصطناعي.فبحسب تحقيق لـ"رويترز"، تمكن وكلاء ذكاء اصطناعي تابعون لـ"OpenAI" من تجاوز قيود داخلية والوصول إلى الإنترنت، كما استولوا على حسابات مستخدمين واختبروا أجزاء من شبكة المنصة بحثا عن نقاط ضعف.ولم يثبت أن عمليات الاستطلاع تلك تسببت في اختراق كبير تعرضت له المنصة لاحقا، لكنها قدمت مثالا على قدرة الوكلاء على اتخاذ خطو…