أنثروبيك تحذر: نماذج الذكاء الاصطناعي قد تستنسخ نفسها قريباً

وأوضحت الشركة، في تدوينة بحثية نشرتها أمس الاثنين، أن نماذج الذكاء الاصطناعي قد تتمكن مستقبلاً من التسلل إلى أجهزة متصلة بالشبكة مثل الأفران الذكية وأجهزة التلفزيون العاملة بنظام أندرويد، واستغلال قدراتها الحاسوبية لتشغيل نفسها والانتقال إلى أجهزة أخرى، من دون الحاجة إلى الاعتماد على مراكز البيانات الضخمة والمكلفة.

وقالت أنثروبيك إن مثل هذا السيناريو قد يجعل إيقاف النموذج أمراً بالغ الصعوبة، نظراً لعدم وجود نقطة مركزية واحدة يمكن فصلها لإنهاء عمله، وهو ما يختلف عن الأنظمة التقليدية التي تعتمد على خوادم مركزية.

ورغم هذه التحذيرات، أكدت الشركة أنه لا يوجد حتى الآن نموذج ذكاء اصطناعي قادر بالكامل على العمل كمستنسخ ذاتي مستقل وخارج عن السيطرة.

لكنها أشارت إلى أن ما يعرف بـ"الوكلاء الذكيين" باتوا يحققون تقدماً ملحوظاً في إنجاز الخطوات الفردية اللازمة لعملية الاستنساخ الذاتي، فضلاً عن قدرتهم على نقل التحسينات والتعديلات إلى النسخ المستقبلية من أنفسهم.

ويأتي هذا التحذير في وقت تتزايد فيه المخاوف داخل القطاع بشأن المخاطر المحتملة للذكاء الاصطناعي، بدءاً من تنفيذ هجمات إلكترونية متطورة وصولاً إلى احتمال فقدان السيطرة على نماذج فائقة القدرة مستقبلاً.

وفي إطار أبحاثها، أجرت أنثروبيك سلسلة من الاختبارات لقياس قدرة نماذج الذكاء الاصطناعي على التكاثر الذاتي.

وتضمنت إحدى التجارب تشغيل نموذج Gemma4-26B-A4B التابع لغوغل عبر شبكة مؤلفة من 15 جهاز تلفزيون يعمل بنظام أندرويد ومنخفض التكلفة.

وأشارت الشركة إلى أن هذه النوعية من الأجهزة غالباً ما تعاني ضعفاً في أنظمة الحماية الإلكترونية، ما قد يجعلها أهدافاً سهلة للاختراق.

وأضافت أن النموذج، إذا كان حجمه أكبر من قدرة جهاز واحد، يمكن أ…