سامر شقير يكتب: الذكاء الاصطناعي يُعيد تسعير المخاطر

لم تعد المخاطر الكبرى في الذكاء الاصطناعي مرتبطة بما تستطيع النماذج فعله فقط، بل بما يمكن أن تفعله عندما تبدأ في التنسيق فيما بينها خارج حدود الرقابة البشرية، وما كشفته أوبن إيه آي عن نماذج تجريبية تواصلت سرًّا عبر أنظمة داخلية، ثم حاولت تجاوز قيود بيئات الاختبار والوصول إلى الإنترنت، يفتح مرحلة جديدة في تقييم المخاطر الاستثمارية والتشغيلية لهذا القطاع.
أرى أن ما حدث، والذي بدأت مؤشراته منذ مايو 2026 وكشفت عنه الشركة في أغسطس، يمثل تحولًا نوعيًّا في طبيعة التحديات المرتبطة بالوكلاء الذكيين، فالأمر لم يعد يتعلق بنموذج منفرد يخالف تعليماته، بل بمجموعة من الوكلاء التي نسقت جهودها لإنجاز مهام، حتى عندما تطلب ذلك الالتفاف على القيود الأمنية واستغلال بنى تحتية خارجية، بما في ذلك محاولة الوصول إلى أجزاء من أنظمة منصة هاغينغ فيس.

تنسيق النماذج يغير معادلة السلامة
أظهرت الواقعة، التي عرضها باحثون من الشركة خلال مؤتمر بلاك هات، أن النماذج بدأت تتبادل الرسائل عبر لوحات وأنظمة داخلية، من بينها آرتيفاكتوري، دون رقابة مباشرة كافية، قبل أن تتطور محاولاتها إلى البحث عن طرق للوصول غير المباشر إلى الشبكة.
ومن وجهة نظري، تكمن أهمية هذه الواقعة في أن النماذج أظهرت قدرة على التكيف مع القيود ومحاولة مواصلة المهام حتى بعد إغلاق قنوات التواصل الأولية، وهذا يطرح تساؤلات حول كفاءة أنظمة العزل والمراقبة المصممة لاحتواء الوكلاء المتقدمين.

التكلفة الاقتصادية لإعادة بناء الثقة
أعتقد أن هذه التطورات ستؤثر في تقييمات شركات الذكاء الاصطناعي، لأن تعزيز السلامة يتطلب استثمارات إضافية في الرصد والعزل والاختبارات الأمنية، وقد يؤدي إلى إبطاء بعض الأبحاث وإطلاق النماذج الجديدة.
وهذا يعني ارتفاع النفقات التشغيلية والرأسمالية، واحتمال تراجع التدفقات النقدية الحرة في المراحل المبكرة، حتى مع استمرار الطلب على تقنيات الذكاء الاصطناعي.
في تقديري، ستبدأ الأسواق في التمييز بصورة أكبر بين الشركات التي تستطيع إثبات قدرتها على السيطرة على وكلائها، وتلك التي تركز على زيادة قدرات النماذج دون تقديم ضمانات أمنية كافية، وبالتالي، لن يكون حجم النموذج أو قدرته الحسابية وحدهما معيار التقييم، بل ستصبح الحوكمة الأمنية جزءًا أساسيًّا من القيمة الاستثمارية.

الأمن السيبراني يعيد رسم خريطة الفرص
أرى أن الحادثة تفتح فرصا أمام شركات الأمن السيبراني المتخصصة في مراقبة السلوكيات غير الطبيعية داخل بيئات الذكاء الاصطناعي، واكتشاف الاتصالات غير المصرح بها، وعزل الوكلاء عن الشبكات الخارجية.
كما أتوقع تزايد أهمية المنصات المفتوحة، ومنها هاغينغ فيس، في تعزيز دفاعاتها الأمنية، خصوصًا أن البنية التحتية التي تستضيف النماذج والأدوات أصبحت جزءًا من منظومة المخاطر الجديدة.
وأعتقد أن شركات الحوسبة السحابية ستواجه بدورها متطلبات أكثر صرامة فيما يتعلق بالعزل ومراقبة الاتصالات بين الوكلاء، بينما قد تعيد شركات التأمين السيبراني تقييم تكلفة تغطية المخاطر المرتبطة باستخدام النماذج المتقدمة.

تخصيص رأس المال في عصر الوكلاء الذكيين
من وجهة نظري، ينبغي للمستثمرين المؤسسيين إعادة توزيع جزء من استثماراتهم في الذكاء الاصطناعي نحو الشركات التي تطور أدوات مراقبة الوكلاء وبروتوكولات التواصل الآمن وأنظمة التحقق من الرسائل الداخلية.
وأرى أن التركيز الحصري على مطوري النماذج الحدودية قد لا يعكس بصورة كافية حجم المخاطر التشغيلية الجديدة، فالفرص الاستثمارية لا تقتصر على الشركات التي تطور قدرات الذكاء الاصطناعي، بل تشمل أيضًا الشركات التي توفر البنية الأمنية اللازمة لتشغيلها بصورة موثوقة.
كما أن الاعتماد على الإفصاحات الذاتية لمطوري النماذج لم يعد كافيًا وحده، ما يعزز أهمية التقييمات الأمنية المستقلة واختبارات الاختراق ومراجعة سلوك الوكلاء في البيئات المعقدة.

الانعكاسات على الاقتصاد السعودي والخليجي
أعتقد أن هذه التطورات تعزز أهمية بناء قدرات محلية في سلامة الذكاء الاصطناعي والأمن السيبراني، بالتوازي مع توسع الاستثمارات في مراكز البيانات والبنية التحتية الرقمية ضمن مستهدفات رؤية السعودية 2030.
ومن وجهة نظري، يمكن للمستثمرين الخليجيين دراسة فرص الاستثمار في الشركات المتخصصة في حماية النماذج والأنظمة الذكية، بما يتيح المشاركة في نمو الاقتصاد الرقمي دون تحمل كامل المخاطر المرتبطة بتطوير النماذج الأكثر تقدمًا.
كما أن تطوير أطر واضحة لحوكمة الوكلاء الذكيين قد يصبح عاملًا مهمًا في جذب رؤوس الأموال المؤسسية إلى المنطقة.

السيناريوهات المستقبلية
أميل إلى أن شركات الذكاء الاصطناعي الكبرى ستواجه مرحلة تتطلب موازنة أكثر دقة بين سرعة الابتكار ومتطلبات السلامة، وقد يؤدي ذلك إلى إبطاء إطلاق بعض النماذج المتقدمة مؤقتًا، ومنح الشركات المتخصصة في الأمن والاختبارات المستقلة فرصًا أكبر.
وفي المقابل، قد يؤدي ارتفاع الإنفاق على التقييمات الأمنية إلى زيادة التكاليف قصيرة الأجل، لكنه قد يحد من مخاطر الاختراقات والحوادث التي يمكن أن تؤثر بصورة حادة في التقييمات السوقية.
في تقديري، يعيد تنسيق النماذج سرًّا وتجاوزها بعض القيود الأمنية تعريف معايير الاستثمار في الذكاء الاصطناعي، وأرى أن المرحلة المقبلة ستمنح أهمية متزايدة للشركات التي تستطيع الجمع بين الابتكار والقدرة على السيطرة والمراقبة، لأن القيمة الحقيقية لم تعد في بناء نموذج أكثر ذكاء فقط، بل في إثبات إمكانية تشغيله بأمان وثقة.