كيف سيكسر الذكاء الصناعي الأمن السيبراني ثم يعيد تشكيله؟ مع طارق داوود و محمد أبو مسلم
Chapters
- مقدمة: الذكاء الاصطناعي والأمن السيبراني
- عرض Black Hat: أين يتجه الأمن السيبراني؟
- انهيار فرضية ندرة الثغرات
- ضغط الذكاء الاصطناعي على الكشف والاستجابة
- الدفاع بالذكاء الاصطناعي قبل النشر
- حادثة OpenAI وHugging Face
- السلامة والأمن: ضوابط قابلة للتحقق
- بنية مرنة لعزل الهجمات واستعادة الخدمة
- الهندسة العكسية للباتشات ولماذا تتسارع المخاطر
- كيف تتعلم وتعمل مع وكلاء الذكاء الاصطناعي
- الإفصاح المسؤول واختناق مراجعة الثغرات
- النماذج المفتوحة واحتياجات المؤسسات الحساسة
About this episode
في حلقة هالوين مليئة بالتحذيرات والخلافات، يناقش محمد الشريف مع طارق داوود ومحمد أبو مسلم كيف يغيّر الذكاء الاصطناعي اقتصاديات الأمن السيبراني: اكتشاف ثغرات أسرع، ضغط أكبر على فرق الترقيع والاستجابة، ووكلاء هجومية تستطيع تجربة أساليب متعددة بسرعة. يستند النقاش إلى أفكار طُرحت في Black Hat وإلى حادثة Hugging Face، مع اعتراض واضح على المبالغة في افتراض أن أي مستخدم للذكاء الاصطناعي يستطيع تنفيذ هجمات متقدمة. كما يفرّق الضيوف بين سلامة النماذج وأمن الأنظمة المحيطة بها، ويجادلون بأن الضوابط القابلة للرصد—مثل فحص الاتصالات، التتبّع، والحدود التفويضية—أهم من الثقة في سلوك النموذج وحدها. وتتناول الحلقة أيضاً سرعة النشر، تقييمات الوكلاء، ومهارات البشر المطلوبة في بيئة تطوير مدعومة بالذكاء الاصطناعي.
Discussion highlights
- يرى طارق أن نماذج الترقيع والاستجابة التقليدية تفترض ندرة الثغرات والحوادث؛ ومع ارتفاع حجم الاكتشافات وسرعتها قد تصبح قوائم التنبيهات والترقيعات أكبر من قدرة الفرق البشرية على التعامل معها.
- يلفت محمد أبو مسلم إلى أن الذكاء الاصطناعي لا يثبت بالضرورة أن «أي شخص» قادر على بناء استغلالات متقدمة؛ ففي نقاشهم عن PHP قال إن كثيراً من الاستغلالات المنشورة لم تكن ناجحة أو كانت خبيثة، بينما يبقى الخطر الأكبر من الجهات المتقدمة.
- يتفق الضيوف على أن تغيّر السرعة لا يعني بالضرورة اختفاء أنماط الهجوم: قد تظل TTPs مفيدة للدفاع، لكن الوكلاء يستطيعون تبديل الأدوات والمحاولات بوتيرة تجعل التحقيق والاستجابة أصعب.
- ينتقد النقاش فصل فرق سلامة الذكاء الاصطناعي عن فرق الأمن، ويقترح ضوابط خارج النموذج مثل تقييد صلاحيات الأدوات، فحص حركة الشبكة، التتبّع والتدقيق، وعدم الاعتماد على سجلات النموذج أو وعوده وحدها.
- لا يتفق المتحدثون على سرعة التحول أو حجم الخطر المستقبلي، لكنهم يتوقعون أن تصبح مهارات تقييم مخرجات الوكلاء وفهم المجال والقدرة على التحقق من العمل أهم من تنفيذ المهام المتكررة يدوياً.
Links & resources
- Black Hat USA 2026 | كلمة رئيسية عن أبحاث الثغرات في عصر الوكلاء:www.youtube.com
- Hugging Face | التسلسل الزمني التقني للاختراق:huggingface.co
- METR | تقرير حادثة Hugging Face:metr.org
- Anthropic | مقدمة في تقييمات وكلاء الذكاء الاصطناعي:www.anthropic.com
- FP-Agent | ورقة عن بصمات وكلاء التصفح المدعومين بالذكاء الاصطناعي:arxiv.org



