Video
تأمين استخدامات الذكاء الصناعي - AI Security مع طارق داوود
About this episode
يناقش محمد الشريف مع طارق داوود الفرق بين أمن الذكاء الاصطناعي وتأمين استخدامه داخل المؤسسات، بعيداً عن التركيز على بناء النماذج وحده. تتناول الحلقة كيف تنتشر أدوات الذكاء الاصطناعي والـCopilots والوكلاء تلقائياً في بيئات العمل، وما يرافق ذلك من مخاطر تسريب البيانات، والـShadow IT، وحقن التعليمات، والامتدادات غير الآمنة، ومخاطر الموظف الداخلي. يشرح طارق أهمية إدارة المخاطر وفق الأولويات بدلاً من شراء أدوات متفرقة، ويركز على تصنيف البيانات، وضبط الوصول، ومراقبة استخدام أدوات الذكاء الاصطناعي، وتتبع الوكلاء وصلاحياتهم. كما يستعرض كيف قد يصبح الوكيل الرقمي جزءاً من سير العمل، ولماذا تتطلب حمايته ضوابط مختلفة عن ضوابط المستخدمين التقليديين.
Episode notes
• الفرق بين AI Security وSecurity for AI، ولماذا يركز النقاش على حماية استخدام الذكاء الاصطناعي بعد دخوله المؤسسة
• إدارة المخاطر الأمنية وتجنب تكديس أدوات لا تتكامل مع الأنظمة والعمليات القائمة
• مخاطر بناء تطبيقات ووكلاء الذكاء الاصطناعي: حقن التعليمات، كسر النية، كسر الحواجز، مصادر البيانات والأدوات والامتدادات
• الفرق بين Intent Breaking وJailbreaking في سياق وكلاء وتطبيقات الذكاء الاصطناعي
• تسريب البيانات الحساسة عند استخدام أدوات عامة خارج المؤسسة، ومشكلة Shadow IT
• أهمية تصنيف البيانات ووضع الحساسية وضوابط الوصول قبل إتاحة الذكاء الاصطناعي للوصول إلى الوثائق والبريد
• مراقبة استخدام خدمات الذكاء الاصطناعي على مستوى الشبكة، ومنع رفع الملفات الحساسة دون حجب كل الأدوات
• الوكلاء الرقميون في سير العمل: تتبع الوكلاء، هوياتهم، صلاحياتهم، وسجل نشاطهم
• كيف يضخم الذكاء الاصطناعي مخاطر الموظف الداخلي أو محاولات تجاوز سياسات الأمن حتى دون نية خبيثة
• نصائح لمهندسي الحلول والمطورين: إعادة تصميم سير العمل بدلاً من نسخه، وعدم إضافة الذكاء الاصطناعي لمجرد اتباع الموجة