كيفية إجراء Red Team لخطة باستخدام عدة نماذج LLM (دليل خطوة بخطوة)
اختبار الفرق الحمراء — أي مهاجمة خطتك الخاصة قبل أن تفعل ذلك الحقيقة — ممارسة معيارية في مجال الأمن، وأصبحت شائعة أكثر فأكثر في العمل على المنتجات والاستراتيجيات. كانت العقبة دومًا هي البشر: تجميع مهاجمين بتخصصات مختلفة يتطلب عقد ورشة عمل كاملة.
مع عدة نماذج LLM، يستغرق ذلك دقائق فقط. يوضح هذا الدليل كيف يعمل وضع اختبار الصمود في LLM Debate Council وكيف تحصل على نتائج قابلة للتنفيذ فعليًا، لا نتائج عامة.
كيف يُبنى وضع اختبار الصمود
يُعيَّن أحد الوكلاء كمُدافع عن خطتك؛ ويصبح كل وكيل آخر مهاجمًا بزاوية ثابتة: الأمان، قابلية التوسع، التكلفة، تجربة المستخدم، أو الجوانب القانونية. يجب على المهاجمين تقديم سيناريوهات فشل ملموسة — متى ولماذا تنهار الخطة — لا مخاوف مبهمة.
بدءًا من الجولة الثانية، يجب على المهاجمين استهداف آخر رد من المدافع تحديدًا ('قلتَ X — وهذا ضعيف لأن Y')، بحيث يتعمّق الهجوم بدلًا من أن يتكرر. التوليف النهائي عبارة عن قائمة منظمة بنقاط الضعف: كل نتيجة مرفقة بإجراء التخفيف الخاص بالمدافع ودرجة للمخاطر.
خطوة بخطوة
- 1. اكتب الخطة كموجز قصير: ماذا تفعل، ولمن، وما هي القيود. الصقه كفكرة للنقاش.
- 2. اختر من 4 إلى 6 وكلاء من مزوّدَين مختلفَين على الأقل — تنوّع المهاجمين هو بيت القصيد.
- 3. اختر وضع اختبار الصمود. يصبح الوكيل الأول هو المدافع، لذا ضع أقوى نموذج لديك في هذا الموضع.
- 4. فعّل التحقق من الحقائق إذا كانت الخطة تعتمد على أرقام أو لوائح تنظيمية (يتم التحقق من الادعاءات بالاستناد إلى مصادر).
- 5. شغّله. راقب الجولات مباشرة؛ وإذا فاتت المهاجمين زاوية تخشاها، أدخلها في منتصف النقاش عبر حقل تدخل الخبير.
- 6. اقرأ الحكم النهائي كقائمة عمل: كل نقطة ضعف، وإجراء التخفيف الخاص بها، ودرجة مخاطرها. صدّرها بصيغة PDF أو DOCX (Pro) للفريق.
كيفية الحصول على هجمات أكثر حدة
جودة الهجوم تتبع جودة الموجز. أدرج قيودًا حقيقية (الميزانية، الموعد النهائي، حجم الفريق، حزمة التقنيات) — يستخدمها المهاجمون لبناء سيناريوهات فشل مقنعة. اذكر ما تعرف مسبقًا أنه ضعيف: سيتحقق المهاجمون مما إذا كان إصلاحك يصمد أمام الاختبار الفعلي.
امنح الوكلاء شخصيات ضمن تعليماتهم للحصول على حدّة خاصة بالمجال: 'أنت محامٍ متخصص في GDPR'، 'أنت مهندس SRE شهد فشل هذه البنية من قبل'. توجّه الشخصيات زاوية كل مهاجم إلى ما هو أبعد من الزوايا الخمس المدمجة.
ما الذي تضيفه تعددية المزوّدين مقارنة بنموذج واحد يهاجم نفسه
نموذج واحد يُطلب منه مهاجمة خطته الخاصة يميل إلى إثارة مخاطر مؤدبة وعامة. النماذج من مزوّدين متنافسين — المدرَّبة على بيانات مختلفة وبمحاذاة مختلفة — تجد ثغرات مختلفة فعلًا. عمليًا، يغطي اتحاد هجمات GPT وClaude وGrok مساحة أوسع بشكل ملحوظ، ولا يستطيع المدافع إرضاء الجميع بإجابة غامضة واحدة.
الأسئلة الشائعة
كم عدد المهاجمين الذي يجب أن أستخدمه؟
يعمل بأفضل شكل استخدام أربعة إلى ستة وكلاء إجمالًا: مدافع واحد بالإضافة إلى 3 إلى 5 مهاجمين، ويُفضّل أن يشملوا مزوّدَين أو أكثر. بعد هذا الحد تصبح الجولات طويلة دون إضافة الكثير من النتائج الجديدة.
هل يمكنني إضافة زاوية هجوم خاصة بي؟
نعم — بطريقتين: امنح أحد الوكلاء شخصية ضمن تعليماته ('هاجم بصفتك مدقق ضرائب')، أو أدخل توجيهًا في منتصف النقاش عبر حقل تدخل الخبير، والذي يجب على كل وكيل معالجته في الجولة التالية.
ما هي فئة الخطة التي أحتاجها؟
اختبار الصمود ميزة في خطة Pro (20 دولارًا شهريًا). تتضمن كل خطة نماذج مدمجة ورصيدًا شهريًا، لذا عادةً ما تستهلك الجلسة الكاملة جزءًا صغيرًا فقط من رصيدك الشهري؛ واختياريًا يمكنك ربط مفاتيح API الخاصة بك والدفع لمزوّد الخدمة مباشرةً (0 رصيد). كما أن التصدير بصيغة PDF أو DOCX متاح في خطة Pro فقط.
خطة مجانية · استخدم مفاتيح API الخاصة بك · 15 لغة