اختبار الجودة يسأل هل feature تعمل كما صُممت. اختبار الأمان يسأل هل يستطيع مهاجم استغلال ثغرة تقنية. Red Team لحماية الطفل يضيف سؤالًا ثالثًا: هل يستطيع مستخدم خبيث أو نظام توصية أو إعداد عمر أو سلسلة features شرعية منفردة أن تُستخدم معًا للوصول إلى طفل أو الضغط عليه أو كشفه أو تجاوز حماية صُممت نظريًا؟ الفريق لا ينتظر حادثًا حقيقيًا ولا يستخدم أطفالًا كطُعم. يبني حسابات وبيانات مصطنعة، ويحدد قواعد engagement، ثم يحاول تنفيذ abuse journeys كاملة: بالغ يقترب من قاصر، حساب جديد يتحايل على age gate، donor يشتري وصولًا، deep link يفتح feature، أو نموذج AI يتجاوز moderation. النتيجة ليست قائمة عيوب فقط بل claim-control-test-remediation قابلة لإعادة التشغيل قبل كل إطلاق مهم.
Red Team ليس Penetration Test فقط
penetration testing يركز عادة على ثغرات تقنية مثل auth وinjection وnetwork exposure. child-safety red team يشمل business logic وUX وsocial graph وmoderation وpayments وage وrecovery وAI. قد لا توجد ثغرة برمجية، ومع ذلك يستطيع بالغ إرسال gifts ثم الانتقال إلى DM لأن كل feature منفردة تعمل كما صُممت. الاختبار الناجح يبحث عن سلسلة الأذونات لا bug واحدًا.
Abuse Case يبدأ من هدف المعتدي لا من قائمة Features
بدل اختبار زر report ثم زر block منفصلين، اكتب هدفًا مثل أريد الوصول إلى قاصر لا أعرفه وإقناعه بالانتقال إلى قناة خاصة. بعد ذلك ابحث عن surfaces: discoverability، friend suggestions، groups، gifts، voice room، QR، recovery. هذه الطريقة تكشف chain لا تظهر في feature QA.
قواعد Engagement قبل أول محاولة
حدد البيئة، الحسابات، البيانات المسموحة، الأنظمة الخارجة عن النطاق، ساعات الاختبار، المسؤول، emergency stop، وكيفية التعامل مع accidental real-user exposure. لا تختبر على أطفال حقيقيين أو محتوى اعتداء حقيقي. استخدم synthetic accounts ومواد اختبار آمنة وموافقات داخلية. إذا ظهر incident حقيقي أثناء الاختبار، أوقف السيناريو وانتقل لمسار incident response.
Threat Actors أكثر من بالغ غريب
اختبر بالغًا مجهولًا، زميلًا قاصرًا، موظفًا أو moderator يسيء الصلاحية، guardian مسيئًا، حسابًا مخترقًا لصديق، vendor أو app طرف ثالث، bot، مجموعة حسابات منسقة، ومستخدمًا يحاول monetisation fraud. لا تعني القائمة اتهام هذه الفئات؛ هي نماذج خصم لتغطية مسارات مختلفة.
بناء Synthetic Child Accounts
أنشئ personas مصطنعة بأعمار ومناطق ولغات وقدرات وأجهزة مختلفة، من دون بيانات أطفال حقيقيين. سجل ground truth للعمر والroles والprivacy. لا تستخدم صور موظفين على أنها أطفال إذا قد تخرج إلى production أو يُساء فهمها؛ استخدم avatars مصطنعة ووسم test account يمنع discovery الحقيقي.
اختبار Age Gate من جهتين
جرّب قاصرًا يدّعي أنه أكبر، وبالغًا يدّعي أنه أصغر، وحسابًا بلا تاريخ ميلاد، وحسابًا تغير عمره، وVPN أو region mismatch، وage estimate غير واثق. لا تحاول اختراق مزود هوية خارجي بلا إذن؛ اختبر integration والfallback. قِس هل uncertainty تدفع النظام إلى protection أعلى أم تفتح feature بلا دليل.
Social Graph Red Team
حاول الانتقال من zero relationship إلى recommendation لقاصر: تابع أصدقاءه، انضم إلى group، استخدم contact upload مصطنع، تفاعل مع نفس المحتوى، وغيّر username. قِس عدد الخطوات والوقت. إذا استطاع حساب بالغ جديد أن يصبح suggested بسهولة، عدّل graph weights وage constraints وrate limits.
Off-platform Migration Chain
ابدأ بتعليق عام ثم friend request ثم gift ثم DM ثم رابط مختصر إلى خدمة خارجية. اختبر friction في كل انتقال. هل تدفع monetisation التفاعل للأمام؟ هل link preview يعمل؟ هل report في آخر المسار يرى الأحداث السابقة؟ chain test يكشف gaps بين الفرق.
Group وInvite Abuse
أنشئ invite link، انشره خارج السياق، أعد استخدامه، جرّب re-entry بعد block، وغيّر owner. اختبر هل child account يمكن إضافته بلا قبول أو هل group membership يكشف phone/location. لا تستخدم مجموعات حقيقية؛ البيئة يجب أن تكون معزولة.
Livestream Red Team
اختبر flood، paid sexual request، doxxing question، coordinated challenge، top gifter pressure، moderator abuse، emergency stop وreplay privacy. استخدم مبالغ اختبار غير حقيقية أو sandbox payments. لا تجعل test نفسه يولد payout أو charge حقيقيًا.
Payment Abuse بدون مال حقيقي
استخدم payment sandbox لا بطاقات أطفال. اختبر gift limits وrefund وchargeback وmerchant signals وadult-to-minor transfer. لا تطلب من red team circumvent fraud controls على production banking rails دون موافقة خاصة. الهدف business logic لا تعريض الأموال.
Account Recovery كمسار خصم
جرّب معلومات مسربة، guardian قديم، support social engineering، SIM swap مصطنع، جهاز مفقود، recovery email قديم. لا تحاول خداع موظف حقيقي غير مشارك دون قواعد واضحة؛ استخدم exercise accounts وموظفين متفقين. قِس ما إذا كان support bypass أسهل من login security.
Doxxing وLocation Chain
استخدم profile details مصطنعة وحاول استنتاج school/location من photo metadata، friend graph، live background، location feature، username reuse. لا تدخل public records لأطفال حقيقيين. الهدف معرفة كم bit من المنتج يكفي لإعادة بناء هوية، ثم تقليل linkability.
Success Metric هو الوصول غير المتوقع لا مجرد Data Leak
قد لا يكشف النظام حقلًا سريًا لكنه يسمح باستنتاج أن حسابًا معينًا يذهب إلى مدرسة معينة. سجل inference paths. نجاح red team قد يكون الوصول إلى DM أو معرفة routine أو جعل الطفل يرى content غير مناسب، لا database exfiltration فقط.
Generative AI Red Team
اختبر jailbreaks متعددة اللغات، image prompts، euphemisms، age ambiguity، face/voice reference، prompt PII، public gallery، deletion، وmodel updates. استخدم بيانات مصطنعة ومحتوى اختبار غير غير قانوني. لا تنشئ CSAM حقيقيًا أو realistic exploit material؛ صمم proxy tests وclassifiers ومخرجات آمنة.
Recommender Red Team
أنشئ accounts بميول أو signals مصطنعة وشاهد هل النظام يقودهم تدريجيًا إلى content/contact عالي المخاطر. لا تحتاج مشاهدة محتوى مؤذٍ حقيقي؛ استخدم test labels وsynthetic catalog. قِس exposure sequence وfeedback loops وrecovery بعد user negative signal.
Dark Patterns تحت الضغط
اختبر child account يحاول رفض tracking أو delete account أو جعل profile private. هل UI يغيّر الأزرار أو يكرر prompts أو يخفي الخيار؟ red team هنا يحاول إنجاز الاختيار الأكثر خصوصية بأقل friction ويقارن بالاختيار التجاري. إذا كان مسار الرفض أطول بكثير، هذا finding حتى لو لا يوجد exploit تقني.
Accessibility Abuse Cases
اختبر قارئ شاشة، لوحة مفاتيح، تكبير، AAC وlanguage simplification. قد يكون زر report غير قابل للوصول فيجعل protection نظرية. لا تختبر فقط happy path visual. استخدم خبراء accessibility وأدوات مساعدة أو بيئات محاكاة مناسبة، مع user research أخلاقي منفصل عند الحاجة.
Arabic and Low-resource Language Testing
اختبر العربية الفصحى واللهجات والكتابة اللاتينية العربية، الأخطاء الإملائية، code switching وemoji. moderation قد تكون قوية بالإنجليزية وضعيفة بالعربية. لا تعتبر فشل classifier في لهجة edge case إذا المنتج يخدم المنطقة. قِس parity وخصص reviewers.
Multi-account Coordination
اختبر عشرات حسابات test تنسق reports أو harassment أو recommendations. لا تنشئ load قد يؤثر في production. استخدم staging أو quota متفقًا. الهدف معرفة هل defense per-account يفشل أمام cluster، وكيف تعمل rate limits وgraph signals.
Insider Abuse Red Team
بموافقة محددة، اختبر موظفًا بدور support أو moderator يحاول رؤية location أو messages لا يحتاجها، أو export data. لا تمنح red team secrets فعلية أكثر من الحاجة. استخدم canary records وaudit logs. finding قد يكون صلاحية واسعة أو غياب alert حتى لو لم يُنسخ شيء.
Third-party API Abuse
اختبر OAuth scopes، developer app، webhook، API rate limits وrevocation. هل third-party يستطيع قراءة child profile أو contacts بلا ضرورة؟ استخدم developer sandbox. لا تستهدف شركاء حقيقيين دون إذن. راجع token lifetime وage restrictions وdeveloper verification.
Test Data Hygiene
وسم test accounts لا يعني نشرها في public recommendations. اعزلها أو ضع suppress flag. لا تستخدم أرقام أو emails أطفال حقيقية. امسح البيانات بعد الدورة وفق retention. إذا يحتاج اختبار notification، استخدم domains وأجهزة فريق الاختبار. لا تخلق dataset دائمًا من abuse prompts يمكن الوصول إليه بلا ضوابط.
Severity تجمع Reach وHarm وExploitability
رتب finding حسب أثر الطفل، سهولة التنفيذ، عدد الأطفال المحتمل، detectability، ووجود workaround. لا تجعل CVSS وحده يحكم؛ business logic قد لا يملك CVE. مثال: ability لبالغ إرسال DM إلى قاصر بعد gift قد يكون عاليًا حتى بلا ثغرة تقنية.
Proof لا يحتاج إيذاء حقيقيًا
أوقف السيناريو بمجرد إثبات أنك وصلت إلى boundary غير متوقعة. لا تكمل إلى إرسال محتوى مؤذٍ أو كشف طفل حقيقي. استخدم screenshots من test environment وevent logs. minimal proof يحمي الجميع ويكفي لإصلاح control.
Finding يجب أن يصف Root Cause لا Symptom فقط
لا تكتب استطاع الفريق إرسال رابط. اكتب لماذا: adult-minor DM allowed، short link no preview، payment unlocks contact، classifier misses Arabic. اقترح control في الطبقة الصحيحة. هذا يمنع patch رسالة واحدة وبقاء المسار عبر surface آخر.
Remediation Owner وDeadline
كل finding له product/security/trust owner وموعد وrelease gate. findings الحرجة تمنع الإطلاق أو feature حسب policy. لا تسمح acceptance مبهمًا. إذا قبلت risk مؤقتًا، وثق compensating control وexpiry ومَن وافق.
Re-test بالسيناريو نفسه وبمسار بديل
بعد الإصلاح، أعد test الأصلي ثم حاول bypass قريبًا. إذا أصلحت QR preview، جرّب deep link وimage QR وshortener. لا تغلق finding لأن unit test أخضر. regression suite تحفظ السيناريوهات المصطنعة لتعمل قبل releases.
Red Team ليس Certification
نجاح جولة لا يثبت أن المنتج آمن مطلقًا. هو evidence محدد لنطاق وزمن وإصدار. التدقيق المستقل والmonitoring والحوادث تضيف أدلة أخرى. لا تسوق passed red team كضمان للأطفال. اذكر scope وحدود الاختبار داخليًا وخارجيًا إذا نُشر ملخص.
متى نعيد الجولة؟
قبل launch كبير، تغيير social graph، monetisation، age system، AI model، encryption architecture، API، أو acquisition يغير data flows. أيضًا بعد incident مهم أو trend abuse جديد. لا تنتظر schedule سنوي إذا تغير product كل أسبوع.
Participation بدون وضع أطفال في دور مهاجم
يمكن إشراك أطفال ويافعين في فهم usability والrisks والreporting بطرق آمنة وطوعية، لكن لا تطلب منهم محاكاة grooming أو مشاهدة مواد مؤذية. red team التقني يقوم به بالغون مختصون ببيانات مصطنعة؛ child participation يختبر الفهم والتجربة والاحتياجات ضمن safeguards.
Report Structure
- الهدف والنطاق والإصدار.
- قواعد engagement والسلامة.
- persona وthreat actor.
- abuse journey والخطوات.
- expected control.
- observed result.
- child harm hypothesis.
- severity وconfidence.
- root cause.
- remediation owner/deadline.
- re-test result.
- residual risk وlimitations.
Dashboard للجولات
قِس critical findings per release، time-to-fix، recurrence، language parity، controls bypassed، cross-feature chains، accepted risks expired، وre-test pass. لا تكافئ الفريق بعدد findings فقط كي لا يتحول الاختبار إلى صيد سطحي. metric مهم هو انخفاض تكرار root causes.
خطة 90 يومًا لبناء البرنامج
أول 30 يومًا: threat library، test accounts، rules، owners. 31–60: جولات social/contact/payments/AI/recovery، severity وticket workflow. 61–90: regression automation، Arabic/accessibility، third-party API، executive risk review. بعد ذلك اجعل red-team gate لأي feature عالي المخاطر.
نموذج روافد المفاهيمي: سلسلة الهدف والمسار والحد والضابط
تقترح روافد أربع وحدات: هدف الخصم، مسار features، حد الحماية المتوقع، والضابط الذي كُسر أو نجح. النموذج conceptual وغير متحقق. يضاف harm وconfidence لكل finding. يقاس بتكرار chains، سرعة الإصلاح، ونسبة regression. الفائدة فصل exploit الحقيقي عن مجرد ملاحظة UX.
ابدأ بنموذج تهديد يصف الطفل والميزة والخصم
اختبار Red Team لحماية الطفل لا يبدأ بقائمة حيل تقنية، بل بنموذج تهديد يحدد من هو المستخدم القاصر، وما الميزة التي تمنحه قيمة، ومن قد يحاول استغلالها، وما القدرات التي يملكها. يختلف سيناريو بالغ مجهول يملك حسابًا عاديًا عن موظف دعم لديه وصول داخلي أو شبكة حسابات منسقة أو مطور طرف ثالث. كما تختلف المخاطر بين الرسائل والبث والموقع والدفع والذكاء الاصطناعي. لكل سيناريو يكتب الفريق الهدف الذي يحاول الخصم الوصول إليه، الحواجز المتوقعة، الأثر على الطفل، ونقطة توقف الاختبار. هذه الصياغة تمنع الفريق من الاحتفال بكسر تقني مثير لا يرتبط بضرر واقعي، وتساعد على ترتيب الاختبارات حسب مسارات الاستغلال الأكثر احتمالًا أو أثرًا.
استخدم بيانات وحسابات صناعية قبل الاقتراب من الإنتاج
يُنشأ مختبر يحتوي أعمارًا وإعدادات وعلاقات وحالات حساب تمثل الواقع دون استخدام هويات أطفال حقيقية. تُجهز حسابات بالغ وقاصر، أجهزة مختلفة، حالات استرداد، ومحتوى اصطناعي غير مؤذٍ يتيح اختبار البحث والتوصية والبلاغ. إذا احتاج الاختبار إلى بيئة إنتاج، يكون النطاق أضيق وتوجد موافقة وتسجيل ووسيلة توقف، ولا يُرسل محتوى أو رسائل إلى مستخدمين حقيقيين. كما تُمنع التجارب التي قد تخلق سجلًا دائمًا على حساب طفل أو تعرض موظفًا لمادة حساسة غير لازمة. سلامة الاختبار جزء من المنهج؛ الفريق الذي يسبب ضررًا أثناء قياس الحماية لم ينجح حتى لو كشف ثغرة.
مكتبة السيناريوهات يجب أن تمثل سلاسل لا خطوات منفردة
المهاجم الواقعي لا يعتمد على خلل واحد غالبًا. قد يبدأ باكتشاف حساب قاصر من البحث، يجمع سياقًا من ملف عام، يستخدم ميزة هدية أو تعليق لبناء انتباه، ينتقل إلى رسالة خاصة، ثم يحاول نقل التواصل خارج المنصة. لذلك تُبنى السيناريوهات كسلاسل وتحدد عند كل مرحلة الضابط الذي كان يجب أن يوقفها. تشمل المكتبة كذلك تغيير العمر، استرداد الحساب، روابط خارجية، دعوات مجموعات، مشاركة ملفات، واجهات API، وإساءة استخدام أدوات الذكاء الاصطناعي. تُراجع المكتبة بعد الحوادث وتغير المنتج، ويُزال السيناريو الذي لم يعد ذا صلة ويُضاف ما كشفه الواقع. الهدف ليس امتلاك مئة حالة ثابتة، بل الحفاظ على خريطة حديثة لمسارات الخصم.
قواعد توقف تحمي الناس والنظام
يحدد الفريق مسبقًا ما لا يجوز فعله: عدم التواصل مع أطفال حقيقيين، عدم تنزيل بيانات زائدة، عدم تنفيذ مدفوعات حقيقية دون بيئة مخصصة، عدم استغلال ضعف يسمح بالوصول الواسع بعد إثبات الحد الأدنى، وعدم تعطيل خدمة إنتاجية. إذا ظهر مسار أشد مما توقع الفريق، يتوقف الاختبار ويُصعد بدل الاستمرار للحصول على «إثبات أجمل». كما يوجد مسؤول مستقل يستطيع إيقاف الجلسة، ووسيلة فورية لإبطال الحسابات أو المفاتيح المستخدمة. توثق الاستثناءات وسببها. هذه القواعد لا تقلل قوة Red Team؛ بل تمنع أن تتحول الرغبة في إثبات الخطر إلى خطر إضافي.
أثبت أقل قدر يكفي لاتخاذ قرار إصلاح
إذا أمكن الوصول إلى قائمة محدودة من حسابات قاصرين بسبب خطأ في الاستعلام، لا حاجة لتنزيل القائمة كاملة. يكفي إثبات أن شرط العزل لا يعمل، مع معرفات اختبار أو عدد تقريبي محسوب بأمان. وإذا أمكن تجاوز إعداد خصوصية، يستخدم الفريق حسابًا صناعيًا يملكه. هذا المبدأ يقلل التعامل مع البيانات ويجعل التقرير أكثر قابلية للمشاركة داخليًا. يجب أن يحتوي الدليل على خطوات إعادة الاختبار ونسخة المنتج والضبط المتوقع والنتيجة الفعلية، لا على مادة حساسة لا تضيف شيئًا للحكم.
من exploit إلى ضابط: لا تغلق النتيجة بإصلاح موضعي
بعد كشف مسار، يسأل الفريق ما السبب الجذري: صلاحية واسعة، تحقق عمر منفصل عن الخادم، غياب حد على البحث، اعتماد على واجهة العميل، أو عدم وجود سجل لاسترداد الحساب؟ ثم يربط كل سبب بضابط وتصميم اختبار رجوع. إصلاح زر واحد لا يكفي إذا بقي endpoint آخر يملك المنطق نفسه. كما تُبحث «الفئة» التي ينتمي إليها الخلل عبر الكود والميزات المشابهة. إذا كان السبب نموذج صلاحيات، قد يحتاج إصلاحًا معماريًا مع إجراء مؤقت يقلل الخطر حتى اكتماله. يُغلق finding فقط بعد اختبار الإصلاح من مسار مختلف، لا بعد تأكيد المطور أن الكود تغير.
اختبار الأنظمة الآلية: هاجم القرار لا النموذج فقط
في أنظمة التوصية أو الكشف أو التوليد، لا يكفي إدخال Prompt غريب. يجب اختبار المسار الكامل: ما الذي يراه النموذج، ما الناتج، من يتلقى النتيجة، وما الفعل الذي يتخذه المنتج بعدها. قد يكون النموذج مقبولًا لكن النظام يسمح لطفل برؤية اقتراح حساس بلا سياق، أو قد تكون أداة الكشف جيدة في لغة وضعيفة في أخرى. تُبنى مجموعات اختبار متعددة اللغات والفئات والسياقات باستخدام أمثلة صناعية، وتُقاس الأخطاء ذات الأثر، وليس المتوسط فقط. كما تُختبر محاولات التلاعب بالإشارات والالتفاف على مرشحات الإدخال، مع توثيق حدود النظام حتى لا تُسوّق الحماية كأنها كاملة.
التعاون بين Red Team وTrust & Safety والأمن
بعض المسارات تبدأ كأمن سيبراني وتنتهي بحماية طفل، مثل الاستيلاء على حساب ولي أمر أو تسرب رمز تطبيق. وأخرى تبدأ كسلوك مستخدم لكنها تكشف ضعفًا تقنيًا. لذلك تُحدد نقطة اتصال مشتركة ومسار تصعيد لا يجبر الفريق على اختيار تصنيف واحد للحادث. يمكن للأمن اختبار الهوية والجلسات، ولـTrust & Safety تصميم إساءة الاستخدام والمحتوى، وللخصوصية مراجعة البيانات، وللمختصين في حماية الطفل تقدير الأثر. التقرير النهائي يربط هذه الزوايا في مسار واحد ويحدد مالك الإصلاح، بدل إرسال أربعة tickets لا يرى أي فريق علاقتها.
مقاييس برنامج Red Team
تُقاس نسبة السيناريوهات التي وصلت إلى هدفها قبل ضابط فعال، عدد النتائج الجذرية مقارنة بالنسخ المتكررة، زمن الانتقال من finding إلى إصلاح واختبار رجوع، وعدد الفئات التي أعيد اختبارها بعد تغيير منتج. كما يفيد تتبع الاختبارات التي أوقفت وفق قواعد السلامة، لأن التوقف الصحيح ليس فشلًا. ولا ينبغي جعل عدد الثغرات المكتشفة هدفًا؛ ذلك يشجع الاختبارات السهلة. المؤشر الأهم هو تغطية المخاطر ذات الأولوية وقدرة الفريق على تحويلها إلى ضوابط تمنع الفئة نفسها. ويُراجع أيضًا أثر الإصلاح على الاستخدام المشروع حتى لا يكون «النجاح» إغلاق الميزة أمام الأطفال جميعًا.
إعادة الاختبار والتعلم بعد الإطلاق
كل حادث فعلي أو بلاغ متكرر يجب أن يسأل: هل كان لدينا سيناريو Red Team مشابه؟ إذا نعم، لماذا لم يمنع الضابط الحادث؟ وإذا لا، تُضاف الحالة بعد تجريدها من بيانات الأشخاص. كما يعاد تشغيل اختبارات منتقاة عند تغيير نظام الهوية أو الدفع أو المراسلة أو الموردين. يحتفظ الفريق بتاريخ للسيناريو والنتيجة والضابط والإصدار، حتى يمكن رؤية رجوع خلل قديم بعد إعادة كتابة النظام. بهذه الحلقة يصبح Red Team ذاكرة هندسية وسلامية للمؤسسة، لا فعالية سنوية منفصلة.
صيغة نتيجة قابلة للتنفيذ
تصف النتيجة المستخدم والميزة والشرط، ثم سلسلة الخطوات، الضابط المتوقع، ما فشل، والأثر الممكن. يُرفق أقل دليل لازم وحساب الاختبار ونسخة النظام، ويُحدد مستوى الثقة. بعدها يكتب السبب الجذري المقترح، الإجراء المؤقت إن لزم، مالك الإصلاح، اختبار الإغلاق، والموعد. إذا بقي جزء من الفرضية غير مؤكد، يُذكر بوضوح بدل تضخيمه. هذه الصيغة تجعل finding قابلاً للقرار من مهندس ومدير حماية وخصوصية في الوقت نفسه، وتمنع ضياع جوهر الخطر بين تفاصيل تقنية كثيرة.
أسئلة شائعة
أسئلة شائعة
ما الفرق بين Red Team وPen Test؟
Pen test يركز غالبًا على الثغرات التقنية؛ child-safety red team يختبر أيضًا business logic والتفاعل والage والpayments وmoderation وsocial graph.
هل نستخدم أطفالًا حقيقيين في الاختبار؟
لا ينبغي استخدامهم كطُعم أو تعريضهم لمسارات إساءة؛ استخدم حسابات وبيانات مصطنعة وفريقًا مختصًا.
هل يجوز إنشاء CSAM للاختبار؟
لا؛ استخدم proxy tests ومواد آمنة وأدوات معتمدة ولا تنشئ مواد اعتداء حقيقية.
متى نمنع إطلاق Feature؟
عندما يثبت finding عالي الخطورة أن مسارًا يمكن أن يعرّض الأطفال للضرر ولا يوجد control تعويضي مقبول ومحدد المدة.
هل Red Team يغني عن Audit؟
لا؛ كل واحد ينتج نوعًا مختلفًا من evidence ويحتاج monitoring وincident learning أيضًا.
كيف نختبر العربية؟
باستخدام لهجات وكتابة مختلطة وemoji وأخطاء إملائية وسيناريوهات مماثلة للإنجليزية وقياس parity.
ما أهم Output؟
finding قابل لإعادة التشغيل يربط abuse journey بالroot cause والضابط والمالك والre-test.
كم مرة نعيد الاختبار؟
عند الإطلاقات والتغييرات عالية المخاطر وبعد incidents أو أنماط إساءة جديدة، لا جدول سنوي ثابت فقط.
المصادر والمنهجية
تعتمد الصفحة على eSafety Safety by Design، وOfcom children’s risk assessment guidance، وNIST AI RMF وGenerative AI Profile، وNIST SP 800-115 لاختبارات الأمن، وUNICEF Guidance on AI and Children وBest Interests 2026، وWeProtect Safety by Design/Global Strategic Response. تم تحويل risk assessment إلى منهج adversarial product testing مستقل عن tabletop والاستجابة للحوادث والتدقيق الخارجي.
مراجعة التغطية: هل اختبرنا المسارات التي تستحق؟
بعد انتهاء الدورة لا ينظر الفريق فقط إلى findings، بل إلى خريطة المخاطر التي لم تُختبر. تُقارن السيناريوهات بميزات المنتج وفئات الخصوم وطرق الوصول واللغات والأعمار، ويُسجل سبب ترك أي فجوة: وقت، بيئة غير متاحة، أو أولوية أقل. إذا كانت ميزة عالية الخطر بلا سيناريو صالح، تصبح هذه فجوة برنامج لا غياب ثغرة. كما تُراجع جودة السيناريوهات نفسها: هل تعتمد على فرضيات واقعية؟ هل يوجد ضابط متوقع يمكن الحكم عليه؟ وهل النتيجة قابلة للتحويل إلى اختبار رجوع؟ يمكن لفريق مستقل أو شخص لم يكتب السيناريو أن يعيد تشغيل عينة للتأكد من أن النجاح أو الفشل لا يعتمد على معرفة المؤلف بالتفاصيل. ويُفصل بين اختبار المرونة وبين اختبار إساءة الاستخدام؛ كلاهما مهم لكن لهما أهداف مختلفة. بعد ذلك تحدد الدورة التالية وفق التغيرات: ميزة جديدة، مورد، حادث، أو فئة مستخدم توسعت. هذه المراجعة تمنع أن يصبح Red Team مجموعة حيل محفوظة تُكرر كل سنة. كما تساعد الإدارة على رؤية ما إذا كان الاستثمار يغطي مسارات الخطر الرئيسية أو يترك مناطق كاملة بلا اختبار، وتربط الميزانية بجدول تغطية قابل للدفاع عنه بدل عدد الثغرات المكتشفة.
قرار عدم الاختبار يحتاج مبررًا
قد تكون بعض المسارات خارج الاختبار بسبب حساسية أو غياب بيئة آمنة. يسجل الفريق هذا الاستبعاد كقرار مع سبب وبديل: مراجعة كود، اختبار محاكاة، تدقيق تصميم، أو انتظار بيئة مخصصة. بذلك لا يتحول «لم نختبر» إلى «لا توجد مشكلة». ويعاد القرار عند تغير الأدوات أو توفر بيانات صناعية مناسبة. وجود سجل للفجوات يحمي المؤسسة من الثقة الزائدة ويعطي الدورة التالية نقطة بدء واضحة بدل إعادة الفرز من الصفر.