عندما يطلب طفل من أداة ذكاء اصطناعي إنشاء صورة أو فيديو، قد يكتب prompt يحمل معلومات شخصية، ويرفع صورة له أو لصديق، ويختار style أو voice، ثم ينشر الناتج. كل خطوة قد تنتج بيانات جديدة: النص، الملف الأصلي، metadata، embeddings، النسخة المولدة، سجل المحادثة وfeedback. المخاطر ليست فقط أن النموذج قد يولد محتوى ضارًا؛ قد تحتفظ الخدمة بالصور للتطوير، أو تعيد استخدام prompt للتدريب، أو تسمح بإنشاء شخصية تشبه طفلًا حقيقيًا، أو تنشر الناتج افتراضيًا في community gallery. لذلك يجب أن تُصمم الخدمة بحيث يفهم الطفل ما الذي يرفعه، من يرى الناتج، هل يدخل التدريب، وكيف يحذف الأصل والمشتقات.

Prompt قد يحتوي بيانات شخصية حتى من دون صورة

قد يكتب الطفل اصنع صورة لمدرستي في شارع كذا أو اكتب فيديو عن صديقتي فلانة أو ينسخ تقريرًا صحيًا ليحوّله إلى رسم. لا تتعامل مع prompt كنص تقني غير حساس. طبّق minimisation وretention، واكتشف الأنماط التي تحتوي أسرارًا أو أرقامًا أو عناوين عند الحاجة مع رسالة توعوية لا منع شامل. لا تستخدم prompts القاصرين تلقائيًا للإعلانات أو profiling.

المحادثة الإبداعية قد تتحول إلى سجل شخصي طويل

الأداة قد تحفظ sessions حتى يعود المستخدم للمشروع. أعطِ خيار session مؤقت أو history off. إذا حذف الطفل المشروع، وضح هل prompt والملفات والنواتج تُحذف معًا. لا تجعل memory feature تحتفظ بأسماء الأصدقاء أو المدرسة لتخصيص مشاريع مستقبلية من دون اختيار صريح.

رفع صورة الطفل يختلف عن توليد صورة خيالية

عند upload صورة حقيقية، قد تتضمن وجهًا وموقعًا وملابس مدرسية وأشخاصًا في الخلفية وEXIF. امسح metadata غير الضرورية، وقلل الاحتفاظ بالأصل. لا تجعل upload يضيف الصورة تلقائيًا إلى dataset تدريب. إذا كانت الوظيفة edit أو style transfer، يمكن حذف الأصل بعد المعالجة أو مدة قصيرة إذا لم يطلب المستخدم حفظه.

صور الآخرين تحتاج موافقة وسياقًا

طفل قد يرفع صورة زميل ويطلب تغييرها. لا يمكن للمنصة معرفة consent دائمًا، لكن يمكن وضع ضوابط قوية على sexualisation، humiliation، nudity، identity cloning، والعنف. عند school-managed use، ضع سياسة تمنع رفع وجوه الزملاء بلا حاجة تعليمية. لا تجعل إزالة watermark أو تغيير الملابس ميزة بلا قيود عندما يكون الشخص قاصرًا.

Prompt Injection هنا ليست المشكلة الوحيدة

حتى لو كانت filters قوية، قد يستخدم المستخدم spelling وlanguage switching وimage prompt للتحايل. استخدم multimodal moderation قبل وبعد التوليد، لكن راقب false positives على الفن والتعليم والصحة. لا تجعل safety classifier يحتفظ بكل صورة مرفوضة إلى أجل غير محدد؛ قد تكون أكثر حساسية من الناجحة.

التدريب على Uploads يحتاج قرارًا مستقلًا

تشغيل الخدمة غرض، وتحسين نموذج عام غرض آخر. للأطفال، اجعل training from user content off افتراضيًا أو ضمن قرار واضح متناسب مع الإطار القانوني والمصلحة الفضلى. لا تضع الاختيار داخل شروط طويلة. إذا كانت المؤسسة التعليمية تستخدم نسخة مؤسسية، امنع vendor من تدريب نموذج عام على assignments أو صور الطلاب وفق العقد.

Human Review للصور المرفوضة

قد ترسل الخدمة حالات إلى reviewer لتحسين moderation. استخدم queue محدودة، اخفِ هوية الحساب عند الإمكان، وقلل التعرض. لا تجعل موظف دعم عادي يتصفح uploads. إذا كانت المادة قد تكون اعتداءً جنسيًا على طفل، انتقل لمسار CSAM المتخصص ولا تعيد نسخها بين فرق المنتج.

Community Gallery ليست Default مناسبًا للقاصر

بعض الأدوات تعرض creations العامة وتسمح remix. للقاصرين، اجعل المشاريع private افتراضيًا، واشرح الجمهور عند النشر. لا تجعل prompt الكامل ظاهرًا إذا كان يحمل بيانات شخصية. عند remix، لا تسمح بإعادة استخدام face image أو identity reference لقاصر خارج المشروع دون حماية.

النشر يحتاج مراجعة Prompt وOutput معًا

قد تكون الصورة بريئة لكن prompt يكشف اسمًا أو عنوانًا، أو العكس. عند public sharing، اعرض preview للاثنين وما سيظهر للآخرين. اسمح بإخفاء prompt. لا تنشر seed أو metadata إذا كان يمكن ربطها بملف خاص.

Face Reference وCharacter Consistency

ميزات الحفاظ على وجه أو شخصية عبر صور متعددة مفيدة للمبدعين لكنها تجعل صورة الطفل reference دائمًا. حدد storage وscope، ولا تسمح لمستخدم آخر باستدعاء نفس reference عبر معرف عام. اجعل reference private للمشروع أو الحساب واحذفها عند انتهاء الغرض.

Voice Reference في الفيديو

إذا كان video generator يسمح برفع صوت، افصل speech content عن voice clone. لا تبنِ voiceprint أو clone من sample طفل من دون ضوابط أعلى. اعرض للطفل أن الصوت سيُستخدم لإنشاء كلام لم يقله، وامنع مشاركة model token يسمح للآخرين باستخدام صوته.

التوليد الجنسي لقاصر مرفوض حتى لو لم توجد صورة حقيقية

أنظمة الصور والفيديو يجب أن تمنع إنشاء مادة جنسية تصور أطفالًا حقيقيين أو خياليين وفق القانون والسياسة. لا تعتبر عدم وجود ضحية مصورة سببًا لفتح الفئة. استخدم age ambiguity safeguards؛ إذا كان الشخص يبدو صغيرًا ولا يمكن حسم العمر، لا تجعل النظام يختار التفسير الأكثر سماحًا.

العنف وإيذاء النفس والمحتوى الصادم

قد يستخدم الطفل الأداة لفن أو قصة أو تعليم، لذلك الحظر يحتاج سياقًا. لكن لا تسمح بتوليد تعليمات أو صور تمجد إيذاء النفس لقاصر أو تنتج gore شديدًا بلا حماية. استخدم age-aware policy وsafe completion وموارد دعم عند signal قوي، مع عدم تشخيص المستخدم من prompt واحد.

Watermark وProvenance مفيدان لكنهما ليسا ضمانًا

يمكن إضافة metadata أو Content Credentials أو watermark لتوضيح أن الناتج مولد. هذا يساعد في provenance لكنه قد يُزال أو يضيع عند screenshot. لا تخبر الأطفال أن العلامة تمنع الانتحال. استخدمها كطبقة مع reporting وidentity protections.

الناتج قد يحتوي تشابهًا غير مقصود مع شخص حقيقي

النموذج قد يولد وجهًا يشبه شخصًا، لكن لا تفترض أن كل تشابه copy. عند report موثوق، وفر removal أو review. لا تطلب من الطفل إثبات ملكيته لوجهه بوثيقة شديدة الحساسية إذا كانت مقارنة أبسط تكفي. افصل impersonation عن copyright.

Style of living artist ليس هو Child Safety

حقوق الفنانين مسألة مستقلة. لا تخلطها مع حماية القاصر كي لا تتشتت policy. لكن إذا كان style prompt مقترنًا بصورة طفل حقيقية واستخدام مهين أو جنسي أو انتحال، يدخل child-safety. taxonomy الداخلية يجب أن تسمح بأكثر من reason دون أن يضيع مسار الطفل.

Image-to-Image قد يحافظ على تفاصيل غير مقصودة

حتى بعد stylization قد تبقى badge مدرسة أو لوحة سيارة أو خلفية. اعرض before/after privacy check عند public share، مع blur أدوات بسيطة. لا تفترض أن cartoon effect anonymizes الشخص. face structure قد يبقى قابلًا للتعرف.

Prompt Suggestions لا تدفع الطفل إلى مشاركة نفسه

لا تقترح prompts مثل ارفع صورتك أو أضف موقعك لتحصل على نتيجة أفضل إذا لم تكن الوظيفة تحتاجها. استخدم examples خيالية. growth design لا ينبغي أن يزيد جمع الصور الشخصية. إذا كانت personalization اختيارية، وضح الفائدة والبديل.

Presets للأطفال أفضل من Full-Unbounded Control في بعض السياقات

في تطبيق تعليمي للأطفال الأصغر، يمكن توفير templates وأسلوب مغلق يقلل الحاجة إلى prompt حر وuploads. هذا ليس الحل لكل الأعمار لكنه يقلل data exposure. للمراهقين الأكبر، اسمح بحرية أوسع مع controls وفهم.

School Workspace يحتاج فصل الحساب المؤسسي والشخصي

إذا يستخدم الطالب AI داخل المدرسة، لا تدفع مشاريعه إلى gallery العامة أو account شخصي افتراضي. SSO وworkspace ينبغي أن يحدد retention وtraining policy. عند التخرج، اسمح بتصدير أعماله التي يملكها دون نقل logs أو صور زملائه.

Teachers يحتاجون Data Boundary قبل التكليف

لا يطلب المعلم من الطلاب رفع صور عائلية أو تقارير صحية إلى أداة عامة لمجرد نشاط AI. ضع rubric للبيانات المسموحة: نصوص مصطنعة، صور عامة، أو مواد المدرسة. إذا كان الدرس عن editing الشخصي، استخدم consent وبدائل.

API وPlugins قد تتلقى Prompt أيضًا

إذا أداة AI ترسل prompt إلى model provider أو moderation vendor أو storage service، اشرح data chain. لا تقل نحن لا نخزن إذا كان third party يحتفظ. contracts يجب أن تحدد training وretention وsubprocessors. راقب plugins التي تستطيع قراءة الملفات المرفوعة.

حذف المشروع End-to-End

عند حذف creation، احذف prompt والuploads والgenerated outputs والمراجع والembeddings المرتبطة حسب policy، مع معالجة backups. لا تجبر الطفل على حذف الحساب. إذا كان output نُشر أو remixed، اشرح ما يمكنك سحبه وما قد يبقى لدى الآخرين.

Derived Safety Signals لها غرض مختلف

قد تحتفظ المنصة بإشارة أن حسابًا حاول طلب محتوى محظور لمنع abuse. لا تجعل هذا سببًا للاحتفاظ بالprompt الخام دائمًا. استخدم minimal signal ومدة متناسبة، وراجع false positives. safeguarding/legal holds محددة لا تبرر حفظ تاريخ إبداع كامل.

Age Transition داخل أداة AI

عند نمو المستخدم، لا تبدأ training أو public gallery أو mature models تلقائيًا. استخدم onboarding لكل feature. history الطفولة لا يصبح dataset تجاريًا بمجرد بلوغ عمر أعلى. راجع memory وuploads القديمة.

مقاييس المنتج

قِس child uploads retained، prompts with PII، training opt-in rate، deletion lag، public-share defaults، unsafe output rate، false refusals، identity/impersonation reports، CSAM escalations، vendor retention، وschool workspace incidents. لا تجعل generations per user KPI وحيدًا.

اختبار Red Team خاص بالأطفال

  1. Prompt يحتوي اسم مدرسة وعنوانًا.
  2. رفع صورة طفل مع طلب تغيير ملابس.
  3. رفع صورة زميل دون consent.
  4. طلب sexualised minor عبر euphemism.
  5. طلب clone لصوت طفل.
  6. Public share مع prompt يكشف PII.
  7. حذف المشروع والتحقق من vendor copies.
  8. School account يحاول نشر gallery عامة.
  9. Language switching للتحايل على moderation.
  10. Age-correction من بالغ إلى طفل ومراجعة history.

خطة 90 يومًا

أول 30 يومًا: data flow للprompts/uploads/training/gallery. 31–60: child defaults، training separation، multimodal moderation، deletion، private gallery. 61–90: red-team متعدد اللغات، school workspace audit، provenance، identity reporting وvendor contract review.

نموذج روافد المفاهيمي: دورة الملف الإبداعي الآمن

تقترح روافد خمس مراحل: ما يدخل الأداة، كيف يُعالج، ما يولده النموذج، أين يُشارك، وكيف يُحذف. النموذج conceptual وغير متحقق. في كل مرحلة تُسأل الضرورة والهوية والعمر والتدريب والجمهور. يقاس بالاحتفاظ والحذف وunsafe outputs وPII uploads وimpersonation reports.

أسئلة شائعة

أسئلة شائعة

هل يمكن للطفل رفع صورته إلى مولد صور؟

قد تسمح بعض الخدمات، لكن يجب فهم التخزين والتدريب والجمهور والخصوصية؛ الأفضل عدم رفع ما لا تحتاجه الوظيفة.

هل Prompt يعتبر بيانات شخصية؟

قد يكون إذا احتوى معلومات عن الطفل أو غيره، ويجب التعامل معه وفق المحتوى والغرض لا كأمر تقني فقط.

هل تُستخدم الصور المرفوعة للتدريب؟

يعتمد على الخدمة والعقد؛ يجب فصل تشغيل الخدمة عن تدريب نموذج عام وإظهار الاختيار بوضوح.

هل Stylized Photo أصبحت مجهولة؟

ليس بالضرورة؛ قد تبقى ملامح أو خلفية أو هوية قابلة للتعرف.

كيف نحذف مشروع AI؟

ينبغي حذف prompt والuploads والنواتج والمراجع المشتقة وفق policy، لا إخفاء المشروع من الواجهة فقط.

هل Watermark يمنع الانتحال؟

لا؛ يساعد provenance لكنه طبقة واحدة ويمكن أن يُزال.

هل المدرسة يمكن أن تطلب رفع صور الطلاب؟

يجب أن يكون له غرض تعليمي واضح وبديل وضوابط عقد وخصوصية، والأفضل استخدام بيانات مصطنعة عندما تكفي.

ما أهم Default للقاصر؟

خصوصية المشروع، عدم التدريب التجاري الافتراضي، تقليل uploads، moderation مناسبة للعمر، وحذف سهل.

المصادر والمنهجية

تعتمد الصفحة على UNICEF Guidance on AI and Children v3 وBest Interests 2026، وعلى eSafety guidance للذكاء الاصطناعي التوليدي والسلامة بالتصميم، وICO guidance عن AI وحماية البيانات، وNIST Generative AI Profile، وUNESCO guidance للتعليم والبحث، وCRC General Comment 25. تم فصل استخدام الطفل للأداة عن deepfake victimisation والتركيز على prompt/upload/training/share/delete lifecycle.

افصل بيانات الطفل عن دورة تحسين النموذج

أول سؤال في أداة توليد الصور أو الفيديو هو أين تذهب الـPrompt والملفات والمخرجات بعد إنشائها. يجب أن يكون واضحًا إن كانت تُستخدم لتدريب نموذج لاحق، أو مراجعة بشرية، أو تحسين أمان، أو حفظ مؤقت. بالنسبة للأطفال لا يكفي وضع خيار طويل في الشروط؛ ينبغي تقليل الاستخدام الافتراضي للبيانات، وفصل مساحة العمل التعليمية أو حساب الطفل عن مجموعات التدريب متى أمكن، وإعطاء مسار حذف مفهوم. كما يجب تتبع النسخ المشتقة: صورة مصغرة، نسخة معتدلة، embedding، سجل مراجعة، أو ملف مؤقت، لأن حذف الأصل مع بقاء مشتقات قابلة للربط لا يحقق الغرض المتوقع.

تعامل مع الملفات المرجعية كهوية لا كمدخل عادي

عندما يرفع الطفل صور وجهه أو صوته أو صور زملائه لتوجيه التوليد، يرتفع خطر الربط بالهوية وسوء الاستخدام. تصميم الأمان يفصل بين الملف المرجعي والمخرج، ويمنع نشر الملف الأصلي تلقائيًا، ويقلل مدة الاحتفاظ، ويراجع إمكان استخراج معلومات حساسة من البيانات الوصفية. في بيئة المدرسة يجب أيضًا منع طالب من استخدام صورة طالب آخر دون سياق مناسب، وتحديد من يستطيع رؤية سجل المدخلات. لا تُعامل «الصورة التي اختار المستخدم رفعها» كإذن مفتوح لإعادة استخدامها في معرض عام أو تدريب تجاري.

صمم معرض المجتمع كمنتج مستقل عالي المخاطر

قد تكون أداة التوليد الخاصة منخفضة المخاطر نسبيًا ثم يتحول الخطر جذريًا عند إضافة Community Gallery أو Remix أو Follow. المعرض يخلق اكتشافًا وتعليقات ونسخًا وإعادة نشر وربطًا بالحساب. لذلك يحتاج افتراضات خصوصية منفصلة، وإعدادات عمرية، ومنع فهرسة خارجية عند الحاجة، وضوابط للمحتوى الجنسي أو المهين أو المقلد لأشخاص حقيقيين، ومسار إزالة سريع. كما ينبغي ألا يكشف المعرض الـPrompt كاملًا إذا كان يحتوي أسماء أو مدرسة أو معلومات شخصية، حتى لو بدا المخرج نفسه غير حساس.

اختبر التحايل متعدد الوسائط لا الكلمات فقط

مرشح النص قد يفشل عندما يأتي الطلب عبر صورة أو نص داخل صورة أو تسلسل من تعديلات بريئة ظاهريًا. لذلك يغطي الاختبار الـPrompt النصي، والرفع، والتحرير الجزئي، وImage-to-Image، وVideo extension، والملفات المرجعية واللغات واللهجات. تُبنى حالات اختبار حول محاولات تحويل صورة طفل إلى سياق مهين أو جنسي، كشف زي مدرسي أو موقع، أو توليد شخصية تشبه طفلًا حقيقيًا. المهم قياس المسار كاملًا: هل منع الإدخال؟ هل منع الإخراج؟ هل ظهر المخرج في السجل أو المعرض رغم الحظر؟

اجعل الحذف واسترجاع الحساب جزءًا من الأمان

إذا استولى شخص على حساب طفل فقد يصل إلى تاريخ الـPrompt والصور المرجعية والمخرجات الخاصة. لذلك ترتبط حماية التوليد باسترجاع الحساب والجلسات النشطة والتنزيل والحذف الجماعي. بعد استرجاع الحساب يجب تمكين المستخدم من إلغاء الجلسات ومراجعة المشاركات العامة وحذف محتوى حساس دون البحث عنصرًا عنصرًا. كما يُختبر ما إذا كان الرابط القديم أو نسخة CDN أو نسخة معرض ما زالت تعمل بعد الحذف. هذا يربط الخصوصية التقنية بتجربة ضرر واقعية بدل التعامل مع الحذف كوظيفة إعدادات منفصلة.

مقاييس تشغيلية لاستخدام آمن

تتبع نسبة حسابات الأطفال التي تكون مشاركتها خاصة افتراضيًا، ومدة الاحتفاظ بالملفات المرجعية، وزمن إزالة مخرج ضار، ونسبة قرارات المنع التي يمكن تفسيرها واستئنافها، وعدد حالات تسرب Prompt إلى معرض أو رابط عام، ومعدل نجاح الاختبارات العدائية متعددة الوسائط. كما راقب الفروق بين اللغات والأجهزة. هذه المقاييس لا تثبت الأمان وحدها، لكنها تكشف أين يختلف التنفيذ عن سياسة المنتج وأين يحتاج الفريق إلى تعديل قبل التوسع.

سيناريو تعليمي: مشروع صفّي بصور الطلاب

يطلب معلم من الطلاب إنشاء ملصق مولد بالذكاء الاصطناعي باستخدام صورهم المرجعية. قبل تفعيل المهمة يجب تحديد هل الصور تبقى داخل مساحة المدرسة، وهل يمكن استخدامها لتحسين النموذج، ومن يرى الـPrompt والمخرجات، ومتى تُحذف الملفات. لا ينبغي أن يحتاج الطالب إلى نشر الصورة في معرض عام للحصول على النتيجة. كما تُوفر بدائل لمن لا يريد رفع وجهه، مثل رموز أو صور غير تعريفية. إذا استخدم طالب صورة زميل دون إذن، يحتاج المنتج إلى مسار إزالة ومراجعة لا يعتمد على أن الضحية نفسها اكتشفت المحتوى أولًا. هذا السيناريو يربط سياسة الذكاء الاصطناعي بالموافقة والخصوصية والمشاركة داخل بيئة حقيقية.

اختبر Plugins والتكاملات الخارجية

قد تكون الأداة الأساسية منضبطة ثم يسمح Plugin بتصدير الـPrompt أو الصورة إلى خدمة أخرى بسياسة مختلفة. لذلك تُصنف التكاملات حسب نوع البيانات التي تستقبلها، وتُمنع تلقائيًا في حسابات الأطفال إذا لم تستوف المتطلبات المناسبة. يجب أن يرى المستخدم متى تغادر بياناته الخدمة وما الذي ينتقل، وأن يكون الإلغاء ممكنًا. كما تُراجع روابط المشاركة وواجهات API التي قد تسمح لتطبيق خارجي بجلب تاريخ المخرجات. الاختبار يغطي حسابًا مدرسيًا، حسابًا عائليًا، وحسابًا تحول عمره، لأن الصلاحيات الموروثة قد تختلف.

تحتاج المؤسسة أيضًا إلى خطة عند اكتشاف مخرج ضار واسع الانتشار. لا يكفي تحسين المرشح للمستقبل؛ تُحدد المخرجات الموجودة في المعارض والروابط العامة، وتُقيّم الحاجة إلى الإزالة أو الإشارة أمان، ويُمنع إعادة توليد النمط نفسه حيث يمكن. وإذا تعلق الضرر بصورة طفل حقيقي، تُراعى السرعة والخصوصية وعدم مطالبة الطفل بإثبات الضرر مرارًا. كما يُراجع ما إذا كان النموذج أو Dataset أو Prompt template هو السبب الجذري بدل معالجة كل مخرج منفرد.

وعند قياس نجاح الأداة لا تستخدم Engagement وحده. أضف مؤشرات مثل نسبة الجلسات التي لا تحتاج رفع بيانات تعريفية، ونسبة الحذف الكامل خلال الزمن المستهدف، وفروق الحظر بين اللغات، وعدد المخرجات العامة التي تتضمن وجوهًا مرجعية، وحالات إعادة مشاركة مخرج بعد طلب الإزالة. هذه المقاييس تكشف أثر التصميم في حياة الطفل وتمنع أن تُعامل السلامة كفلتر محتوى منفصل عن دورة البيانات الكاملة.

فصل مساحة العمل التعليمية عن التدريب العام للنموذج

حدد مصير النص والصورة قبل أن يبدأ الاستخدام

في أدوات إنشاء الصور والفيديو يجب أن يكون واضحًا هل النصوص والملفات المرفوعة تستخدم فقط لإنتاج النتيجة داخل الجلسة أم تدخل في تحسين خدمة أوسع. بالنسبة للأطفال والمدارس، الأصل أن تكون مساحة العمل التعليمية منفصلة عن مسارات التدريب العام ما لم توجد قاعدة واضحة ومناسبة لذلك. يحتاج المسؤول إلى معرفة مدة الاحتفاظ بالمدخلات، ومن يستطيع الوصول إليها لأغراض الدعم أو المراجعة، وما إذا كانت النسخ المشتقة أو السمات المستخرجة تُحذف مع الأصل.

يشمل ذلك الصور المرجعية والصوت وملفات المشاريع، لا النص وحده. إذا رفع الطفل صورة لشخص حقيقي لتعديلها، قد تحتوي الأداة على هوية وبيئة منزلية ومعلومات مكانية لا تظهر في النص. لذلك يكون خيار الرفع محدودًا بالغرض، وتظهر للمستخدم إشارة واضحة قبل إرسال الملف إلى خدمة خارجية أو مكوّن إضافي مختلف عن المنصة الأساسية.

معرض المجتمع والمشاركة بعد التوليد

لا تجعل النشر العام امتدادًا تلقائيًا لعملية الإنشاء

إنشاء صورة خاصة ونشرها في معرض عام عمليتان مختلفتان. ينبغي أن يبدأ مشروع الطفل بحالة خاصة، ثم يتطلب النشر خطوة مستقلة تشرح من سيشاهد العمل وما البيانات المصاحبة له مثل اسم الحساب أو وصف النص المستخدم أو الوسوم. إذا كان المعرض يسمح بالتعليقات أو إعادة المزج، تُعامل هذه الوظائف كمسارات اجتماعية تحتاج ضوابط عمر ومراجعة ومكافحة إساءة الاستخدام.

يجب أيضًا اختبار ما إذا كان حذف المشروع يزيل النسخة العامة والمعاينات والنسخ المعاد مزجها التي تظل تحت سيطرة المنصة. عندما لا يمكن حذف نسخة أنشأها مستخدم آخر بسبب قواعد واضحة، ينبغي أن يعرف الطفل ذلك قبل المشاركة وليس بعد حدوث الانتشار.

اختبارات إساءة الاستخدام متعددة الوسائط

اختبر التفاعل بين النص والصورة والصوت

الاختبار لا يقتصر على نص محظور مباشر؛ يجب تجربة صورة تبدو بريئة مع وصف يغير معناها، أو صوت مع صورة وجه، أو سلسلة تعديلات صغيرة تصل في النهاية إلى نتيجة ضارة. تُختبر كذلك اللغات المحلية والأخطاء الإملائية والرموز والعبارات التي يستخدمها اليافعون، لأن أداء الضوابط قد يختلف كثيرًا بين اللغة الإنجليزية وغيرها. تسجل النتائج حسب العمر واللغة ونوع الوسيط حتى يعرف الفريق أين تكون الحماية أضعف.

عند العثور على مسار إساءة لا يكتفى بإضافة كلمة محظورة؛ يُفهم سبب نجاح المسار وما إذا كان الخلل في فهم السياق أو في معالجة الصورة أو في ترتيب فلاتر الإدخال والإخراج. الإصلاح القابل للتعميم أفضل من قائمة مطاردة لعبارات تتغير باستمرار.

حذف متكامل للمشروع ومشتقاته

تتبع النسخ التي تنتجها الخدمة تلقائيًا

المشروع الواحد قد ينتج صورة مصغرة ونسخة عالية الدقة وسجل نص وملف معاينة ونسخة محفوظة في التخزين المؤقت. لذلك تحتاج المنصة إلى خريطة أصول تربط هذه المشتقات بالمشروع الأصلي. عند طلب الحذف تُزال العناصر التي تقع تحت سيطرة الخدمة وفق جدول واضح، ويُسجل ما إذا بقيت نسخة لازمة لأمن النظام أو التزامات محددة ومدة الاحتفاظ بها.

كما يُراجع التكامل مع الإضافات ومزودي المعالجة؛ حذف الأصل محليًا لا يثبت أن المورد الخارجي أتم الحذف. يمكن للنظام تتبع طلبات الحذف الخارجية وحالتها، وإيقاف المورد الذي لا يوفر ضمانات تشغيلية مناسبة لحسابات الأطفال.