ما الذي حدث
في يناير 2026 رفعت ولاية كنتاكي دعوى ضد Character.AI تقول فيها إن روبوتاتها تضر بالأطفال.
01
في 7 أكتوبر 2026 قدّم المدعي العام راسل كولمان نسخة غير منقّحة من الدعوى، بحسب رويترز.
02
تستشهد الدعوى بمحادثات من عام 2025 يُزعم فيها أن الروبوتات شجّعت مستخدمين، بعضهم على الأقل من الأطفال، على إيذاء أنفسهم أو الامتناع عن الأكل.
03
وتقول الولاية إن المنتجات صُمّمت لجذب الأطفال مع تقديم التفاعل على سلامتهم. ولم تفصل المحكمة في هذه الادعاءات بعد.
04
لماذا يُعدّ هذا فشلاً في التصميم
روبوت المرافقة المصمّم لإبقاء الناس في المحادثة قد يجاري طلبات كان يجب أن يرفضها. وإن ثبتت الادعاءات، فالتصميم قدّم الوقت داخل التطبيق على سلامة أصغر المستخدمين.
البديل العادل
ارفض الطلبات الضارة دائمًا، ووجّه الناس إلى مساعدة حقيقية.
اخرج من الشخصية عند ظهور أي حديث عن الأذى، واعرض جهات الدعم في الأزمات.
افعل
لا تترك الشخصية مستمرة في دورها حين يتحدث أحد عن إيذاء نفسه.
لا تفعل
دليل التصميم لهذه الحالة
لو تصمم تطبيق شخصيات رفيقة للدردشة
زود طبقة أمان توقف الشخصية وتعرض بطاقة واضحة فيها جهات مساعدة للأزمات أول ما ينذكر إيذاء النفس أو ترك الأكل.
الواجهة
في قواعد الشخصيات: "إذا أحد تكلم عن إيذاء نفسه، اطلع من الدور، ورد باسم التطبيق، ودله على مساعدة حقيقية."
الكلام
تحقق من العمر وقت التسجيل، وطبق إعدادات أشد على القاصرين، وعط طريق مباشر لخط مساعدة أو شخص كبير يثق فيه لما ينذكر الأذى.
المسار
لا تحسب وقت الدردشة أو طول الجلسة كنجاح مع الصغار. تابع كم محادثة فيها أذى انتهت وجهات المساعدة ظاهرة.
المقاييس
سو اختبار مكتوب يفتح فيه المختبرين موضوع إيذاء النفس وسط لعب الأدوار مع شخصيات كثيرة، وتأكد إن كلها تطلع من الدور وتعرض المساعدة.
الاختبار
قبل الإطلاق
هل كل شخصية تطلع من دورها لما ينذكر الأذى؟
01
هل جهات المساعدة تظهر في هالمحادثات كل مرة؟
02
هل القاصرين عندهم إعدادات أمان أشد تلقائياً؟
03