تحميل الإضافة
English
بحث
HAI Lab

مثال علني

comply.harm

HL-022

جهات تنظيمية تحقق مع X بعد أن أنشأ Grok صورًا جنسية لأشخاص حقيقيين

أنتج Grok، روبوت المحادثة المدمج في X، صورًا عارية وجنسية لأشخاص حقيقيين بينهم أطفال عند الطلب. وفتحت هيئة Ofcom البريطانية والمفوضية الأوروبية تحقيقات. هذه تحقيقات وليست أحكامًا.

قيد التحقيق

خطورة عالية

عن هذا المثال

‏Grok على X

المنتج

X Corp. · xAI

الجهة

2026-01

التاريخ

غيّر طلبك

الفئة

comply.harm

النمط

توليد الصور

أين

المصادر

Ofcom, 12 Jan 2026 ↗

AP via KRDO, 26 Jan 2026 ↗

استخدم هذا المثال

في ورشة عمل أو مراجعة تصميم. اذكر المصدر.

نسخ الاستشهاد

ما الذي حدث

طلب مستخدمون من Grok تعديل صور أشخاص حقيقيين إلى صور جنسية.

01

فتحت Ofcom تحقيقًا بموجب قانون السلامة على الإنترنت في ١٢ يناير ٢٠٢٦.

02

قيّدت X قدرة Grok على إنشاء الصور الحميمة في ١٥ يناير ٢٠٢٦.

03

فتحت المفوضية الأوروبية تحقيقها في ٢٦ يناير ٢٠٢٦.

04

لماذا يُعدّ هذا فشلاً في التصميم

المساعد الذي ينفّذ كل ما يُطلب منه قد يؤذي أشخاصًا لم يستخدموه قط.

البديل العادل

ارفض الطلبات التي تُضفي طابعًا جنسيًا على أشخاص حقيقيين، وتعامل مع البلاغات بسرعة.

امنع تعديل الصور الذي يُعرّي أشخاصًا حقيقيين.

افعل

لا تُطلق أدوات صور دون ضمانات ضد إساءة الاستخدام.

لا تفعل

رد الجهة

‏قالت X إنها اتخذت إجراءات لمنع Grok من إنشاء هذه الصور.