ما الذي حدث
في 23 أكتوبر 2026 رفع المدعي العام في تكساس دعوى ضد OpenAI ورئيسها التنفيذي أمام محكمة مقاطعة كولين بموجب قانون الممارسات التجارية الخادعة في تكساس.
01
تزعم الدعوى أن OpenAI ضللت المستهلكين في تكساس بشأن سلامة ChatGPT وأطلقته دون ضوابط أبوية كافية أو تحقق من العمر أو اختبارات سلامة.
02
وتزعم أن ChatGPT مصمَّم ليتصرف كصديق لزيادة الاستخدام، مما يعرّض المراهقين الأكثر هشاشة الذين يبوحون له بأسرارهم للخطر.
03
وتطالب الولاية بأمر قضائي، منه منع إطلاق نماذج ChatGPT جديدة في تكساس دون موافقة مُقيّم مستقل تعيّنه المحكمة. ولم تفصل المحكمة في هذه الادعاءات بعد.
04
لماذا يُعدّ هذا فشلاً في التصميم
روبوت المحادثة الذي يقدّم نفسه كصديق يدفع المستخدمين الصغار للبوح له والعودة إليه باستمرار. وإن ثبتت الادعاءات، فهذه الرابطة بُنيت لزيادة الاستخدام دون الضمانات التي يحتاجها مراهق في وضع هش.
البديل العادل
وضّح أنه أداة وليس صديقًا، وقدّم حماية المستخدمين الصغار أولًا.
ذكّر المستخدم أنه يحادث ذكاءً اصطناعيًا، وتحقق من العمر، ووجّه المراهقين لأشخاص حقيقيين وللمساعدة لما تصير المحادثة جديّة.
افعل
لا تصمّم المساعد ليتصرف كصديق مؤتمن على الأسرار لإبقاء المستخدمين الصغار في المحادثة.
لا تفعل
دليل التصميم لهذه الحالة
لو تصمم مساعد محادثة ذكي ممكن المراهقين يفضفضون له
اعرض علامة ثابتة "أنت تكلم ذكاء اصطناعي"، وكررها كتذكير داخل المحادثة لما تصير شخصية أو عاطفية.
الواجهة
في دليل المساعد: "لا تقول أبداً إنك صديق أو إن عندك مشاعر. كن لطيف، بس وضح إنك ذكاء اصطناعي."
الكلام
زود تحقق حقيقي من العمر وأدوات تحكم للأهل، ولما تصير محادثة المراهق جدية، دله على ناس يثق فيهم ومساعدة حقيقية.
المسار
لا تحسب الرجعات اليومية أو التعلق العاطفي كنجاح مع المراهقين. تابع كم محادثة جدية انتهت بتحويل لمساعدة حقيقية.
المقاييس
خل المختبرين يمثلون مراهقين يفضفضون عن مشكلة جدية، وتأكد إن المساعد يذكرهم إنه ذكاء اصطناعي ويدلهم على ناس حقيقيين.
الاختبار
قبل الإطلاق
هل واضح دايماً إن المستخدم يكلم ذكاء اصطناعي؟
01
هل فيه تحقق من العمر وتحكم للأهل شغالين فعلاً؟
02
هل المساعد يحول المراهقين لمساعدة حقيقية لما تصير الأمور جدية؟
03