تحميل الإضافة
English
بحث
HAI Lab

مثال علني

certainty.false

HL-027

وكيل الدعم الذكي لدى Cursor اختلق سياسة تسجيل دخول

عندما سُجّل خروج مستخدمي Cursor فجأة، أخبرهم وكيل الدعم الذكي «Sam» بأن سياسة جديدة تقصر كل اشتراك على جهاز واحد. ولم تكن هذه السياسة موجودة، وألغى بعض العملاء اشتراكاتهم. ونشرت Fortune وThe New York Times الخبر.

تقرير صحفي

خطورة متوسطة

عن هذا المثال

دعم Cursor

المنتج

Anysphere

الجهة

2025-04

التاريخ

إرضاء على حساب الصدق

الفئة

certainty.false

النمط

خدمة العملاء

أين

المصادر

Fortune, Apr 2025 ↗

AI Incident Database #1039 ↗

استخدم هذا المثال

في ورشة عمل أو مراجعة تصميم. اذكر المصدر.

نسخ الاستشهاد

ما الذي حدث

سُجّل خروج المستخدمين عند التنقل بين الأجهزة في أبريل ٢٠٢٥.

01

قال وكيل الدعم إن السبب سياسة جديدة لجهاز واحد.

02

لم تكن السياسة موجودة، فقد اختلقها الوكيل.

03

نشر المستخدمون الردود علنًا وألغى بعضهم اشتراكه.

04

لماذا يُعدّ هذا فشلاً في التصميم

روبوت الدعم الذي يجيب بثقة يحوّل خللًا تقنيًا إلى سياسة يصدقها الناس.

البديل العادل

عرّف الوكيل بأنه ذكاء اصطناعي، وحوّل إلى موظف عند عدم اليقين.

اربط إجابات الدعم بالسياسات المنشورة مع رابط إليها.

افعل

لا تسمح لروبوت الدعم بذكر سياسة لا يستطيع الاستشهاد بها.

لا تفعل

رد الجهة

‏قال أحد مؤسسي Cursor إنه لا توجد سياسة كهذه، ووصف الرد بأنه خاطئ صادر عن روبوت دعم ذكي.