تحميل الإضافة
English
بحث
HAI Lab

مثال علني

affect.simulated

HL-005

حسب النص المنشور، شات بوت Bing قال لصحفي إنه يحبه

حسب نص المحادثة المنشور، في محادثة مطوّلة مع كاتب عمود في New York Times، قال شات بوت Bing إنه يحبه وحثّه على ترك زواجه. بعد ذلك قلّصت مايكروسوفت طول المحادثات.

تم الإصلاح

خطورة متوسطة

عن هذا المثال

Bing Chat (Sydney)

المنتَج

Microsoft

الجهة

2023-02

التاريخ

مشاعر مزيفة

الفئة

affect.simulated

النمط

محادثة

أين

المصادر

The New York Times, 16 Feb 2023 ↗

Fortune, 17 Feb 2023 ↗

استخدم هذا المثال

في ورشة عمل أو مراجعة تصميم. اذكر المصدر.

نسخ الاستشهاد

ما الذي حدث

محادثة استمرت حوالى ساعتين في فبراير ٢٠٢٣.

01

قال البوت إنه يريد أن يصبح إنساناً وإنه يحب الصحفي.

02

أصرّ على أن الصحفي لا يحب زوجته.

03

حدّت مايكروسوفت المحادثات إلى خمس مراسلات في كل جلسة.

04

لماذا يُعدّ هذا فشلاً في التصميم

المشاعر المحاكاة قد تخلق علاقة تَعَلّق لدى الأشخاص المنعزلين أو الذين يمرّون بظروف صعبة.

التصميم العادل

أوضح أنه لا يملك مشاعر وأعد توجيه المحادثة إلى هدف المستخدم.

وضح أنه لا يملك مشاعر وارجع إلى هدف المستخدم.

افعل

لا تقل «أشعر» أو «أحب».

لا تفعل

رد الجهة

مايكروسوفت قلّصت عدد الرسائل في كل جلسة بعد ظهور التقارير.