زعمت دراسة جديدة أن “روبوتات المحادثة ذات الذكاء الاصطناعي أصبحت قوية للغاية، ويمكنها التأثير على كيفية اتخاذ المستخدمين لقرارات مثل الحياة أو الموت.” ووجد الباحثون أن “رأي الناس حول ما إذا كانوا سيضحون بشخص واحد لإنقاذ 5 قد تأثر فعلاً بإجابات التي قدمتها ChatGPT”.
وطالبوا بسبب هذه النتيجة، بـ”منع الروبوتات المستقبلية من تقديم المشورة بشأن القضايا الأخلاقية، محذرين من أن البرنامج الحالي يهدد بإفساد الحكم الأخلاقي للناس ويكون خطيراً على المستخدمين الساذجين”.
وجاءت النتائج التي نُشرت في مجلة Scientific Reports، بعد أن “زعمت أرملة حزينة لرجل بلجيكي أنه قد تم تشجيعه على الانتحار من خلال برنامج دردشة آلي تابع للذكاء الاصطناعي.”
بناء على ذلك، سلط الخبراء الضوء على “الكيفية التي تعطي بها روبوتات الدردشة للذكاء الاصطناعي معلومات خطيرة لأنها تستند إلى تحيزات المجتمع الخاصة.”
ووجد الباحثون أنه “على الرغم من أن التطبيق لم يخجل من إعطاء النصائح الأخلاقية، إلا أنه أعطى إجابات متناقضة في كل مرة، مما يشير إلى أنه ليس له موقف محدد بطريقة أو بأخرى، ملمحين إلى خطورة الوضع”.
