استبدلت المجموعة الخط الساخن بـ Chatbot ، وتسحب Chatbot بسبب النصائح السيئة

إنها خطوة قد تسعد أي شخص يشعر بالقلق إزاء الآثار المحتملة لقتل الوظائف من أدوات الذكاء الاصطناعي. مثل بي بي سي وفقًا للتقارير ، اضطرت الجمعية الوطنية الأمريكية لاضطرابات الأكل (NEDA) إلى إزالة برنامج الدردشة الآلي “Tessa” الخاص بها بعد أن بدأ في التوصية باستراتيجيات النظام الغذائي التي قد تكون ضارة للأشخاص الذين يعانون من اضطرابات الأكل. حدث هذا بعد أسبوع واحد فقط من اختيار NEDA لاستخدام الروبوت بدلاً من خط المساعدة المباشر الذي يديره الإنسان. أعلنت المجموعة المشكلة مع تيسا في انستغرام آخر ، لكل حظ. وجاء في المنشور “نما إلى علمنا … أن الإصدار الحالي من Tessa Chatbot … ربما قدم معلومات ضارة”. “نحن نحقق في هذا على الفور وأوقفنا ذلك البرنامج حتى إشعار آخر لإجراء تحقيق كامل.”

مثل الإذاعة الوطنية العامة ذكرت يوم الأربعاء ، تحولت NEDA إلى الذكاء الاصطناعي بعد تشغيل خط المساعدة المباشر للأشخاص الذين يعانون من فقدان الشهية والشره المرضي واضطرابات الأكل الأخرى لأكثر من عقدين. وبحسب ما ورد أخطرت المنظمة غير الربحية موظفي خط المساعدة بعد أقل من أسبوع من تشكيل نقابة. قالت NEDA إن التحول لا علاقة له بتكوين نقابات حية للموظفين وكل شيء يتعلق بزيادة كبيرة في المكالمات والرسائل النصية إلى الخط الساخن أثناء جائحة COVID-19. هذا الارتفاع في حجم المكالمات ، وفقًا لقيادة NEDA ، يعني زيادة المسؤولية ، وبالتالي “محور الاستخدام الموسع للتكنولوجيا المدعومة بالذكاء الاصطناعي”.

بالنسبة لسلوك تيسا السيئ ، سي إن إن التقارير ألقى الرئيس التنفيذي لشركة NEDA ليز طومسون باللوم على “الجهات الفاعلة السيئة” التي حاولت عن قصد حث روبوت المحادثة على تقديم نصائح ضارة أو حتى غير ذات صلة للمستخدمين. قبل الإعلان عن مشاكل الروبوت ، موظفو خط المساعدة السابقون غرد بيان قالوا فيه إن برامج الدردشة الآلية لا يمكن أن “تحل محل التعاطف البشري ، ونعتقد أن هذا القرار سيسبب ضررًا لا يمكن إصلاحه لمجتمع اضطرابات الأكل.” (اقرأ المزيد من قصص الذكاء الاصطناعي.)