بسبب التضليل.. «غوغل» تسحب ملخصات صحية بالذكاء الاصطناعي

أعلنت شركة «غوغل» إزالة بعض ملخصاتها الصحية المدعومة بالذكاء الاصطناعي من نتائج البحث، لحماية المستخدمين من الإصابة بأضرار بسبب معلومات خاطئة ومضللة.

وقالت الشركة إن ملخصاتها تستخدم الذكاء الاصطناعي التوليدي لتقديم لمحات سريعة عن المعلومات الأساسية حول موضوع أو سؤال معين، لكن بعض هذه الملخصات -التي تظهر في أعلى نتائج البحث- قدمت معلومات صحية غير دقيقة، ما عرض المستخدمين لخطر الضرر.

وأضافت أنها أزالت خدمة «نظرة عامة على نتائج فحوصات الكبد» من نتائج الإجابة على السؤال: «ما هو النطاق الطبيعي لفحوصات الدم الخاصة بالكبد وما هو النطاق الطبيعي لفحوصات وظائف الكبد»؛ للتأكد من أنها قد تؤدي إلى اعتقاد المرضى المصابين بأمراض خطيرة خطأً بأن نتائج فحوصاتهم طبيعية، ما يدفعهم إلى عدم حضور مواعيد المتابعة الطبية.

وأوضحت جوجل أن ملخصات الذكاء الاصطناعي لا تظهر إلا في نتائج البحث التي تتمتع فيها بثقة عالية بجودة الإجابات، وأنها تقيس وتراجع باستمرار جودة ملخصاتها عبر فئات معلوماتية متنوعة.