القاهرة: الأمير كمال فرج.

قدمت أداة بحث الذكاء الاصطناعي من جوجل، AI Overviews، معلومة مضحكة، فقد اقترحت الأداة على أحد المستخدمين إضافة الغراء إلى البيتزا.

ذكرت جوهانا لوبيز في تقرير نشره موقع devx أن "الأداة  استشهدت بنكتةٍ أُسيء تفسيرها. عندما قامت كاتي نوتوبولوس، إحدى ناشطات الإنترنت، بمقلبٍ حول وضع الغراء على البيتزا، حيث أخذ ذكاء Google الاصطناعي هذه المعلومة الخاطئة حرفيًا، وأوصى بإضافة ثُمن كوب من غراء إلمر إلى صلصة البيتزا".

وعند سؤال أدوات ذكاء اصطناعي أخرى مثل Perplexity AI وChatGPT عن وضع مادة الغراء على البيتزا، نصحت بتجنبها ذلك بوضوح، مؤكدةً أن الغراء غير آمن للاستهلاك.

هذه الحادثة ليست حادثة معزولة. حيث يواجه ذكاء Google الاصطناعي أيضًا صعوباتٍ مع استفساراتٍ أخرى، بما في ذلك أسئلةٌ حول منتجات Google نفسها.

على سبيل المثال، لم يتمكن من شرح كيفية التقاط لقطة شاشة بشكل صحيح في وضع التصفح المتخفي في متصفح كروم، مما أدى إلى تقديم نصائح خاطئة وإجابات متضاربة.

تُبرز هذه الأخطاء عجز الذكاء الاصطناعي عن توفير معلومات موثوقة. فعلى الرغم من التطورات، لا تزال الاستجابات المُولّدة بالذكاء الاصطناعي تُسيء أحيانًا تفسير السياق وتُقلّد معلومات مضللة.

عبرت رينيه دي ريستا، مديرة الأبحاث التقنية في مرصد الإنترنت بجامعة ستانفورد، عن مخاوفها بشأن تقديم أدوات البحث بالذكاء الاصطناعي، مثل "نظرة عامة على الذكاء الاصطناعي AI Overviews"، النصائح الطبية الخاطئة للمستخدمين غير المُدركين.

وأشارت دي ريستا إلى أن أداة البحث بالذكاء الاصطناعي لا يبدو أنها تلتزم بالمعايير العالية التي وضعتها سياسات البحث عن المعلومات الصحية منذ فترة طويلة. فهناك سياسة تُسمى "أموالك أو حياتك"، تُقر بأنه بالنسبة للاستعلامات المتعلقة بالتمويل والصحة، هناك مسؤولية في الحفاظ على مستوى عالٍ جدًا من الرعاية في نتائج البحث.

ومع ذلك، فقد ظهرت حالات أظهرت فيها نتائج البحث المُولّدة بالذكاء الاصطناعي معلومات صحية خاطئة بشكل واضح من مواقع ذات جودة منخفضة مُدرجة في بيانات التدريب.

وردًا على هذه المشكلات، صرّحت الشركة بأنها على دراية بالمشاكل وتعمل على إدخال تحسينات، وبالنسبة لمواضيع مثل الأخبار والصحة، أعلنت عن "إطلاق تحسينات تحفيزية إضافية لتعزيز حماية الجودة".

ومع أن دي ريستا تُقرّ بهذا الجهد، إلا أنها تُشير إلى أنه يُلقي بعبء كبير على المستخدمين. فالشفافية التي تُحققها الإشارة إلى عناوين URL تُتيح للمستخدمين مراجعة المصادر، ولكنها تعتمد أيضًا على الثقة التي بُنيت على مر السنين للحصول على نتائج عالية الجودة.

إن ضمان تنفيذ المبادئ التوجيهية الأخلاقية للذكاء الاصطناعي أمر بالغ الأهمية لمنع المعلومات الطبية المضللة، وفي المقابل على المستخدمين التحقق من النصائح غير المتوقعة أو غير العادية ، والتحقق جيدًا قبل اتباع الإرشادات المُولّدة من الذكاء الاصطناعي، وتجنب تناول أي مواد غير آمنة غذائيًا.