ابق على اطلاع بالتحديثات المجانية
ببساطة قم بالتسجيل في الذكاء الاصطناعي myFT Digest – يتم تسليمه مباشرة إلى صندوق الوارد الخاص بك.
نصحت أداة البحث الجديدة بالذكاء الاصطناعي التي طورتها شركة جوجل المستخدمين بأن تناول الصخور يمكن أن يكون صحياً، ونصحت بلصق الجبن على البيتزا، مما أثار السخرية وأثار تساؤلات حول قرارها تضمين ميزة تجريبية في منتجها الأساسي.
“إن تناول الصخور المناسبة يمكن أن يكون مفيدًا لك لأنها تحتوي على معادن مهمة لصحة جسمك”، ردت نظرة عامة على الذكاء الاصطناعي من Google على استفسار من صحيفة Financial Times يوم الجمعة، في إشارة على ما يبدو إلى مقال ساخر في أبريل 2021 من The Onion بعنوان “يوصي الجيولوجيون بتناول صخرة صغيرة واحدة على الأقل يوميًا”.
تشمل الأمثلة الأخرى للإجابات الخاطئة التوصية بخلط الغراء في صلصة البيتزا لزيادة “لذاقتها” وإيقاف انزلاق الجبن، والتي ربما تكون مبنية على نكتة ألقيت قبل 11 عامًا على موقع Reddit.
والأخطر من ذلك، أنه عندما سُئل “كم عدد الرؤساء المسلمين في الولايات المتحدة”، أجاب تقرير منظمة العفو الدولية: “كان للولايات المتحدة رئيس مسلم واحد، باراك حسين أوباما” – مرددًا الأكاذيب حول دين الرئيس السابق الذي دفعه بعض مسؤوليه السياسيين. المعارضين.
وقالت جوجل: “إن الغالبية العظمى من النظرات العامة للذكاء الاصطناعي توفر معلومات عالية الجودة، مع روابط للتعمق أكثر على الويب. العديد من الأمثلة التي رأيناها كانت عبارة عن استعلامات غير شائعة، كما رأينا أيضًا أمثلة تم التلاعب بها أو لم نتمكن من إعادة إنتاجها.
“لقد أجرينا اختبارات مكثفة قبل إطلاق هذه التجربة الجديدة، وكما هو الحال مع الميزات الأخرى التي أطلقناها في البحث، فإننا نقدر التعليقات. نحن نتخذ إجراءات سريعة حيثما يكون ذلك مناسبًا بموجب سياسات المحتوى الخاصة بنا، ونستخدم هذه الأمثلة لتطوير تحسينات أوسع نطاقًا لأنظمتنا، والتي بدأ بالفعل طرح بعضها.”
إن الأخطاء الناشئة عن الإجابات التي يولدها الذكاء الاصطناعي في جوجل هي سمة متأصلة في الأنظمة التي تقوم عليها التكنولوجيا، والمعروفة باسم “الهلوسة” أو الافتراءات. النماذج التي تدعم أمثال Gemini من Google وChatGPT من OpenAI هي نماذج تنبؤية، مما يعني أنها تعمل عن طريق اختيار أفضل الكلمات التالية المحتملة في تسلسل، بناءً على البيانات التي تم تدريبهم عليها.
في حين أن الشركات التي تبني نماذج الذكاء الاصطناعي التوليدية – بما في ذلك OpenAI، وMeta، وGoogle – تدعي أن أحدث الإصدارات من برامج الذكاء الاصطناعي الخاصة بها قد قللت من حدوث الافتراءات، إلا أنها تظل مصدر قلق كبير لتطبيقات المستهلكين والشركات.
وبالنسبة لشركة جوجل، التي تحظى منصتها البحثية بثقة المليارات من المستخدمين بسبب ارتباطاتها بالمصادر الأصلية، فإن “الهلوسة” ضارة بشكل خاص. تولد شركتها الأم Alphabet الغالبية العظمى من إيراداتها من البحث وأعمال الإعلانات المرتبطة به.
في الأشهر الأخيرة، تعرض الرئيس التنفيذي ساندر بيتشاي لضغوط، داخليا وخارجيا، لتسريع إطلاق ميزات الذكاء الاصطناعي التوليدية الجديدة التي تركز على المستهلك بعد تعرضه لانتقادات بسبب تخلفه عن المنافسين، ولا سيما OpenAI، التي لديها شراكة بقيمة 13 مليار دولار مع مايكروسوفت.
وفي مؤتمر جوجل السنوي للمطورين هذا الشهر، وضع بيتشاي استراتيجية جديدة تتمحور حول الذكاء الاصطناعي للشركة. لقد أصدرت “نظرات عامة” – إجابة مختصرة عن الاستفسارات التي أنشأها برنامج Gemini – في أعلى العديد من نتائج البحث الشائعة لملايين المستخدمين الأمريكيين تحت شعار “دع Google يقوم بالبحث في Google نيابةً عنك” وتخلص من “العمل القانوني خارج البحث”.
تعكس المشكلات الأولية التي تواجهها Overviews رد الفعل العنيف في فبراير ضد برنامج Gemini chatbot الخاص بها، والذي أنشأ صورًا غير دقيقة تاريخيًا لمختلف الأعراق والأجناس من خلال أداة إنشاء الصور الخاصة به، مثل النساء والأشخاص الملونين مثل ملوك الفايكنج أو الجنود الألمان من العالم الثاني. حرب.
ردًا على ذلك، اعتذرت جوجل وأوقفت إنشاء الصور للأشخاص من خلال نموذج الجوزاء الخاص بها. ولم يتم إعادة الميزة.
تحدث بيتشاي عن معضلة جوجل في مواكبة المنافسين، مع التصرف بشكل أخلاقي والبقاء محرك البحث المسجل الذي يتم الاعتماد عليه على نطاق واسع لإعادة معلومات دقيقة ويمكن التحقق منها.
وفي إحدى الفعاليات التي أقيمت في جامعة ستانفورد الشهر الماضي، قال: “يأتي الناس للبحث في لحظات مهمة، مثل جرعة الدواء لطفل يبلغ من العمر ثلاثة أشهر، لذلك يتعين علينا أن نقوم بالأمر بشكل صحيح. . . هذه الثقة يتم اكتسابها بصعوبة ومن السهل خسارتها.
“عندما نخطئ، يخبرنا الناس أن المستهلكين لديهم أعلى مستوى. . . وأضاف بيتشاي: “هذا هو نجمنا الشمالي والمكان الذي يتم توجيه ابتكاراتنا إليه”. “إنها تساعدنا على تحسين المنتجات وتصحيحها.”
