وبعد أسبوع من ذلك، نصحت خوارزمياتها الناس بتناول الحجارة ووضعها الغراء على البيتزااعترفت شركة جوجل يوم الخميس بأنها بحاجة إلى إجراء تعديلات على ميزة البحث الجديدة الجريئة التي تعمل بالذكاء الاصطناعي. تسلط الحلقة الضوء على مخاطر حملة Google العدوانية لتسويق الذكاء الاصطناعي التوليدي، وكذلك القيود الغادرة والأساسية لتلك التكنولوجيا.
تعتمد ميزة AI Overviews من Google على Gemini، وهو نموذج لغة كبير مثل النموذج الموجود خلف ChatGPT الخاص بـ OpenAI، لإنشاء إجابات مكتوبة لبعض استعلامات البحث من خلال تلخيص المعلومات الموجودة عبر الإنترنت. إن طفرة الذكاء الاصطناعي الحالية مبنية على الطلاقة المثيرة للإعجاب التي يتمتع بها طلاب ماجستير إدارة الأعمال في التعامل مع النص، ولكن يمكن للبرنامج أيضًا استخدام هذه التسهيلات لإضفاء لمسة مقنعة على الأكاذيب أو الأخطاء. إن استخدام التكنولوجيا لتلخيص وعود المعلومات عبر الإنترنت يمكن أن يجعل نتائج البحث أسهل في الاستيعاب، ولكنه أمر خطير عندما تكون المصادر عبر الإنترنت متقلصة أو عندما يستخدم الأشخاص المعلومات لاتخاذ قرارات مهمة.
يقول ريتشارد سوشر، الذي قدم مساهمات رئيسية في الذكاء الاصطناعي للغات: “يمكنك الآن الحصول على نموذج أولي سريع وسريع إلى حد ما باستخدام ماجستير في القانون، ولكن صنعه فعليًا بحيث لا يطلب منك أكل الصخور يتطلب الكثير من العمل”. كباحث، وفي أواخر عام 2021، أطلقت محرك بحث يركز على الذكاء الاصطناعي يسمى You.com.
يقول سوشر إن الجدل حول ماجستير إدارة الأعمال يتطلب جهدًا كبيرًا لأن التكنولوجيا الأساسية ليس لديها فهم حقيقي للعالم ولأن شبكة الإنترنت مليئة بالمعلومات غير الجديرة بالثقة. ويقول: “في بعض الحالات، من الأفضل ألا نكتفي بإعطائك إجابة، أو أن نظهر لك عدة وجهات نظر مختلفة”.
وقالت رئيسة قسم البحث في جوجل، ليز ريد، في تدوينة الشركة في وقت متأخر من يوم الخميس، إنها أجرت اختبارات مكثفة قبل إطلاق AI Overviews. لكنها أضافت أن أخطاء مثل أمثلة أكل الصخور وبيتزا الغراء – حيث قامت خوارزميات جوجل بسحب المعلومات من مقال ساخر وتعليق ريديت المزاح، على التوالي – قد أدت إلى تغييرات إضافية. وهي تشمل الكشف بشكل أفضل عن “الاستعلامات غير المنطقية”، كما تقول جوجل، وجعل النظام يعتمد بشكل أقل على المحتوى الذي ينشئه المستخدم.
يتجنب موقع You.com بشكل روتيني أنواع الأخطاء التي تعرضها ميزة AI Overviews الخاصة بشركة Google، كما يقول سوشر، لأن شركته طورت حوالي اثنتي عشرة حيلًا لمنع حاملي شهادة الماجستير في إدارة الأعمال من إساءة التصرف عند استخدامها للبحث.
يقول سوشر: “نحن أكثر دقة لأننا نستثمر الكثير من الموارد لنكون أكثر دقة”. من بين أمور أخرى، يستخدم موقع You.com فهرس ويب مصممًا خصيصًا لمساعدة حاملي شهادات LLM على الابتعاد عن المعلومات غير الصحيحة. كما أنه يختار من بين عدة ماجستيرات مختلفة للإجابة على استفسارات محددة، ويستخدم آلية الاقتباس التي يمكن أن توضح متى تكون المصادر متناقضة. ومع ذلك، فإن إجراء بحث الذكاء الاصطناعي بشكل صحيح أمر صعب. وجدت مجلة WIRED يوم الجمعة أن موقع You.com فشل في الإجابة بشكل صحيح على استفسار معروف بأنه يعرقل أنظمة الذكاء الاصطناعي الأخرى، مشيرًا إلى أنه “استنادًا إلى المعلومات المتاحة، لا توجد دول أفريقية تبدأ أسماؤها بالحرف “K”. في الاختبارات السابقة، كان قد نجح في الاستعلام.
تعد ترقية الذكاء الاصطناعي التوليدي من Google إلى منتجها الأكثر استخدامًا وربحًا جزءًا من عملية إعادة تشغيل على مستوى صناعة التكنولوجيا مستوحاة من إصدار OpenAI لروبوت الدردشة ChatGPT في نوفمبر 2022. وبعد شهرين من ظهور ChatGPT لأول مرة، قامت Microsoft، الشريك الرئيسي لـ OpenAI، استخدمت تقنيتها لترقية محرك البحث Bing الذي يتم تشغيله أيضًا. كان محرك البحث Bing الذي تمت ترقيته يعاني من أخطاء ناتجة عن الذكاء الاصطناعي وسلوك غريب، لكن الرئيس التنفيذي للشركة، ساتيا ناديلا، قال إن هذه الخطوة تهدف إلى تحدي جوجل، قائلاً: “أريد أن يعرف الناس أننا جعلناهم يرقصون”.
يشعر بعض الخبراء أن Google سارعت في ترقية الذكاء الاصطناعي. يقول باري شوارتز، محرر الأخبار في Search Engine Land، وهي مطبوعة تتتبع صناعة البحث: “أنا مندهش لأنهم أطلقوا هذا النظام لعدد كبير من الاستفسارات – الاستفسارات الطبية والمالية – وأعتقد أنهم سيكونون أكثر حذرًا”. ويضيف أنه كان ينبغي على الشركة أن تتوقع بشكل أفضل أن بعض الأشخاص سيحاولون عمدًا التلاعب ببرنامج AI Overviews. يقول شوارتز: “يجب على Google أن تكون ذكية بشأن ذلك”، خاصة عندما تعرض النتائج كنتائج افتراضية على منتجها الأكثر قيمة.
عملت ليلي راي، مستشارة تحسين محركات البحث، لمدة عام كمختبر تجريبي للنموذج الأولي الذي سبق AI Overviews، والذي أطلقت عليه Google اسم “التجربة التوليدية للبحث”. وتقول إنها لم تتفاجأ برؤية الأخطاء التي ظهرت الأسبوع الماضي بالنظر إلى مدى ميل الإصدار السابق إلى الانحراف. يقول راي: “أعتقد أنه من المستحيل فعليًا أن تسير الأمور على ما يرام دائمًا”. “هذه هي طبيعة الذكاء الاصطناعي.”
