إليك إلهاء صغير لطيف من يوم عملك: توجه إلى Google ، واكتب أي عبارة مكياج ، وأضف كلمة “معنى” ، والبحث. ها! لن تؤكد نظرة عامة على منظمة العفو الدولية من Google فقط أن رطابك هو قول حقيقي ، بل سيخبرك أيضًا بما يعنيه وكيف تم اشتقاقه.
هذا ممتع حقًا ، ويمكنك العثور على الكثير من الأمثلة على وسائل التواصل الاجتماعي. في عالم نظرة عامة على الذكاء الاصطناعي ، “كلب فضفاض لا يتصفح” هو “وسيلة مرحة للقول إن هناك شيئًا ما من غير المرجح أن يحدث أو أن شيئًا ما لن ينجح”. العبارة التي تم اختراعها “Wired is wired do” هي تعبير تعني أن “سلوك أو خصائص شخص ما هو نتيجة مباشرة لطبيعته المتأصلة أو” الأسلاك “، مثلما يتم تحديد وظيفة الكمبيوتر من خلال اتصالاته المادية.”
كل هذا يبدو معقولًا تمامًا ، يتم تسليمه بثقة ثابتة. توفر Google روابط مرجعية في بعض الحالات ، مما يمنح الاستجابة لمعانًا إضافيًا للسلطة. من الخطأ أيضًا ، على الأقل بمعنى أن النظرة العامة تخلق انطباعًا بأن هذه عبارات شائعة وليست مجموعة من الكلمات العشوائية التي تم إلقاؤها معًا. وعلى الرغم من أن حقيقة أن نظرة عامة على منظمة العفو الدولية تعتقد أن “لا ترمي القلطي على الخنزير” هو المثل الذي يتمتع باشتقاق الكتاب المقدس أمر سخيف ، إلا أنه أيضًا تغليف مرتبة للمكان الذي لا يزال فيه الذكاء الاصطناعى التوليدي قصيرًا.
كإخلاء في أسفل كل نظرة عامة على كل نظرة عامة على الذكاء الاصطناعي ، تستخدم Google AI “التجريبي” لتولي نتائجها. AI التوليدي هو أداة قوية مع جميع أنواع التطبيقات العملية المشروعة. لكن اثنين من خصائصها المميزة تدخل في اللعب عندما يفسر هذه العبارات التي اخترعت. الأول هو أنه في النهاية آلة احتمالية ؛ على الرغم من أنه قد يبدو أن نظامًا كبيرًا قائمًا على نموذج اللغة لديه أفكار أو حتى مشاعر ، إلا أنه على مستوى الأساس ، فإنه ببساطة يضع كلمة واحدة أكثر من أخرى ، حيث يضع المسار بينما يتقدم القطار إلى الأمام. هذا يجعلها جيدة جدًا في التوصل إلى شرح لما هذه العبارات كان يعني إذا كانوا يعنيون أي شيء ، وهذا مرة أخرى ، لا يفعلون ذلك.
يقول زيانغ شياو ، عالم الكمبيوتر في جامعة جونز هوبكنز: “يعتمد التنبؤ بالكلمة التالية على بيانات التدريب الواسعة”. “ومع ذلك ، في كثير من الحالات ، لا تقودنا الكلمة المتماسكة التالية إلى الإجابة الصحيحة.”
العامل الآخر هو أن الذكاء الاصطناعى يهدف إلى إرضاء ؛ أظهرت الأبحاث أن chatbots تخبر الناس في كثير من الأحيان بما يريدون سماعه. في هذه الحالة ، هذا يعني أن تأخذك إلى كلمتك أن “لا يمكنك لعق غرير مرتين” هو منعطف مقبول للعبارة. في سياقات أخرى ، قد يعني ذلك أن يعكس تحيزاتك الخاصة بك ، حيث توضح فريق من الباحثين بقيادة شياو في دراسة العام الماضي.
يقول شياو: “من الصعب للغاية على هذا النظام حساب كل استعلام فردي أو أسئلة قيادية للمستخدم”. “هذا أمر صعب بشكل خاص بالنسبة للمعرفة غير المألوفة ، واللغات التي يتوفر فيها محتوى أقل بكثير ، ووجهات نظر الأقليات. نظرًا لأن البحث في الذكاء الاصطناعى هو نظام معقد ، يتسلل الخطأ.”
