يعد اكتشاف وقت إنشاء النص بواسطة أدوات مثل ChatGPT مهمة صعبة. قد توفر أدوات الكشف عن الذكاء الاصطناعي الشائعة، مثل GPTZero، بعض الإرشادات للمستخدمين من خلال إخبارهم عندما يتم كتابة شيء ما بواسطة روبوت وليس بواسطة إنسان، ولكن حتى البرامج المتخصصة ليست مضمونة ويمكن أن تبث نتائج إيجابية كاذبة.
باعتباري صحفيًا بدأ تغطية اكتشاف الذكاء الاصطناعي منذ أكثر من عام، أردت أن أجمع بعضًا من أفضل مقالات WIRED حول هذا الموضوع لمساعدة القراء مثلك على فهم هذه القضية المعقدة بشكل أفضل.
هل لديك المزيد من الأسئلة حول اكتشاف المخرجات من ChatGPT وأدوات chatbot الأخرى؟ قم بالتسجيل في النشرة الإخبارية الخاصة بـ AI Unlocked، وتواصل معي مباشرةً بشأن أي شيء متعلق بالذكاء الاصطناعي ترغب في الإجابة عليه أو تريد من WIRED استكشاف المزيد.
فبراير 2023 بقلم ريس روجرز
في هذه المقالة، التي كتبت بعد حوالي شهرين من إطلاق ChatGPT، بدأت في التعامل مع تعقيدات اكتشاف النص باستخدام الذكاء الاصطناعي بالإضافة إلى ما قد تعنيه ثورة الذكاء الاصطناعي للكتاب الذين ينشرون عبر الإنترنت. تحدث معي إدوارد تيان، مؤسس GPTZero، عن كيفية تركيز كاشف الذكاء الاصطناعي الخاص به على عوامل مثل تباين النص والعشوائية.
أثناء القراءة، ركز على القسم الخاص بالعلامة المائية النصية: “قد تكون العلامة المائية قادرة على تعيين أنماط كلمات معينة لتكون محظورة بالنسبة لمولد النص الذي يعمل بالذكاء الاصطناعي.” ورغم أنها فكرة واعدة، إلا أن الباحثين الذين تحدثت معهم كانوا متشككين بالفعل بشأن فعاليتها المحتملة.
سبتمبر 2023 بقلم كريستوفر بيم
مقالة رائعة من عدد أكتوبر من العام الماضي من مجلة WIRED، تمنحك هذه المقالة نظرة داخلية على عقلية إدوارد تيان أثناء عمله على توسيع نطاق وصول GPTZero وقدرات الكشف. يعد التركيز على كيفية تأثير الذكاء الاصطناعي على العمل المدرسي أمرًا بالغ الأهمية.
يعد اكتشاف النص باستخدام الذكاء الاصطناعي من أهم أولويات العديد من معلمي الفصول الدراسية حيث يقومون بتقييم الأوراق وربما يتخلون عن مهام المقالات تمامًا بسبب استخدام الطلاب سرًا لروبوتات الدردشة لإكمال واجباتهم المنزلية. في حين أن بعض الطلاب قد يستخدمون الذكاء الاصطناعي التوليدي كأداة للعصف الذهني، فإن آخرين يستخدمونه لإنشاء واجبات كاملة.
سبتمبر 2023 بقلم كيت نيبز
هل تتحمل الشركات مسؤولية الإبلاغ عن المنتجات التي قد يتم إنشاؤها بواسطة الذكاء الاصطناعي؟ قامت كيت نيبز بالتحقيق في كيفية عرض الكتب التي تم إنشاؤها بواسطة الذكاء الاصطناعي للبيع على أمازون، والتي تنتهك حقوق الطبع والنشر، على الرغم من أن بعض الشركات الناشئة تعتقد أنه يمكن رصد المنتجات باستخدام برامج خاصة وإزالتها. تتوقف إحدى المناقشات الأساسية حول اكتشاف الذكاء الاصطناعي على ما إذا كانت احتمالية وجود نتائج إيجابية كاذبة – أي نص مكتوب بواسطة الإنسان تم تمييزه عن طريق الخطأ على أنه من عمل الذكاء الاصطناعي – تفوق فوائد تصنيف المحتوى الذي تم إنشاؤه بواسطة الخوارزميات.
أغسطس 2023 بقلم أماندا هوفر
وبعيدًا عن مجرد الواجبات المنزلية، فإن النصوص التي ينتجها الذكاء الاصطناعي تظهر بشكل متزايد في المجلات الأكاديمية، حيث غالبًا ما يتم حظرها دون الكشف عنها بشكل مناسب. كتبت أماندا هوفر: “يمكن للأوراق البحثية المكتوبة بواسطة الذكاء الاصطناعي أيضًا أن تصرف الانتباه عن العمل الجيد من خلال إضعاف مجموعة المؤلفات العلمية”. إحدى الإستراتيجيات المحتملة لمعالجة هذه المشكلة هي أن يقوم المطورون ببناء أدوات كشف متخصصة تبحث عن محتوى الذكاء الاصطناعي ضمن الأوراق البحثية الخاضعة لمراجعة النظراء.
أكتوبر 2023 بقلم كيت نيبز
عندما تحدثت لأول مرة مع الباحثين في فبراير الماضي حول العلامات المائية للكشف عن النص باستخدام الذكاء الاصطناعي، كانوا متفائلين ولكنهم حذرين بشأن إمكانية طباعة نص الذكاء الاصطناعي بأنماط لغة محددة لا يمكن للقراء البشر اكتشافها ولكنها واضحة لبرامج الكشف. إذا نظرنا إلى الوراء، فإن خوفهم يبدو في مكانه الصحيح.
بعد نصف عام فقط، تحدثت كيت نيبز مع مصادر متعددة كانت تخترق العلامات المائية للذكاء الاصطناعي وتوضح ضعفها الأساسي كإستراتيجية للكشف. على الرغم من عدم ضمان الفشل، لا يزال من الصعب تنفيذ العلامات المائية على نص الذكاء الاصطناعي.
أبريل 2024 بقلم أماندا هوفر
إحدى الأدوات التي يحاول المعلمون استخدامها لاكتشاف العمل الصفي الناتج عن الذكاء الاصطناعي هي Turnitin، وهو برنامج للكشف عن الانتحال يضيف إمكانات اكتشاف الذكاء الاصطناعي. (تعود ملكية Turnitin لشركة Advance، الشركة الأم لـ Condé Nast، التي تنشر WIRED.) كتبت أماندا هوفر: “يقول Chechitelli إن غالبية عملاء الخدمة اختاروا شراء اكتشاف الذكاء الاصطناعي. لكن مخاطر الإيجابيات الكاذبة والتحيز ضد متعلمي اللغة الإنجليزية دفعت بعض الجامعات إلى التخلص من الأدوات في الوقت الحالي.
من المرجح أن تقوم أجهزة كشف الذكاء الاصطناعي بتسمية المحتوى المكتوب من شخص لغته الأولى ليست الإنجليزية على أنه ذكاء اصطناعي أكثر من المحتوى المكتوب من شخص يتحدث اللغة الأم. مع استمرار المطورين في العمل على تحسين خوارزميات الكشف عن الذكاء الاصطناعي، تظل مشكلة النتائج الخاطئة عقبة أساسية يجب التغلب عليها.
