لم تعد خطورة الذكاء الاصطناعي في المجال الطبي مرتبطة فقط بإنتاج معلومات خاطئة، وإنما امتدت إلى إمكانية صناعة فيديو أو تسجيل صوتي يبدو حقيقيًا، يظهر خلاله طبيب وكأنه يروج لعلاج أو دواء أو يدلي بتصريحات لم يقلها من الأساس.
وجاء ذلك في توقيت يناقش فيه المجلس الأعلى لتنظيم الإعلام مشروع لائحة لتنظيم الظهور الإعلامي للأطباء، قدمتها نقابة الأطباء، وتتضمن منع استخدام تقنيات الذكاء الاصطناعي أو الوسائل الرقمية لإنشاء أو تعديل أو نشر محتوى طبي مرئي أو صوتي أو رقمي يتضمن بيانات غير صحيحة أو مضللة قد تخدع الجمهور أو توهمه بوقائع غير حقيقية.
«مش كل حاجة نقدر نمنعها».. أين تقف التكنولوجيا؟
محمد مغربي، استشاري تأمين المعلومات والذكاء الاصطناعي، أوضح أن التعامل مع الذكاء الاصطناعي لا يمكن اختزاله في فكرة «منع التكنولوجيا من إنتاج محتوى مزيف»، لأن أدوات الذكاء الاصطناعي تعمل وفق الأوامر والأنظمة التي تحكم كل أداة.
وبحسب مغربي، فإن بعض النماذج تضع قيودًا مرتبطة بالسلامة، لكن هذا لا يعني وجود وسيلة تقنية تمنع بشكل مطلق إنتاج أي محتوى مفبرك؛ إذ يمكن أن تختلف الاستجابة من أداة إلى أخرى وفق طبيعة الطلب والقيود الموجودة بها.
وتشير الأبحاث التقنية بالفعل إلى أن اكتشاف المحتوى المولد بالذكاء الاصطناعي لا يزال سباقًا مستمرًا بين أدوات التوليد وأدوات الكشف.
ويختبر المعهد الوطني الأمريكي للمعايير والتكنولوجيا «NIST» قدرات أنظمة اكتشاف المحتوى الاصطناعي، فيما تشير أبحاثه إلى أن أداء أدوات الكشف يمكن أن يتراجع عندما تواجه تقنيات توليد جديدة لم تتدرب عليها.
أدوات الكشف موجودة.. لكنها ليست «حكمًا نهائيًا»
وأكد مغربي أن هناك بالفعل أدوات تستطيع تحليل الصور والفيديوهات والتسجيلات الصوتية بحثًا عن مؤشرات تدل على التلاعب أو التوليد الاصطناعي، وهو ما يجعل التحقق الفني أحد خطوط الدفاع أمام المحتوى المزيف.
لكن الاعتماد على أداة كشف واحدة لا يكفي بالضرورة. فالتطور السريع في نماذج التوليد يجعل أدوات الكشف نفسها بحاجة إلى تحديث مستمر، كما أن ضغط الفيديو أو إعادة رفعه على منصات التواصل قد يؤثر في بعض المؤشرات التقنية التي تستخدمها أدوات التحليل.
ولهذا تتجه الصناعة أيضًا إلى مفهوم مختلف عن «اكتشاف التزييف» وهو إثبات مصدر المحتوى وتاريخ تعديله. ومن أبرز المبادرات في هذا المجال معيار C2PA، الذي يسمح بإضافة بيانات موثقة وقابلة للتحقق عن مصدر المحتوى والأدوات والتعديلات التي أجريت عليه.
الطبيب الحقيقي قد يتحول إلى «نسخة رقمية» منه
وتزداد خطورة الأمر في المجال الطبي تحديدًا عندما يُستخدم وجه الطبيب أو صوته لصناعة محتوى يبدو موثوقًا، خصوصًا إذا تضمن توصية بدواء أو علاج أو ادعاء بنتيجة علاجية غير مثبتة.
وهنا لا تصبح المشكلة في الذكاء الاصطناعي وحده، وإنما في قدرة الجمهور على التمييز بين المحتوى الحقيقي والمصطنع. لذلك يظل التحقق من المصدر الأصلي، ومراجعة الحساب الرسمي للطبيب، وعدم مشاركة المحتوى قبل التأكد منه، إجراءات مهمة بالتوازي مع أدوات الكشف التقنية.
وتؤكد منظمة الصحة العالمية أن أنظمة الذكاء الاصطناعي قد تنتج معلومات تبدو موثوقة ومنطقية رغم احتوائها على أخطاء، وهو ما يجعل الاستخدام الطبي للذكاء الاصطناعي بحاجة إلى رقابة وتحقق بشري.
وفي هذا السياق، فإن إدخال المحتوى المصطنع والمضلل صراحةً ضمن مشروع لائحة تنظيم الظهور الإعلامي للأطباء يفتح الباب أمام التعامل مع المشكلة باعتبارها قضية مهنية وإعلامية وتقنية في الوقت نفسه، وليس مجرد مشكلة مرتبطة باستخدام أداة ذكاء اصطناعي.
