تخيل أنك تقابل شخص جديد. سواء كان ذلك على تطبيق المواعدة أو وسائل التواصل الاجتماعي ، فستكون فرصة عبر بعضكما البعض عبر الإنترنت والتحدث. إنها حقيقية ويمكن ارتباطها ، لذلك يمكنك إخراجها بسرعة من DMS إلى منصة مثل Telegram أو WhatsApp. يمكنك تبادل الصور وحتى مكالمة الفيديو كل مرة. تبدأ في الراحة. ثم ، فجأة ، يجلبون المال.
إنهم بحاجة إليك لتغطية تكلفة وصول Wi-Fi ، ربما. أو إنهم يحاولون الخروج من هذه العملة المشفرة الجديدة. يجب أن تدخل في وقت مبكر! وبعد ذلك ، فقط بعد فوات الأوان ، تدرك أن الشخص الذي كنت تتحدث إليه لم يكن حقيقيًا على الإطلاق.
لقد كانوا في الوقت الحقيقي Deepfake التي تم إنشاؤها من الذكاء الاصطناعي يختبئ وجه شخص يركض عملية احتيال.
قد يبدو هذا السيناريو عسرًا على ما يرام أو الخيال العلمي ليكون صحيحًا ، لكنه حدث لعدد لا يحصى من الأشخاص بالفعل. مع وجود ارتفاع في قدرات الذكاء الاصطناعى التوليدي على مدار السنوات القليلة الماضية ، يمكن للمحتالين الآن إنشاء وجوه وأصوات مزيفة واقعية لإخفاءهم في الوقت الفعلي. ويحذر الخبراء من أن هؤلاء العميقين يمكنهم تفتيش مجموعة متنوعة من عمليات الاحتيال عبر الإنترنت ، من الرومانسية إلى العمالة إلى الاحتيال الضريبي.
ديفيد ميمون ، رئيس شركة الاحتيال في شركة التحقق من الهوية سينتيلينك وأستاذ علم الإجرام بجامعة ولاية جورجيا ، يتتبع تطور عمليات الاحتيال الرومانسية من الذكاء الاصطناعي وأنواع أخرى من عمليات الاحتيال من الذكاء الاصطناعي على مدار السنوات الست الماضية. يقول ميمون: “إننا نشهد زيادة هائلة في حجم Deepfakes ، وخاصة بالمقارنة مع 2023 و 2024”.
يقول: “لم يكن الأمر كثيرًا. نحن نتحدث عن ربما أربعة أو خمسة في الشهر”. “الآن ، نرى مئات هذه على أساس شهري في جميع المجالات ، وهو أمر محير للعقل.”
يتم استخدام Deepfakes بالفعل في مجموعة متنوعة من عمليات الاحتيال عبر الإنترنت. على سبيل المثال ، دفع أحد العمال الماليين في هونغ كونغ ، على سبيل المثال ، 25 مليون دولار إلى مخادع متظاهرًا بصفته المدير المالي للشركة في مكالمة فيديو عميقة. حتى أن بعض المحتالين Deepfake قد نشروا مقاطع فيديو تعليمية على YouTube ، والتي لديها إخلاء المسئولية على أنها “المزح والأغراض التعليمية فقط”. عادةً ما تفتح مقاطع الفيديو هذه مع مكالمة عملية احتيال رومانسية ، حيث يتحدث شاب وسيم تم إنشاؤه من الذكاء الاصطناعى إلى امرأة أكبر سناً.
أصبح أكثر تقليديًا-مثل مقطع فيديو تم تقديمه مسبقًا للمشاهير أو السياسي ، بدلاً من أن يكون مزيفًا حيًا-أكثر انتشارًا. في العام الماضي ، فقد المتقاعد في نيوزيلندا حوالي 133،000 دولار بسبب عملية احتيال استثمار في العملة المشفرة بعد رؤية إعلان على Facebook يضم مجموعة كبيرة من رئيس الوزراء في البلاد يشجع الناس على الشراء.
يقول ميمون إن Sentilink بدأت في رؤية DeepFakes تستخدم لإنشاء حسابات مصرفية من أجل استئجار شقة أو الانخراط في احتيال استرداد الضرائب. يقول إن عدد متزايد من الشركات شاهد أيضًا DeepFakes في مقابلات عمل الفيديو.
يقول ميمون: “أي شيء يتطلب من الناس أن يكونوا متصلاً بالإنترنت والذي يدعم فرصة تبديل الوجوه مع شخص ما – سيكون متاحًا ومفتوحًا للاحتيال للاستفادة منه”.
