شركات التكنولوجيا تحاول إيجاد حلول لمكافحة التزييف العميق

انتشرت تقنية التزييف العميق على شبكات التواصل الاجتماعي من خلال تركيب مقاطع مفبركة لشخصيات أحيانا لأغراض التضليل، كما يتم الاستعانة بها أيضا من عصابات الجريمة المنظمة….

تظهر حلول في قطاع التكنولوجيا لمكافحة التزييف العميق، ومقاطع الفيديو المزيفة، والأصوات المفبركة التي ساهم الذكاء الاصطناعي في انتشارها، بهدف الحد من مختلف أنواع عمليات الاحتيال.

تسمع لوريل، عن طريق اتصال هاتفي، صوت والدتها ديبي دودكين: “هذه أنا (…) لقد تعرضت لحادث”، معلِمةً إياها بأنها في المستشفى.
فما كان من المرأة إلا أن أغلقت الخط، واتصلت بوالدتها التي كانت، في الواقع، موجودة في مكتبها غير مصابة بأي أذى. لحسن الحظ، كانت لوريل موجودة في منزل جدتها روثي (93 عامًا)، التي تلقت المكالمة الهاتفية في محاولة لإيقاعها بعملية احتيال يبدو أنها كانت الهدف من الاتصال.

وتقول ديبي، التي تعيش في كاليفورنيا، في حديث عبر وكالة فرانس برس، إنّ المحاولات من هذا النوع “تحدث يوميًا. قد يكون الذكاء الاصطناعي خطرًا جدًا”.

انتشرت تقنية التزييف العميق على شبكات التواصل الاجتماعي، من خلال تركيب مقاطع مفبركة لشخصيات، أحيانًا لأغراض التضليل، كما يتم الاستعانة بها أيضًا من قِبل عصابات الجريمة المنظمة.

في أوائل شباط/فبراير، أعلنت شرطة هونغ كونغ أنّ موظفًا في شركة متعددة الجنسيات جرى إقناعه بتحويل 200 مليون دولار محلي في هونغ كونغ (25 مليون دولار أميركي) إلى محتالين نظموا مؤتمرًا عبر الفيديو، باستخدام صور رمزية (أفاتار) بحجم فعلي قائمة على الذكاء الاصطناعي لعدد كبير من زملائه.

وتبيّن دراسة نشرتها، في شباط/فبراير، شركة “آي بوم” الناشئة المتخصصة في رصد عمليات التزييف، أن 0.1% فقط من الأميركيين والبريطانيين الذين خضعوا للاختبار تمكنوا من تحديد صورة أو مقطع فيديو مزيّف بشكل صحيح.

ويقول فيجاي بالاسوبرامانيان، رئيس شركة “بيندروب سكيوريتي” المتخصصة في التحقق الصوتي: “قبل أقل من عشر سنوات، لم يكن هناك سوى أداة واحدة لتوليد صوت باستخدام الذكاء الاصطناعي، أما اليوم فثمة 490 أداة”.

وقد غيّر انتشار الذكاء الاصطناعي التوليدي هذا الوضع.
ويضيف: “في السابق، كان ابتكار تسجيل صوتي يستغرق 20 ساعة (من التسجيلات). أما اليوم، فباتت هذه المهمة تحتاج إلى خمس ثوانٍ فقط”.

ثمة جهات كثيرة توفّر للشركات القدرة على رصد المحتوى المزيف بالذكاء الاصطناعي في الوقت الفعلي، سواء في المقاطع الصوتية أو الفيديو، مثل “رياليتي ديفندر” و”إنتل”.
تستخدم “إنتل” تغيّرات اللون في الأوعية الدموية للوجه (تصوير التحجُّم الضوئي) في أداتها “فايك كاتشر”، بينما يقسم “بيندروب” كل ثانية من المقطع الصوتي إلى 8 آلاف مقتطف، ويقارنها بخصائص الصوت البشري.

يقول رئيس شركة “أتيستيف”، نيكوس فيكياريدس: “مثل أي شركة للأمن السيبراني، ينبغي دائمًا البقاء على اطلاع”، مضيفًا: “في البداية، كنّا نرى أشخاصًا بأيدٍ فيها ستة أصابع، ولكن مع التقدم في التكنولوجيا، تزداد صعوبة رصد التزييف بالعين المجردة”.

وقد قللت بعض المنشورات العلمية من فعالية أنظمة الكشف هذه، لكنّ دراسات جامعية كثيرة سلطت الضوء أيضًا على معدلات الكشف المرتفعة.

وبالنسبة إلى فيجاي بالاسوبرامانيان، سيتعين، في النهاية، على كل الشركات أن تتزوّد ببرامج لرصد المحتوى المُولَّد بالذكاء الاصطناعي.
وبعيدًا عن قطاعي المال والتأمين، اللذين يُعدّان من الضحايا التقليديين لعمليات الاحتيال، فإن ذلك “أصبح يشكل تهديدًا عالميًا للأمن السيبراني”، بحسب نيكوس فيكياريدس.

ويقول: “يمكن لأي شركة أن ترى سمعتها مشوهة بسبب التزييف العميق، أو أن تكون مستهدفة بهذه الهجمات المعقدة”.

ويؤكد بالاسوبرامانيان أن زيادة معدل العمل عن بُعد تعزز من مخاطر انتحال الهوية. ومن الممكن أن يتّسع نطاق هذه العمليات ليصل إلى عامة الناس، وخصوصًا كبار السن، تحت تهديد المكالمات المفبركة.

في كانون الثاني/يناير، عرضت الشركة الصينية المصنعة “هونور” هاتفها الذكي الجديد “ماجيك 7” (Magic7)، القادر على الكشف والإبلاغ في الوقت الفعلي عمّا إذا كان المحاور يستخدم الذكاء الاصطناعي خلال اتصال بالفيديو.

وفي نهاية عام 2024، أطلقت الشركة البريطانية الناشئة “سورف سيكيوريتي” متصفحًا عبر الإنترنت، مخصصًا حاليًا للشركات فقط، قادرًا على تنبيه المستخدم عندما يكون الصوت أو الفيديو مُولَّدًا بواسطة الذكاء الاصطناعي.

تشير “أتيستيف” إلى أنّ لديها آلاف المستخدمين الفرديين للنسخة المجانية.

ويرى سيوي ليو، الأستاذ في علوم الكمبيوتر لدى جامعة بوفالو الحكومية في ولاية نيويورك، أن “التزييف العميق سيصبح مثل البريد العشوائي”، الذي شكّل مصدر إزعاج كبير لمستخدمي الإنترنت الأوائل، لكنه بات حاليًا تحت السيطرة تقريبًا، بفضل كفاءة برامج فرز البريد الإلكتروني.

ويقول بالاسوبرامانيان: “لقد شوّش الذكاء الاصطناعي التوليدي الخط الفاصل بين الإنسان والآلة”، مضيفًا: “الشركات التي تنجح في إعادة ترسيخ هذا الفصل ستصبح ضخمة”، مشيرًا إلى أن قيمة هذه السوق “ستبلغ مليارات الدولارات”.