من المعلومات المضللة إلى التزييف العميق: كيف يتلاعب ممثلو التهديد بالواقع

ما هي المزيفة العميقة؟

التزييف العميق هو عملية استبدال الصور ومقاطع الفيديو الحقيقية بشكل ضار بصور ملفقة لأداء التلاعب بالمعلومات. لإنشاء صور وفيديو وصوت بجودة عالية بما يكفي لاستخدامها في عمليات التزييف العميقة ، يلزم استخدام الذكاء الاصطناعي والتعلم الآلي. يختلف استخدام الذكاء الاصطناعي والتعلم الآلي واستبدال الصور عن الأنواع الأخرى من التلاعب بالمعلومات ، والتي تستخدم تقنيات معالجة أقل تطرفًا ، مثل تحريف المعلومات أو عزل أجزاء من المعلومات أو تحريرها بطريقة خادعة. يضيف Etay Maor ، المدير الأول لاستراتيجية الأمان في Cato Networks ، "لإضافة التعقيدات ، تم بالفعل استخدام التطورات الأخيرة وإمكانية الوصول إلى النص الذي تم إنشاؤه بواسطة AI ، مثل GPT3 ، جنبًا إلى جنب مع deepfakes (كدليل على المفهوم) لإنشاء تفاعلية ، روبوتات محادثة تبدو بشرية "

كيف تبدو المنتجات المقلدة العميقة؟

تأتي المنتجات المقلدة العميقة بجميع الأشكال والأحجام. بعضها أبسط والبعض الآخر أكثر تقدمًا. بعض الأمثلة الأكثر شيوعًا على المنتجات المقلدة العميقة هي:

تبديل الوجه

تبديل الوجه هو استبدال الوجه في فيديو أو صورة من شخص لآخر. تتطلب مبادلة الوجه برنامجًا مخصصًا ، ولكن لا يجب أن تستند إلى تقنية متقدمة - يمكن للمرء اليوم العثور على تطبيقات الهاتف المحمول التي تدعم تبديل الوجه. عادةً ما يقتصر تبادل الوجه المتاح في تطبيقات الأجهزة المحمولة على حالات الاستخدام البسيطة ، مثل التبديل بين صور المستخدم ووجوه الممثلين في مشاهد الفيلم.

توجد ميزة تبديل الوجه الأكثر تقدمًا ، ولكنها تتطلب المزيد من التدريب على النموذج والتعليمات البرمجية ، ونتيجة لذلك - وحدات معالجة الرسومات ، وهي مكلفة وتستهلك الكثير من الموارد. يمكن مشاهدة مثال على تبديل الوجه الأكثر تقدمًا والتزييف العميق في هذا الفيديو ، حيث يتم تبديل Tom Cruise بوجه مقدم العرض:

تطلب تبديل وجه Tom Cruise ساعتين من التدريب على وحدة معالجة الرسومات بالإضافة إلى أيام من المعالجة اللاحقة لتحرير الفيديو الاحترافي. قد يبدو هذا كثيرًا ، لكنه كان يُعتبر أيضًا مبادلة أبسط من غيره ، لأن المقدم كان لديه قصة شعر مماثلة لـ Cruise ويمكنه انتحال صفة صوته ، مما يعني أن التدريب والمعالجة اللاحقة كانت مطلوبة أقل.

Puppet Master (مزامنة الشفاه)

المزيفة العميقة لـ "Puppet Master" هي تقنية يتم فيها التلاعب بصورة حركات فم الشخص ، مما يجعل الأمر يبدو وكأن الشخص يقول شيئًا لم يقله بالفعل. مقارنةً بمقايضة الوجه ، التي تُدرِّب نموذجًا على الوجه الجديد المُبادَّل ، يقوم "Puppet Master" بتدريب نموذج على وجه الصورة الأصلية ، وتحديداً على حركات الفم.

هذا ما يبدو عليه:

صوتي

النوع الثالث البارز من التزييف العميق يعتمد على الصوت. ملفات الصوت المزيفة العميقة هي ملفات صوتية تأخذ صوت شخص حقيقي وتجعله يبدو وكأنه يقول شيئًا لم يقله من قبل. يتم إنشاء ملفات الصوت المزيفة العميقة عن طريق أخذ الملفات الصوتية وتخصيص التعليقات التوضيحية للأصوات وتدريب نموذج ML استنادًا إلى التعليقات التوضيحية لربط الأصوات بالنص ثم إنشاء ملف صوتي جديد.

إليك ما يبدو مثل:

التزييف العميق مقابل الإصلاحات الرخيصة

ليست كل الصور أو الأصوات المعدلة مزيفة بشكل كبير. بينما يتم تصنيع الوسائط المزيفة العميقة أو تعديلها باستخدام الذكاء الاصطناعي ، فإن الإصلاحات الرخيصة هي وسائط مركبة أو معدلة باستخدام أساليب منخفضة التقنية ، والتي يسهل اكتشافها. غالبًا ما يكون لديهم تشوهات وقد تم التلاعب بهم بشكل واضح. إليك ما يبدو عليه الإصلاح الرخيص:

المخاطر السيبرانية للتزييف العميق

أصبحت المنتجات المقلدة العميقة أكثر واقعية ويمكن الوصول إليها وهي أيضًا أسرع في الإنشاء من أي وقت مضى. هذا يجعلها أداة قوية للتسليح. ونتيجة لذلك ، فإنها تشكل خطرًا على الشركات والبلدان. يمكن استخدامها في الجرائم الإلكترونية ، والهندسة الاجتماعية ، والاحتيال ، من قبل الدول التي تمثل تهديدًا للتأثير على العمليات الخارجية ، والمزيد.

على سبيل المثال ، تم استخدام التزييف العميق لتقليد صوت الرئيس التنفيذي وإقناع مسؤول تنفيذي بتحويل 243000 دولار إلى حساب احتيالي. Etay Maor من Cato Networks "يتألف البريد الإلكتروني للأعمال التجارية ويصبح اكتشاف هجمات التصيد الاحتيالي أكثر صعوبة وأكثر صعوبة بناءً على تحليل بسيط للغة المستخدمة. هناك حاجة إلى نهج شامل ، مثل ذلك الذي يقدمه مورد واحد لحل SASE ، والذي يمكنه اكتشاف الهجوم في نقاط اختناق متعددة مختلفة وعدم الاعتماد على منتجات نقطية معزولة محكوم عليها بالفشل ". في حالة أخرى ، تم تقديم مزيف عميق كدليل في قضية حضانة الأطفال.

يمكن أيضًا استخدام التزييف العميق لنشر معلومات مضللة ، مثل التوزيع الكاذب للمعلومات للتأثير على الرأي العام أو إخفاء الحقيقة. على سبيل المثال ، يمكن استخدام التزييف العميق لانتحال شخصية قادة العالم وإشعال هجوم ، أو لانتحال شخصية رئيس تنفيذي والتلاعب بسعر سهم الشركة. في حالات أخرى ، تتيح التزييفات العميقة إمكانية الإنكار المعقول ، حيث يمكن للناس أن ينكروا جميع مصادر وسائل الإعلام من خلال الادعاء بأنها مزيفة بشكل عميق ، مما يؤدي إلى خرق الثقة في المجتمع.

أخيرًا ، يمكن استخدام التزييف العميق للتشهير ، أي الإضرار بالسمعة الحسنة لشخص ما. على سبيل المثال ، من خلال خلق الانتقام الإباحي.

كيفية اكتشاف التزييف العميق

هناك نوعان رئيسيان من الطرق لاكتشاف التزييف العميق بدقة:

• طرق الكشف منخفضة المستوى
• طرق الكشف عالية المستوى

طرق الكشف منخفضة المستوى

تعتمد طرق الكشف منخفضة المستوى على نماذج ML التي تم تدريبها لتحديد القطع الأثرية أو البكسلات التي تم تقديمها من خلال عملية التوليد المزيفة العميقة. قد تكون هذه القطع الأثرية غير مرئية للعين البشرية ، لكن النماذج ، التي تم تدريبها على صور حقيقية وصور مزيفة عميقة ، قادرة على اكتشافها.

طرق الكشف عالية المستوى

تستخدم طرق الكشف عالية المستوى النماذج التي يمكنها تحديد الميزات ذات المعنى الدلالي. وتشمل هذه الحركات غير الطبيعية ، مثل الوميض أو وضع الرأس أو السلوكيات الفريدة وعدم تطابق الصوت مع الصوت.

اليوم ، تعتبر طرق الكشف هذه دقيقة. ومع ذلك ، مع تحسن التكنولوجيا المزيفة العميقة وتصبح أكثر تعقيدًا ، من المتوقع أن تصبح أقل فاعلية وستحتاج إلى التحديث والتحسين. بالإضافة إلى هذه التقنيات ، يمكن لكل واحد منا المساعدة في اكتشاف التزييف العميق عن طريق التحقق من مصدر الوسائط لمقاطع الفيديو والصور التي نتلقاها.