التطور السريع في تقنيات الذكاء الاصطناعي جعل من إنشاء الصور ومقاطع الفيديو والتسجيلات الصوتية المزيفة أكثر سهولة وإقناعًا من أي وقت مضى. وبينما تقدم هذه التقنيات الكثير من الاستخدامات المفيدة، يمكن استخدام الأدوات نفسها في تقليد أشخاص حقيقيين وخداع المستخدمين والمنصات لأغراض خبيثة.
بالنسبة للشركات، لم يعد الأمر يقتصر على الخوف من الإضرار بالسمعة فقط، فمقطع فيديو أو تسجيل صوتي مزيف لمسؤول تنفيذي يمكن استخدامه لطلب تحويل أموال، أو مشاركة معلومات سرية، أو حتى إقناع أحد الموظفين بتجاوز إجراء أمني أساسي. لهذا أصبح من المهم أن تفهم الشركات كيف يعمل التزييف العميق، وأن تجهز فرقها للتعامل مع محاولات الاحتيال التي تعتمد عليه.
ما هو التزييف العميق Deepfake؟
التزييف العميق أو Deepfake هو محتوى يتم إنشاؤه أو التلاعب به باستخدام تقنيات الذكاء الاصطناعي والتعلم العميق، بحيث يبدو وكأنه صادر بالفعل عن شخص حقيقي. يمكن للتقنية استبدال وجه شخص بوجه آخر، أو تقليد صوته، أو إظهاره وكأنه يقول أو يفعل شيئًا لم يحدث في الحقيقة، وقد يكون المحتوى المزيف في صورة فيديو أو صورة ثابتة أو تسجيل صوتي، بل ويمكن استخدامه أثناء مكالمة فيديو مباشرة من خلال بث صورة مزيفة عبر الكاميرا.
الهدف في النهاية هو صناعة محتوى يبدو حقيقيًا بما يكفي لإقناع الشخص الذي يشاهده أو يستمع إليه بأنه حقيقي. لكن ليس كل فيديو تم تعديله يمكن اعتباره Deepfake. هناك أيضًا ما يعرف باسم Shallowfakes أو Cheap Fakes، والتي تعتمد على تقنيات أبسط مثل تغيير سرعة الفيديو، أو حذف جزء من السياق، أو تعديل النصوص المرفقة، أو دمج مقاطع مختلفة معًا.
التزييف العميق أكثر تطورًا من ذلك، لأنه يعتمد على الذكاء الاصطناعي في إعادة إنتاج تفاصيل مثل ملامح الوجه وحركاته والصوت والخصائص الشخصية الأخرى بصورة أكثر واقعية.
كيف يعمل التزييف العميق؟
لإنشاء Deepfake، يحتاج نظام الذكاء الاصطناعي إلى صور أو مقاطع فيديو أو تسجيلات صوتية للشخص الذي سيتم تقليده. كلما توافرت بيانات أكثر، أصبح لدى النظام فرصة أكبر لفهم التفاصيل التي تميز هذا الشخص لتقليده بشكل أدق. في حالة الصور والفيديو، يمكن للنظام تحليل شكل الوجه وتعبيراته وطريقة تحريك الرأس وغيرها من التفاصيل. أما عند تقليد الصوت، فيتم تحليل أنماط الحديث ونبرة الصوت والخصائص التي تميز طريقة نطق الشخص للكلمات.
بعد تحليل هذه البيانات ومعالجتها، يصبح من الممكن إنشاء محتوى جديد يقلّد الشخص المستهدف. يمكن مثلًا وضع وجهه على جسد شخص آخر، ثم إضافة صوت مستنسخ يتحدث بالنص المطلوب، مع تعديل حركة الشفاه والإضاءة والألوان وغيرها من التفاصيل لجعل النتيجة أكثر إقناعًا.
كيف يمكن أن تهدد الـ Deepfakes الشركات؟
انتحال شخصية المديرين والمسؤولين التنفيذيين هو أحد أبرز المخاطر المرتبطة بالتزييف العميق داخل الشركات أدق وأفضل للمقال. حيث يمكن للمهاجم تقليد الرئيس التنفيذي CEO أو المدير المالي CFO أو أي مسؤول آخر، ثم التواصل مع أحد الموظفين بطلب يبدو عاجلًا ومهمًا. قد يكون الطلب تحويل مبلغ مالي، أو مشاركة بيانات تسجيل الدخول، أو إرسال مستندات سرية، أو تجاوز واحدة من خطوات الموافقة المعتادة بحجة أن الأمر لا يحتمل التأخير.
يمكن أيضًا استخدام Deepfake لجعل هجمات التصيد الاحتيالي واختراق البريد الإلكتروني للأعمال (Business Email Compromise - BEC) أكثر إقناعًا.فبدلًا من الاكتفاء برسالة بريد إلكتروني تثير الشك، يمكن للمهاجم متابعة الرسالة بمكالمة صوتية تبدو بصوت المدير نفسه، أو حتى الانضمام إلى اجتماع فيديو بصورة مزيفة له. وجود هذه الخطوة الإضافية يمكن أن يجعل الموظف أكثر اقتناعًا بأن الطلب حقيقي.
لا تتوقف المخاطر عند ذلك، إذ يمكن استخدام التزييف العميق في محاولة تجاوز أنظمة التحقق من الهوية، أو إنشاء حسابات احتيالية، أو نشر تصريحات مزيفة على لسان أحد مسؤولي الشركة، أو صناعة إعلانات يظهر بها أحد التنفيذيين وكأنه يروج لمنتج أو خدمة معينة. وحتى إذا تم إثبات أن المحتوى مزيف لاحقًا، فمن الممكن أن يكون قد تسبب بالفعل في الإضرار بثقة العملاء أو سمعة الشركة.
كيف تحمي شركتك من مخاطر التزييف العميق؟
من أهم الخطوات عدم التعامل مع الصوت أو الفيديو وحده كدليل كافٍ على هوية الشخص عند تنفيذ العمليات الحساسة. فوجود المدير أمامك في مكالمة فيديو أو سماع صوته عبر الهاتف لا يضمن بالضرورة أن الشخص الذي تتعامل معه هو فعلًا من تتوقعه، خصوصًا إذا كانت المكالمة قصيرة.
تحويل الأموال، تغيير بيانات الحساب، مشاركة المعلومات السرية أو تنفيذ أي نشاط غير معتاد على الحساب يجب أن يتطلب خطوة مستقلة للتحقق من الهوية أو المصادقة. يمكن بناء نظام التحقق داخليًا أو الاعتماد على منصة جاهزة للتكامل مثل Authentica، مع دعم أكثر من قناة للتحقق حسب طبيعة العملية ومستوى حساسيتها.
يمكن للشركات أيضًا إضافة إجراءات داخلية بسيطة للطلبات العاجلة والحساسة، مثل استخدام عبارة تحقق متفق عليها مسبقًا أو سؤال لا يعرف إجابته إلا أطراف معنية محددة. كما يمكن لتأكيد الطلب من خلال منصة الشركة الداخلية أو اشتراط موافقة موظف آخر أن يضيف طبقة حماية مهمة في العمليات عالية الحساسية.
من المهم أيضًا حماية الحسابات باستخدام المصادقة متعددة العوامل MFA، مع الاعتماد على أنظمة تحقق من الهوية تدعم Liveness Detection للتأكد من وجود شخص حقيقي أمام الكاميرا وليس مجرد صورة أو فيديو يتم تشغيله للنظام. الجمع بين التحقق من الوجه، وفحص مستندات الهوية، وLiveness Detection، أو وسيلة مصادقة إضافية، يمكن أن يوفر حماية أقوى من محاولات الانتحال والخداع. بدلًا من الاعتماد على طريقة واحدة فقط.
الخلاصة
التزييف العميق Deepfake يغير واحدة من الافتراضات التي اعتمدنا عليها لفترة طويلة، وهي أن رؤية الشخص أو سماع صوته كافية للتأكد من هويته. مع تطور تقنيات الذكاء الاصطناعي، لم يعد بإمكان الشركات الاعتماد على مكالمة صوتية أو فيديو وحدها قبل الموافقة على عملية حساسة. وجود إجراءات واضحة للتحقق، واستخدام حلول حديثة لإدارة الهوية والمصادقة من خلال منصة متخصصة مثل Authentica، إلى جانب تدريب الموظفين على التعامل مع الطلبات غير المعتادة، يوفر للشركات مستوى حماية أقوى أمام هذا النوع المتطور من الاحتيال.