تقنية الـ “التزييف العميق” ماذا تعني وكيف تعمل وماهي المخاطر وبعض الحلول المقترحة

“DeepFake” What does it mean, how does it work, what are the risks, and some solutions

موضوعنا اليوم سيكون عن تقنية ال التزييف العميق ماذا تعني وكيف تعمل وماهي المخاطر وبعض الحلول المقترحة.

في البداية سوف أوضح ما يعني مصطلح “Deepfake” او"التزييف العميق" وهو مزيف او غير حقيقي، وهي اداة لإنشاء مجموعة او مزيج من المعلومات الخاطئة يتم إنتاجها عن طريق بعض تقنيات الذكاء الإصطناعي بغرض الخداع أو التضليل حيث عرفه البرلمان الأوروبي بأنه إنتاج وسائط سمعية او مرئية متلاعب بها عن طريق إستخدام تقنيات الذكاء الإصطناعي، والتي يجعلها تظهر وكانهم هولاء الأشخاص يعملون او يتكلم ون ببعض الأمور وفي الواقع لم تحدث. حيث تشترك جميعها في بعض الخوارزميات، التي تستخدم في الذكاء الإصطناعي وتعرف بالمولد، حيث يتم إنشاء فيديو باستخدام نظامين من أنظمة الذكاء الاصطناعي

هما المولد والمميز، فعندما يقوم نظام المولد بإنشاء فيديو جديد يتم إرساله لنظام المميّز ليحدّد ما إذا كان هذا الفيديو حقيقيًا أو مزيفًا، وإذا تأكد أنه حقيقي سيقوم المولد بتعلم إنشاء فيديو قابل للتصديق أكثر وهكذا يشكل هذان النظامان معًا ما تسميته شبكة الخصومة التوليفية أو GNN وتحتاج هذه التقنية إلى إمدادها بمخزون من الفيديوهات لتتعلم كيفية التعديل عليها وتحديد المنطقي من المزيف، حيث في البداية سيكون طرف المولد من التقنية ضعيف ويحتاج إلى التدريب المستمر وعندما يصل إلى درجة مقبولة من الجودة يبدأ بإرسال فيديوهاته إلى المميّز، وكلما زاد ذكاء المولد يزداد ذكاء ال مميّز، وبهذه الطريقة سوف نصل في النهاية إلى فيديو معدل بشكل كامل وقابل للتصديق للعين البشرية، ومع تطور التكنولوجيا وتطور قدرة الاجهزة على المعالجة أصبحت تقنيات الذكاء الإصط ناعي تعالج البيانات بشكل أسرع وأصبحت تعالج مئات الصور و الفيديوهات في دقائق بدلا عن ساعات الى أ ن وصلت لأن تخلق تزييف عميق في الوقت الفعلي للفيديو، كما إزدادت استخدامات وذلك لما تحققه من نتائج سواء كانت سلبية أو إيجابية.

قد يأتي في ذهنك كيف يمكن لهذه التقنية ان تكون إيجابية في مجتمعنا، لنأخذ مجال صناعة الأفلام الكرتون على سبيل المثال يمكن أن يستفيد المنتجين المستقلين ذوي الميزانيات المنخفضة ببعض الإمكانات التي تتمتع بها الإستديوهات الكبيرة لتحريك الرسومات مثل حركة الفم و وجهة بشكل يتوافق مع الحقيقة، أيضا قد تساعد في دبلجة الأفلام الأجنبية عن طريق معالجة الصوت بالذكاء الإصطناعي مما سوف يقلل تكاليفها ويظهرها بشكل إحترافي أكثر حيث أن الصوت يتوافق مع صوت الممثل الحقيقي وبلغة أخرى.

بينما الجانب السلبي لهذه التقنية قد يتسبب بأضرار فادحة وجسيمة دعوني أذكر لكم بعض الأمثلة في عام 2019 أخذت تقنية للأمن السيبراني Symantec3 تعرف بشكل كبير، وذلك بعد تقرير أفادت به شركة

عن ثلاثة حالات على الأقل حصلت بإستخدام هذه التقنية عن طريق الصوت لخداع مسؤول ين التمويل لدى الشركات، وذلك بإقناعهم بتحويل مبالغ مالية كبيرة، وكان من الحالا ت رئيس تنفيذي لأح د فروع الشركات الكبيرة والذي تم إقناعه بتحويل مبلغ 220 الف يورو الى أحد الموردين في الخارج، حيث صرح بإعتقاده أن الطلب جاء من الرئيس التنفيذي للشركة الأم، ولم يكتشف ذلك حتى المكالمة الثالثة والتي من المفترض أن يتم من خلالها ترتيب بعض الحقائق المهمة المتعلقة بالنقل

الجانب القانوني

من الجانب الدولي ان معظم التشريعات المدنية في أمريكا تعاملت مع التزييف العميق على أنه أحد القوانين الخصوصية، بينما على المستوى الفيدرالي كانت التشريعات محدودة، وركزت بشكل كبير على دراسة جانب واحد وهو التهديد الذي تشكله هذه التقنية ولذلك هدفهم الأول وغايتهم هي حماية أمن هم القومي في عام 2020 ، عقدت لجنة التجارة الفيدرالية (FTC) أول ورشة عمل عامة 5 حول تقنية إستنساخ الصوت من حيث إيجابياتها وسلبياتها وبعض طرق المصادقة والكشف والتخفيف عن الأضرار التي قد تقع من خلال تقنية

وذلك بعد تعرض مدير بنك في هونغ كونغ للإحتيال وذلك بتحويل 35 مليون دولار من خلال صوت أدعى به المحتال أنه مدير لشركة معروفة. وتم استكمال المكالمة عن طريقة تقنية التزييف العميق ورسائل بريد إلكترونية مع مدير البنك الى أن تم تأكيد المعاملة

وفي مارس 2021، حذر مكتب التحقيقات الفيدرالي من زيادة عمليات الإحتيالية التي تستخدم هذه التقنية في إقناع بعض الأفراد للمشاركة أو لسماح للوصول على بيانات الشخصية او معلومات الحساسة للشركة. ومن المهم معرفة أن إستخدامات تقنية لا تقتصرعلى تزيف الصوت او الفيديو، بل مع تطور تقنية الذكاء الإصطناعي والأجهزة قد تصل إلى التعرف على الوجوه وتزييفها بشكل سريع ودقيق مما سيسمح لهم بمصادقة على الهويات والأشخاص. وفي ما يخص قوانين الملكية الفكرية هناك واقعة مشهورة لإحدى الحسابات، حيث تم إستخدام بعض أصوات المغنين المعروفين وممثلين السابقين وإستخدامها في أحد تقنيات الذكاء الإصطناعي لإنتاج بعض الأعمال المركبة، مما نتج عن ذلك بعض المطالبات لإزالة الفيديوهات وكانت من ضمنهم الشركة القائمة على إدارة أعمال الشخصية مشهورة ملقبة “جاي زي” لمحاولة نزع هذا النوع من الفيديوهات

ومن جانب تحليلي للواقعة الأخيرة، ان الإدعاء بإنتهاك حقوق الطبع والنشر الخاصة بهم قد لا تكون صحيحة في تلك الحالة على وجه الخصو ص من الجانب قانوني، والسبب يعود لأن خوازميات الذكاء الإصطناعي أستعملت بعض الأعمال المختلفة وكونت أعمال وإبتكارات جديدة كليًا، ولا يوجد ما يشير الى إنتهاك أي من الحقوق الحصرية المحمية بموجب حقوق النشر وهنا يرجع الأمر لتفصيل دقيق في مضمون قوانين الحقوق الملكية الفكرية، وإشكاليات عدم إعتماد حقوق الملكية للذكاء الإصطناعي لحصره على الإنسان، والتي تم مناقشتها بشكل سريع في مقالنا السابق. وفي ما يخص الأفراد، قد تستعمل هذه التقنيات بطرق غير أخلاقية إتجاه الأفراد بقصد الإضرار بهم من خلال إنتاج بعض الصور أو الفيديوهات التي تم التلاعب بها، سواء كانت بغرض الإبتزاز أو التهديد أو الحاق الضرر بسمعتهم، وهنا نجد أن بعض الدول شرعت بعض الأنظمة الت ي تحمي الأفراد تجرم هذه الأفعال، ومن ضمنها المملكة العربية السعودية والتي جرمت بعض هذه الحالات في نظام مكافحة الجرائم المعلوماتية اذا صاحبها أحد الأفعال المجرمة مثل ال دخول الغير المشروع وغيرها التي ذكرت في النظام، ولكن يجب أن نضع في الإعتبار أن مثل هذه التقنيات تتطور وتتعقد بشكل كبير وقد تصل الى مراحل متقدمة يصعب تميزها والتعامل معها بالطرق التقليدية . حلول لتخفيف المخاطر المحتملة نظرًا لأن إستخدامات تقنية أصبحت منتشرة بشكل كبير في وقتنا الحالي، ويسهل إستخدامها رغم إختلاف أنواعها، ولتوافر ا لأجهزة القادرة على معالجة مثل هذه البيانات، يمكن إستخدامها بطرق غير محمودة من قبل المحتالين لتحقيق مكاسب شخصية ، مما سوف يجعل المخاطر التي تشكلها هذه التقنية على المؤسسا ت والكيانات تتزايد بشكل كبير . وكما رأينا سابقا تم إستخدام هذه التقنية كسلاح لخداع المؤسسات بملايين الدولارات وليس هناك شك في أن هذه التكنولوجيا ستستمر في التطور والتعقيد يوما بعد يوم. لذلك يجب على المنظمات والشركات والمؤسسات إعادة النظر في ممارساتها الأمنية في ضوء المخاطر المتوقعة .

سوف أذكر بعض النقاط المهمة للتعامل مع هذه التقنية وتخفيف المخاطر

تدريب الموظفين على التعامل مع التهديدات الإلكترونية والوسائل الإحتالية وغيرها، وذلك بشرح كيفية حدوثها وكيفية إكتشافها. وطرق الإبلاغ في حال حدوثها

العمل على تنظيم إجراءات أمنية للمصادقة على الطلبات المالية الكبيرة وطلبات عالية الخطورة من خلال سياقات ووسائل آمنة في مكالمات الهاتفية وجلسات الفيديو

وضع خطط بديلة لإستمرارية عمل منافذ الإتصال، في حالة تعرض البريد الإلكتروني أو أحد وسائل التواصل الأخرى للخطر

تحديث بروتوكولات تقييم مخاطر الأمن السيبراني بشكل مستمر للتعامل مع حالات التزييف والتزوير الحديثة

توفير ضمانات تقنية التي تمنع وتكتشاف الهجمات الإحتيالية سواء كانت أو غيرها من الأساليب الإحتيالية من خلال طرق تحقق البديلة مثل وضع العلامات المائية على المحتوى ودمج الأدوات للمصادقة على الوسائط داخل أنظمتها الإلكترونية

أ / بـدر فـؤاد الـفـقـيـه

مستشار قانوني متخصص في قوانين تقنية المعلومات والتقنيات الحديثة