محتواه الإباحي يسلط الضوء على مخاوف استخدامه في الإساءة والابتزاز
أثارت تقنية «التزييف العميق» (deepfake)، مخاوف العديد من عمالقة التقنية في العالم، فقننتها «جوجل» مؤخرًا، بحظر خوارزميات هذه التقنية المتقدمة من Google Colaboratory، خدمة الحوسبة المجانية التي تتيح إمكانية الوصول إلى وحدات معالجة الرسومات في الأجهزة، بعد أن وضعت العديد من الولايات الأمريكية تشريعات تنظم وتقنّن استخدام التزييف العميق، بينما تعمل الصين على مشروع قانون يتطلب وجود هوية تعريفية للمحتوى الذي يتم إنشاؤه باستخدام الحاسوب، فيما قد تتضمن لائحة الاتحاد الأوروبي التشريعية المرتقبة لتنظيم الذكاء الاصطناعي بندًا حول هذه التقنية المثيرة للجدل.
محتوى اصطناعيووفقًا لخبراء كاسبرسكي، يشير مصطلح «التزييف العميق» عادةً إلى أنواع مختلفة من المحتوى الاصطناعي الذي يتم إنشاؤه باستخدام الحاسب بالاعتماد على أشخاص وشبكات عصبية عميقة، وقد يكون هذا المحتوى مقاطع فيديو أو صورًا أو تسجيلات صوتية. ويقلل اللجوء إلى «التعلم العميق» بدلًا من تقنيات تحرير الصور التقليدية، كثيرًا من الجهد والمهارة المطلوبين لإنشاء تزييف مقنع.
ويشير المصطلح إلى برمجية معينة اكتسبت شهرة على «ريديت»، بإمكانها زرع وجه شخص في مقطع فيديو يظهر فيه شخص آخر، وقد استُخدمت في إنشاء مواد إباحية ونشرها بغرض الإساءة إلى بعض المشاهير.
مخاوف الاستخدامووفقًا لبعض التقديرات، فإن 96% من جميع محتوى التزييف العميق هو مواد إباحية، ما يسلط الضوء على المخاوف من استخدام هذه التقنية في الإساءة والابتزاز والتشهير، ويمكن أن تساعد هذه التقنية أيضًا مجرمي الإنترنت، في حالتين معروفتين على الأقل، ففي إنجلترا، استُخدم تزييف عميق للصوت في خداع شركات لتحويل الأموال إلى محتالين، من خلال التظاهر بكون المتحدثين مسؤولين في شركات معنية.
وأظهرت الأبحاث الحديثة أن الخوارزميات التجارية التي تستخدمها المؤسسات المالية للتحقق من هوية العملاء، يمكن خداعها بالتزييف العميق الذي يتم إنشاؤه من صور الهوية؛ ما يؤسس لنواقل هجوم جديدة ويجعل من الهويات المسرَّبة مشكلة أخطر.
وهناك كذلك مشكلة أخرى تتمثل في أن تقنية التزييف العميق تقوّض الثقة في محتوى الصوت والفيديو، الذي يمكن استخدامه في أغراض خبيثة. وفي إحدى الحالات الحديثة، مثلًا، استخدمت مقابلة مزيفة مع إيلون ماسك للترويج لعملية احتيال في مجال العملات الرقمية.
تلاعب إيجابي في نفس الوقت يشير الخبراء إلى أنه ليس كل ما يتعلق بالتزييف العميق سيئًا؛ فالتلاعب بالصور قديم قِدم الصور نفسها، وإنشاء الصور حاسوبيا موجود منذ عقود، وكلاهما وجد استخدامًا لائقًا، والحال هذه تنطبق على تقنية التزييف العميق.
ومن الأمثلة على ذلك، استخدام تقنية التزييف العميق لتحويل وجه مغني الراب كندريك لامار في مقطع فيديو حديث بعنوان «هيرت بارت 5» إلى مشاهير آخرين، مثل مغني الراب كاني ويست. وفي فيلم «توب جان مفريك»، استُخدمت خوارزمية لتجسيد صوت الممثل فال كيلمر في الفيلم بعد أن فقد صوته.
ويبحث عدد من الشركات الناشئة عن سُبل جديدة للاستفادة من هذه التقنية في إنشاء شخصيات ميتافيرية نابضة بالحياة.
سبل الاكتشافويوضّخ خبراء كاسبرسكي للمستخدمين سبل اكتشاف التزييف العميق بالعديد من النقاط، الأولى، أنه ما زال التزييف العميق المقنِع، كالفيديو الذي يظهر فيه توم كروز، يتطلب الكثير من الخبرة والجهد، وأحيانًا حتى منتحل شخصية محترف، ولا يزال التزييف العميق المستخدم في عمليات الاحتيال يميل إلى انخفاض الجودة، ويمكن رصده بملاحظة حركات الشفاه غير الطبيعية، والتنفيذ الضعيف للشعر، وأشكال الوجه غير المنسجمة، وانعدام حركة أجفان العيون تقريبًا، وعدم انسجام لون البشرة، وما إلى ذلك، مشيرين إلى أنه يمكن أن تذهب جهود هواة التزييف العميق سُدًى بسبب التنفيذ السيئ للملابس أو مرور يد أمام الوجه في الفيديو.
حلول أمنيةالنقطة الثانية التي تكشف التزييف العميق وفقًا للخبراء، تتضمن أنه إذا شاهدت فيديو لشخصية عامة أو مشهورة تخرج بتصريحات غريبة أو تقدم عروضًا يصعب تصديقها، وحتى لو بدا الفيديو مقنعًا، فعليك بالتحقق مما شاهدت وسمعت مع مصادر موثوق بها، وضع في اعتبارك أن بوسع المحتالين إخفاء أوجه القصور في التزييف العميق عن طريق الخفض المتعمَّد لجودة الفيديو، لذا فإن أفضل إستراتيجية تتمثل في عدم التحديق في الفيديو بحثًا عن أدلة، وإنما اللجوء إلى الفطرة السليمة والتحقق من المعلومات، موضحين أنه يمكن أن يتيح وجود حل أمني موثوق به دعمًا جيدًا إذا أدّى مقطع مبني على التزييف العميق عالي الجودة إلى إقناع المستخدم بتنزيل ملفات أو برمجيات خبيثة، أو زيارة روابط مشبوهة أو مواقع ويب تصيدية.
التصدي للجريمةوقالوا إنه في حال وقعت ضحية لمحتوى إباحي صُمّم بتقنية التزييف عميق، فيمكنك التواصل مع كلٍّ من موقع الويب لطلب إزالة الفيديو (إذ تحظر العديد من مواقع الويب نشر التزييف العميق)، والتواصل كذلك مع السلطات القانونية المعنية، إذ يُعد التزييف العميق بغرض الإساءة جريمة جنائية في بعض التشريعات.
وقال عالم البيانات لدى كاسبرسكي، فلاديسلاف توشكانوف، إن التزييف العميق مثال بارز على التطور التقني السريع الذي «لا يمكننا مواكبة فهمه ولا الإمساك بزمام السيطرة على تبعاته»، معتبرًا أن هذا الأمر يجعله «إضافة مهمة إلى مجموعة أدوات الفنان، وفي الوقت نفسه أداة تضليل جديدة تتحدّى قدرة المجتمع على تمييز ما يمكن الوثوق به».
محتوى اصطناعيووفقًا لخبراء كاسبرسكي، يشير مصطلح «التزييف العميق» عادةً إلى أنواع مختلفة من المحتوى الاصطناعي الذي يتم إنشاؤه باستخدام الحاسب بالاعتماد على أشخاص وشبكات عصبية عميقة، وقد يكون هذا المحتوى مقاطع فيديو أو صورًا أو تسجيلات صوتية. ويقلل اللجوء إلى «التعلم العميق» بدلًا من تقنيات تحرير الصور التقليدية، كثيرًا من الجهد والمهارة المطلوبين لإنشاء تزييف مقنع.
ويشير المصطلح إلى برمجية معينة اكتسبت شهرة على «ريديت»، بإمكانها زرع وجه شخص في مقطع فيديو يظهر فيه شخص آخر، وقد استُخدمت في إنشاء مواد إباحية ونشرها بغرض الإساءة إلى بعض المشاهير.
مخاوف الاستخدامووفقًا لبعض التقديرات، فإن 96% من جميع محتوى التزييف العميق هو مواد إباحية، ما يسلط الضوء على المخاوف من استخدام هذه التقنية في الإساءة والابتزاز والتشهير، ويمكن أن تساعد هذه التقنية أيضًا مجرمي الإنترنت، في حالتين معروفتين على الأقل، ففي إنجلترا، استُخدم تزييف عميق للصوت في خداع شركات لتحويل الأموال إلى محتالين، من خلال التظاهر بكون المتحدثين مسؤولين في شركات معنية.
وأظهرت الأبحاث الحديثة أن الخوارزميات التجارية التي تستخدمها المؤسسات المالية للتحقق من هوية العملاء، يمكن خداعها بالتزييف العميق الذي يتم إنشاؤه من صور الهوية؛ ما يؤسس لنواقل هجوم جديدة ويجعل من الهويات المسرَّبة مشكلة أخطر.
وهناك كذلك مشكلة أخرى تتمثل في أن تقنية التزييف العميق تقوّض الثقة في محتوى الصوت والفيديو، الذي يمكن استخدامه في أغراض خبيثة. وفي إحدى الحالات الحديثة، مثلًا، استخدمت مقابلة مزيفة مع إيلون ماسك للترويج لعملية احتيال في مجال العملات الرقمية.
تلاعب إيجابي في نفس الوقت يشير الخبراء إلى أنه ليس كل ما يتعلق بالتزييف العميق سيئًا؛ فالتلاعب بالصور قديم قِدم الصور نفسها، وإنشاء الصور حاسوبيا موجود منذ عقود، وكلاهما وجد استخدامًا لائقًا، والحال هذه تنطبق على تقنية التزييف العميق.
ومن الأمثلة على ذلك، استخدام تقنية التزييف العميق لتحويل وجه مغني الراب كندريك لامار في مقطع فيديو حديث بعنوان «هيرت بارت 5» إلى مشاهير آخرين، مثل مغني الراب كاني ويست. وفي فيلم «توب جان مفريك»، استُخدمت خوارزمية لتجسيد صوت الممثل فال كيلمر في الفيلم بعد أن فقد صوته.
ويبحث عدد من الشركات الناشئة عن سُبل جديدة للاستفادة من هذه التقنية في إنشاء شخصيات ميتافيرية نابضة بالحياة.
سبل الاكتشافويوضّخ خبراء كاسبرسكي للمستخدمين سبل اكتشاف التزييف العميق بالعديد من النقاط، الأولى، أنه ما زال التزييف العميق المقنِع، كالفيديو الذي يظهر فيه توم كروز، يتطلب الكثير من الخبرة والجهد، وأحيانًا حتى منتحل شخصية محترف، ولا يزال التزييف العميق المستخدم في عمليات الاحتيال يميل إلى انخفاض الجودة، ويمكن رصده بملاحظة حركات الشفاه غير الطبيعية، والتنفيذ الضعيف للشعر، وأشكال الوجه غير المنسجمة، وانعدام حركة أجفان العيون تقريبًا، وعدم انسجام لون البشرة، وما إلى ذلك، مشيرين إلى أنه يمكن أن تذهب جهود هواة التزييف العميق سُدًى بسبب التنفيذ السيئ للملابس أو مرور يد أمام الوجه في الفيديو.
حلول أمنيةالنقطة الثانية التي تكشف التزييف العميق وفقًا للخبراء، تتضمن أنه إذا شاهدت فيديو لشخصية عامة أو مشهورة تخرج بتصريحات غريبة أو تقدم عروضًا يصعب تصديقها، وحتى لو بدا الفيديو مقنعًا، فعليك بالتحقق مما شاهدت وسمعت مع مصادر موثوق بها، وضع في اعتبارك أن بوسع المحتالين إخفاء أوجه القصور في التزييف العميق عن طريق الخفض المتعمَّد لجودة الفيديو، لذا فإن أفضل إستراتيجية تتمثل في عدم التحديق في الفيديو بحثًا عن أدلة، وإنما اللجوء إلى الفطرة السليمة والتحقق من المعلومات، موضحين أنه يمكن أن يتيح وجود حل أمني موثوق به دعمًا جيدًا إذا أدّى مقطع مبني على التزييف العميق عالي الجودة إلى إقناع المستخدم بتنزيل ملفات أو برمجيات خبيثة، أو زيارة روابط مشبوهة أو مواقع ويب تصيدية.
التصدي للجريمةوقالوا إنه في حال وقعت ضحية لمحتوى إباحي صُمّم بتقنية التزييف عميق، فيمكنك التواصل مع كلٍّ من موقع الويب لطلب إزالة الفيديو (إذ تحظر العديد من مواقع الويب نشر التزييف العميق)، والتواصل كذلك مع السلطات القانونية المعنية، إذ يُعد التزييف العميق بغرض الإساءة جريمة جنائية في بعض التشريعات.
وقال عالم البيانات لدى كاسبرسكي، فلاديسلاف توشكانوف، إن التزييف العميق مثال بارز على التطور التقني السريع الذي «لا يمكننا مواكبة فهمه ولا الإمساك بزمام السيطرة على تبعاته»، معتبرًا أن هذا الأمر يجعله «إضافة مهمة إلى مجموعة أدوات الفنان، وفي الوقت نفسه أداة تضليل جديدة تتحدّى قدرة المجتمع على تمييز ما يمكن الوثوق به».