وثيقة جديدة للتصدي لعمليات الاحتيال والتضليل في "الذكاء الاصطناعي"

طرحت الهيئة السعودية للبيانات والذكاء الاصطناعي، وثيقة مبادئ التزييف العميق، عبر منصة ”استطلاع“ بهدف وضع أدلة استرشادية واضحة للمطورين وصناع المحتوى والمستخدمين لتفادي أو معالجة الآثار المترتبة من استخدام تقنيات التزييف العميق والتخفيف من مخاطرها.
كما تتضمن توصيات ومبادئ أخلاقيات الذكاء الاصطناعي وممارسات حماية البيانات الشخصية.

مخاطر أساسية

صنّفت الوثيقة المخاطر الأساسية المرتبطة بتقنيات التزييف العميق الخبيثة إلى 3 فئات، تشمل العمليات الاحتيالية، التي تتمثل في تقنيات التزييف العميق لتقليد الأفراد الموثوق بهم بشكلٍ مقنع من أجل الحصول على معلومات حساسة أو خداع الضحايا، ومن خلال تكرار الأصوات وتعبيرات الوجه والسلوكيات.
وتتضمن أيضًا الاحتيال على الشركات المتعددة الجنسيات، أو التلاعب غير المصرح به استخدام تقنية التزييف العميق لإنشاء محتوى صريح أو مساومة للأفراد دون إذنهم، وغالباً ما يكون ذلك لأغراض متنوعة، مثل: المضايقة، أو الابتزاز، أو الإضرار بالسمعة، أو انتهاك الخصوصية، كفضيحة التزييف العميق للمشاهير.

التضليل والدعاية

تشمل المخاطر الأساسية أيضًا التضليل والدعاية عن طريق نشر تقنيات التزييف العميق معلومات كاذبة، وتتلاعب بالتصور العام، وتؤثر على النتائج السياسية من خلال تصوير شخصيات سياسية تدلي ببيانات كاذبة أو تنخرط في سلوك غير أخلاقي، ويمكن استخدام هذا التكتيك لتقويض انتشار المعارضين، والتأثير على الرأي العام، وزعزعة استقرار المجتمعات، مما يؤدي إلى انتشار المعلومات الخاطئة، مثل حادثة التزييف العميق لزعيم سياسي.
أكدت الوثيقة أنه للتخفيف من المخاطر المرتبطة بالتزييف العميق، يجب على الأفراد والمؤسسات تنفيذ أفضل الممارسات والتي منها الحد من التعرض للبيانات الشخصية عبر الإنترنت، وتعزيز الثقافة حول مخاطر التزييف العميق، والتعرف على خصائص التزييف العميق، وتنفيذ عمليات تحقق قوية بالنسبة للمؤسسات لا سيما العاملة في مجال الإعلام والاتصالات.

أخلاقيات الذكاء الاصطناعي

ألزمت الوثيقة، المطورين بأخلاقيات الذكاء الاصطناعي ويتم تشجيعهم على ضمان توافق تقنيات التزييف العميق مع المعايير الأخلاقية الموضوعة، حماية البيانات الشخصية، ومنع سوء الاستخدام.
وأكدت على امتثالهم للقوانين واحترام الأخلاق الاجتماعية والالتزام بالقيم الأساسية أمر ضروري لا يمكن التفريط فيه، ويجب أن تسهم التقنية في تسهيل التحقق من صحة المحتوى، ومنع إساءة استخدام الوسائط الاصطناعية، وتعزيز الممارسات المسؤولة والجديرة بالثقة.
وأوجبت الالتزام بالبروتوكولات الصارمة لجمع البيانات، واستخدام الحد الأدنى من البيانات الضرورية، وتطبيق إخفاء الهوية والأسماء المستعارة لتقليل مخاطر إعادة تحديد الهوية.

الحفاظ على الخصوصية

اشترطت دمج تقنيات الحفاظ على الخصوصية في معالجة البيانات، وتقليل الاحتفاظ بالبيانات، وإنشاء دورات مراجعة آلية للتقييم المنتظم وحذف البيانات غير الضرورية، وتحقيق مبدأ الشفافية والوضوح، وتوثيق كل مكون من مكونات نموذج الذكاء الاصطناعي بما في ذلك مصادر البيانات وخطوات المعالجة المسبقة والبنية الخوارزمية وعملية اتخاذ القرار، وضمان أن هذه الوثائق قابلة للقراءة آلياً.
وأكدت الوثيقة على المطورين، تطوير وتطبيق تقنيات العلامات المائية الرقمية غير المتطفلة وضمان مقاومتها للهجمات الشائعة مثل إعادة الضغط، والقص، وتغيير المظهر، والحفاظ على الشفافية من خلال نشر تقارير منتظمة حول استخدام تقنيات التزييف العميق وتأثيرها، بما في ذلك التدابير المتخذة لمنع سوء الاستخدام.

تطبيقات مفيدة

وشددت على توجيه تقنيات التزييف العميق نحو التطبيقات المفيدة اجتماعياً وبيئياً مثل التعليم، والترفيه، والرعاية الصحية، مع تجنب إساءة استخدام هذه التقنيات أو تطبيقها بشكل غير أخلاقي.
واشترطت على صناع المحتوى ​​​​​​استخدام تقنية التزييف العميق بشكل مسؤول من خلال الالتزام بالمعايير الأخلاقية وحماية البيانات الشخصية ومنع سوء الاستخدام.
ونصت الوثيقة على أهمية الامتثال للقوانين واحترام الأخلاق الاجتماعية والمواءمة مع القيم الأساسية أمراً ضرورياً، نظرًا للتأثير المجتمعي الكبير للتزييف العميق، من الضروري توجيه صناعة المحتوى نحو الاستخدامات الإيجابية والبنَّاءة، بهدف الحفاظ على ثقة الجمهور، ومنع سوء الاستخدام، ومعالجة المخاطر، مثل العمليات الاحتيالية، والتلاعب غير المصرح به، والتضليل، والدعاية.

فحص صحة المحتوى

وأوضحت الوثيقة أن يمكن تحديد التزييف العميق بشكلٍ فعَّال من خلال نهج يتكون من ثلاث خطوات لفحص صحة المحتوى، من خلال تقييم الرسالة من حيث المصدر والسياق، والهدف من المحتوى، وتحليل العناصر السمعية والبصرية كتناقضات الإضاءات وتغير لون الجلد، أو الأنماط الوامضة، ومصادقة المحتوى باستخدام أدوات الكشف من الذكاء الاصطناعي لتحليل المحتوى وإعطاء مؤشرات حول التلاعب.
وحثت الوثيقة أفراد المجتمع على الإبلاغ عن الحادث فعندما يتأثر شخص ما بالتزييف العميق، يمكن اتخاذ خطوات محددة لمعالجة الموقف وحماية سمعته، منها التعرف على أنواع الاستخدام الخبيث، وإبلاغ المنصة عن الحادث، ووإبلاغ السلطات المختصة، وطلب مشورة النظام، وإشراك الطب الشرعي الرقمي، وتوثيق الأدلة.