نميل إلى الثقة في محتوى التسجيلات الصوتية والمرئية. ولكن بفضل الذكاء الاصطناعي، يمكن إعادة إنشاء وجه أو صوت أي شخص بدقة متناهية. والمنتج عبارة عن تقليد عميق، وهو تقليد يمكن استخدامه في الميمات أو المعلومات المضللة أو المواد الإباحية.
نظرة واحدة على نيكولاس كيج يزيف مقاطع الفيديو أو جوردان بيل إعلان الخدمة العامة المزيف من الواضح أننا نتعامل مع تكنولوجيا جديدة غريبة. هذه الأمثلة، على الرغم من كونها غير ضارة نسبيًا، تثير تساؤلات حول المستقبل. هل يمكننا أن نثق في الفيديو والصوت؟ هل يمكننا محاسبة الأشخاص على أفعالهم على الشاشة؟ هل نحن مستعدون للتزييف العميق؟
تعد تقنية Deepfakes جديدة وسهلة الصنع وتنمو بسرعة
لا يتجاوز عمر تقنية التزييف العميق بضع سنوات، ولكنها تطورت بالفعل إلى شيء آسر ومزعج في الوقت نفسه. يُستخدم مصطلح “التزييف العميق”، الذي صيغ في موضوع على موقع Reddit في عام 2017، لوصف إعادة إنشاء مظهر أو صوت الإنسان من خلال الذكاء الاصطناعي. ومن المدهش أن أي شخص تقريبًا يمكنه إنشاء تزييف عميق باستخدام جهاز كمبيوتر رديء وبعض البرامج وبضع ساعات من العمل.
كما هو الحال مع أي تقنية جديدة، هناك بعض الارتباك حول التزييف العميق. مقطع فيديو “بيلوسي في حالة سُكر” هو مثال ممتاز على هذا الارتباك. يتم إنشاء التزييف العميق بواسطة الذكاء الاصطناعي، ويتم صنعه لانتحال شخصيات الناس. مقطع فيديو “دونك بيلوسي”، الذي يُشار إليه باسم التزييف العميق، هو في الواقع مجرد مقطع فيديو لنانسي بيلوسي تم نشره على الإنترنت. تم التباطؤ وتصحيح درجة الصوت لإضافة تأثير الكلام غير الواضح.
وهذا أيضًا ما يجعل التزييف العميق مختلفًا عن، على سبيل المثال، CGI Carrie Fisher في Star Wars: Rogue One. في حين أنفقت ديزني مبالغ طائلة من المال لدراسة وجه Carrie Fisher وإعادة إنشائه يدويًا، يمكن لأي شخص مهووس باستخدام بعض برامج التزييف العميق أن يفعل ذلك. افعل نفس العمل مجانا في يوم واحد. تجعل الذكاء الاصطناعي المهمة بسيطة للغاية ورخيصة ومقنعة.
كيفية صنع Deepfake
مثل الطالب في الفصل الدراسي، يجب على الذكاء الاصطناعي أن “يتعلم” كيفية أداء المهمة المقصودة منه. وهو يفعل ذلك من خلال عملية التجربة والخطأ بالقوة الغاشمة، والتي يشار إليها عادة باسم التعلم الآلي أو التعلم العميق. على سبيل المثال، سوف يلعب الذكاء الاصطناعي المصمم لإكمال المستوى الأول من لعبة سوبر ماريو بروس اللعبة مرارًا وتكرارًا حتى يكتشف أفضل طريقة للفوز. يحتاج الشخص الذي يصمم الذكاء الاصطناعي إلى توفير بعض البيانات لبدء الأمور، جنبًا إلى جنب مع بعض “القواعد” عندما تسوء الأمور على طول الطريق. وبصرف النظر عن ذلك، يقوم الذكاء الاصطناعي بكل العمل.
وينطبق الأمر نفسه على إعادة إنشاء الوجوه باستخدام تقنية التزييف العميق. ولكن بالطبع، إعادة إنشاء الوجوه لا تعادل الفوز في لعبة فيديو. فإذا أردنا إنشاء نسخة مزيفة من نيكولاس كيج وهو يستضيف برنامج ويندي ويليامز، فإليك ما نحتاجه:
- فيديو عن الوجهة:في الوقت الحالي، تعمل مقاطع الفيديو المزيفة بشكل أفضل مع مقاطع فيديو واضحة ونظيفة. ولهذا السبب فإن بعض مقاطع الفيديو المزيفة الأكثر إقناعًا هي تلك التي تصور سياسيين؛ فهم يميلون إلى الوقوف ساكنين على المنصة تحت إضاءة ثابتة. لذا، نحتاج فقط إلى مقطع فيديو لويندي وهي جالسة ساكنة وتتحدث.
- مجموعتي بيانات:لكي تبدو حركات الفم والرأس دقيقة، نحتاج إلى مجموعة بيانات لوجه ويندي ويليامز ومجموعة بيانات لوجه نيكولاس كيج. إذا نظرت ويندي إلى اليمين، نحتاج إلى صورة لنيكولاس كيج وهو ينظر إلى اليمين. إذا فتحت ويندي فمها، نحتاج إلى صورة لكيدج وهو يفتح فمه.
بعد ذلك، نترك الذكاء الاصطناعي يقوم بوظيفته. يحاول إنشاء التزييف العميق مرارًا وتكرارًا، ويتعلم من أخطائه على طول الطريق. الأمر بسيط، أليس كذلك؟ حسنًا، مقطع فيديو لوجه كيج على جسد ويندي ويليام لن يخدع أحدًا، فكيف يمكننا أن نذهب إلى أبعد من ذلك؟
إن أكثر مقاطع الفيديو المزيفة إقناعًا (وربما تكون ضارة) هي مقاطع الفيديو المزيفة التي تعتمد على التقليد الكامل. أوباما مزيف يعد جوردان بيل مثالاً جيدًا. لذا، فلنقم بتقليد أحد هذه الشخصيات. فلنقم بإنشاء مقطع مزيف لمارك زوكربيرج يعلن فيه كراهيته للنمل — يبدو هذا مقنعًا، أليس كذلك؟ إليك ما سنحتاجه:
- فيديو عن الوجهة:قد يكون هذا مقطع فيديو لزوكربيرج نفسه أو لممثل يشبه زوكربيرج. إذا كان مقطع الفيديو الذي نريده لممثل، فسوف نلصق ببساطة وجه زوكربيرج على الممثل.
- بيانات الصورة:نحتاج إلى صور لزوكربيرج وهو يتحدث ويومض بعينيه ويحرك رأسه. وإذا كنا نريد أن نضع وجهه فوق وجه ممثل، فسنحتاج أيضًا إلى مجموعة بيانات لحركات وجه الممثل.
- صوت زوك:يجب أن يبدو صوت التزييف العميق الخاص بنا مثل صوت زوكربيرج. يمكننا القيام بذلك عن طريق تسجيل صوت منتحل، أو عن طريق إعادة إنشاء صوت زوكربيرج باستخدام الذكاء الاصطناعي. لإعادة إنشاء صوته، نقوم ببساطة بتشغيل عينات صوتية لزوكربيرج من خلال الذكاء الاصطناعي مثل طائر القيثارة، ثم نكتب ما نريد منه أن يقوله.
- الذكاء الاصطناعي لمزامنة الشفاه:نظرًا لأننا نضيف صوت زوكربيرج المزيف إلى الفيديو الخاص بنا، فإن الذكاء الاصطناعي لمزامنة الشفاه يحتاج إلى التأكد من أن حركات الوجه المزيفة تتطابق مع ما يقال.
نحن لا نحاول التقليل من أهمية العمل والخبرة اللازمين لإنتاج مقاطع فيديو مزيفة. ولكن عند مقارنتها بعمل CGI الذي تكلف مليون دولار والذي جلب أودري هيبورن تعود من الموتإن مقاطع الفيديو المزيفة العميقة هي مجرد نزهة في الحديقة. ورغم أننا لم نصدق حتى الآن مقاطع الفيديو المزيفة السياسية أو مقاطع الفيديو المزيفة التي تظهر المشاهير، فإن حتى أسوأ مقاطع الفيديو المزيفة العميقة وأكثرها وضوحًا تسببت في ضرر حقيقي.
لقد تسببت تقنية Deepfakes بالفعل في أضرار حقيقية في العالم الحقيقي
حتى الآن، لا تعدو أغلب مقاطع الفيديو المزيفة عن نيكولاس كيج، وإعلانات الخدمة العامة، وصور إباحية مخيفة للمشاهير. هذه المنافذ غير ضارة نسبيًا ويسهل التعرف عليها، ولكن في بعض الحالات، تُستخدم مقاطع الفيديو المزيفة بنجاح لنشر معلومات مضللة وإيذاء حياة الآخرين.
في الهند، يستخدم القوميون الهندوس مقاطع فيديو مزيفة لتشويه سمعة الصحفيات والتحريض على العنف ضدهن. في عام 2018، قامت صحفية تدعى رنا أيوب سقطت ضحية إلى حملة التضليل هذه، والتي تضمنت مقطع فيديو مزيفًا لوجهها تم وضعه فوق مقطع فيديو إباحي. وقد أدى هذا إلى أشكال أخرى من المضايقات عبر الإنترنت التهديد بالعنف الجسدي.
في الولايات المتحدة، تُستخدم تقنية التزييف العميق غالبًا لإنشاء صور إباحية انتقامية غير موافقة. تم الإبلاغ عنه بواسطة نائبسأل العديد من المستخدمين في منتدى Reddit الذي حظر الآن التزييف العميق عن كيفية إنشاء تزييف عميق لصديقات سابقات، وأشخاص معجبين، وأصدقائهن، وزملاء الدراسة (نعم، صور إباحية للأطفال). المشكلة ضخمة لدرجة أن ولاية فرجينيا تحظر الآن جميع أشكال المواد الإباحية غير المقبولة، بما في ذلك التزييف العميق.
مع تزايد إقناعنا بتقنيات التزييف العميق، فمن المؤكد أن هذه التقنية سوف تُستخدم لأغراض أكثر إثارة للشكوك. ولكن هناك احتمال أن نكون مبالغين في رد فعلنا، أليس كذلك؟ أليست هذه هي الخطوة الأكثر طبيعية بعد الفوتوشوب؟
التزييف العميق هو امتداد طبيعي للصور المزيفة
حتى في مستواها الأكثر أساسية، فإن التزييف العميق مزعج. فنحن نثق في تسجيلات الفيديو والصوت لالتقاط أقوال وأفعال الناس دون أي تحيز أو معلومات مضللة. ولكن بطريقة ما، فإن تهديد التزييف العميق ليس جديدًا على الإطلاق. فقد كان موجودًا منذ أن بدأنا في استخدام التصوير الفوتوغرافي.
خذ على سبيل المثال الصور القليلة الموجودة لأبراهام لينكولن. أغلب هذه الصور (بما في ذلك الصور الموجودة على البنس والخمسة دولارات) تم التلاعب بها وقد قام مصور يدعى ماثيو برادي بتحسين مظهر لينكولن النحيف (وخاصة رقبته النحيلة). وقد تم تعديل بعض هذه الصور بطريقة تذكرنا بالتزييف العميق، حيث تم وضع رأس لينكولن فوق أجساد رجال “أقوياء” مثل كالهون (المثال أدناه عبارة عن نقش وليس صورة فوتوغرافية).
قد يبدو هذا وكأنه جزء غريب من الدعاية، ولكن خلال ستينيات القرن التاسع عشر، كانت التصوير الفوتوغرافي يحمل قدرًا معينًا من “الحقيقة” التي نحتفظ بها الآن للتسجيلات المرئية والصوتية. وكان يُنظر إليه على أنه النقيض التام للفن—علملقد تم التلاعب بهذه الصور عمداً لتشويه سمعة الصحف التي انتقدت لينكولن بسبب ضعف جسده. وفي النهاية نجحت هذه المحاولة. لقد أعجب الأميركيون بجسد لينكولن، وزعم لينكولن نفسه أن صور برادي “جعلني رئيسا“.”
إن الصلة بين تقنية التزييف العميق وتعديل الصور في القرن التاسع عشر مريحة بشكل غريب. فهي تقدم لنا الرواية التي مفادها أنه على الرغم من العواقب الوخيمة لهذه التقنية، إلا أنها ليست شيئًا خارج سيطرتنا تمامًا. ولكن من المؤسف أن هذه الرواية قد لا تصمد لفترة طويلة.
لن نتمكن من اكتشاف التزييف العميق إلى الأبد
نحن معتادون على اكتشاف الصور ومقاطع الفيديو المزيفة بأعيننا. من السهل أن ننظر إلى صورة عائلة جوزيف جوبلز وقوله“هناك شيء غريب بشأن هذا الرجل في الخلف.” نظرة سريعة على صور الدعاية الكورية الشمالية من الواضح أنه بدون دروس يوتيوب، فإن الناس لا يجيدون استخدام برنامج فوتوشوب. وعلى الرغم من مدى روعة التزييف العميق، لا يزال ذلك ممكنا لتحديد التزييف العميق بمجرد النظر إليه.
ولكننا لن نتمكن من اكتشاف مقاطع الفيديو المزيفة لفترة أطول. ففي كل عام، تصبح مقاطع الفيديو المزيفة أكثر إقناعًا وأسهل في إنشائها. يمكنك إنشاء مقطع فيديو مزيف عميق مع صورة واحدةويمكنك استخدام الذكاء الاصطناعي مثل طائر القيثارة استنساخ الأصوات في أقل من دقيقة. إن عمليات التزييف العميق عالية التقنية التي تدمج مقاطع الفيديو والصوت المزيفة مقنعة بشكل لا يصدق، حتى عندما يتم تصنيعها لتقليد شخصيات يمكن التعرف عليها مثل مارك زوكربيرج.
في المستقبل، قد نستخدم الذكاء الاصطناعي والخوارزميات وتقنية البلوك تشين لمحاربة التزييف العميق. من الناحية النظرية، يمكن للذكاء الاصطناعي مسح مقاطع الفيديو للبحث عن التزييف العميق.بصمات الأصابع“يمكن لتقنية blockchain المثبتة عبر أنظمة التشغيل تحديد المستخدمين أو الملفات التي تحتوي على برامج التزييف العميق.
إذا كانت هذه الأساليب المضادة للتزييف العميق تبدو لك غبية، فانضم إلى النادي. حتى الباحثين في مجال الذكاء الاصطناعي يشكك الكثيرون في وجود حل حقيقي لمشكلة التزييف العميق. ومع تحسن برامج الكشف، ستتحسن أيضًا مشكلة التزييف العميق. وفي النهاية، سنصل إلى نقطة حيث يصبح من المستحيل اكتشاف التزييف العميق، وسيكون لدينا الكثير من الأمور التي يجب أن نهتم بها أكثر من أفلام المشاهير المزيفة ومقاطع فيديو نيكولاس كيج.