الذكاء الاصطناعي يطلق موجة من “الاحيتال الإعلاني” يقوم على سرقة الهويات
كانت ميشيل جاينس، صانعة المحتوى البالغة من العمر 27 عامًا، تقضي شهر العسل عندما بدأت الرسائل تتدفق عليها من متابعيها، وتحذر من أن إعلانًا تجاريًا على موقع YouTube كان يستخدم شكلها للترويج لنوع من الأدوية والمكملات، حينها اكتشفت جاينس أنه تم “استنساخها رقمياً”.
أظهر الإعلان جاينس- وهي مؤثرة على وسائل التواصل الاجتماعي تنشر مقالات عن السفر وديكور المنزل والتخطيط لحفل الزفاف – في غرفة نومها الحقيقية، وهي ترتدي ملابسها الحقيقية ولكنها تصف شريكًا غير موجود يعاني من مشاكل في الصحة الجنسية.
وعلى ما يبدو فإن المحتالين سرقوا وتلاعبوا بمقطع الفيديو الأكثر شعبية لها، الذي كان عبارةً عن وصف عاطفي لطلاقها السابق – ربما باستخدام موجة جديدة من أدوات الذكاء الاصطناعي التي تسهل إنشاء فيديوهات مزيفة واقعية.
فمع تطوّر تقنيات الذكاء الاجتماعي والتكنولوجيا، يمكن للمحتالين الآن، ومن خلال بضع ثوانٍ فقط من اللقطات المصوّرة، الجمع بين أي فيديو وأي صوت مستنسخ باستخدام أدوات ذكية لإنشاء نسخة اصطناعية من صوت شخص حقيقي، وتسمح هذه التقنيات باستبدال الصوت في مقطع فيديو موجود، وتحريك شفاه المتحدث للتناسب مع الصوت المعدّل وبالتالي جعل النتيجة أكثر تصديقًا.
إعلانات بهويات مسروقة!
بات من الأسهل والأرخص إنشاء مقاطع فيديو مزيفة من محتوى حقيقي، فإن الجهات الفاعلة السيئة تسرق مقاطع فيديو على وسائل التواصل الاجتماعي تتطابق مع التركيبة السكانية للمبيعات، مما يؤدي إلى ما يتوقع الخبراء أنه سيكون انفجارًا في الإعلانات المصنوعة بهويات مسروقة.
وفي الأشهر الستة الماضية، تم استخدام مشاهير مثل تايلور سويفت وكيلي كلاركسون وتوم هانكس ونجم اليوتيوب MrBeast لترويج المكملات الغذائية الخادعة والعروض الترويجية لخطط طب الأسنان وهدايا iPhone. ولكن مع انتشار هذه الأدوات، يواجه أولئك الذين لديهم حضور أكثر تواضعًا على وسائل التواصل الاجتماعي نوعًا مشابهًا لسرقة الهوية، حيث يجدون وجوههم وكلماتهم مشوهة بواسطة الذكاء الاصطناعي للترويج لمنتجات وأفكار مسيئة في الكثير من الأحيان.
وقال لوكاس هانسن، المؤسس المشارك لمنظمة CivAI غير الربحية، التي تعمل على رفع مستوى الوعي حول مخاطر الذكاء الاصطناعي، إن مجرمي الإنترنت أو برامج التضليل هم في الأساس “يديرون شركة صغيرة، حيث توجد تكلفة لكل هجوم”. ولكن بالنظر إلى الأدوات الترويجية الرخيصة، فإن “الحجم سيزداد بشكل كبير”.
وقال بن كولمان، الرئيس التنفيذي والمؤسس المشارك لشركة Reality Defender، التي تساعد الشركات والحكومات على اكتشاف التزييف العميق، إن التكنولوجيا لا تتطلب سوى عينة صغيرة للعمل.
وأضاف كولمان: “إذا كان الصوت أو الفيديو أو الصور موجودًا بشكل علني – حتى لو لبضع ثوانٍ فقط – فمن الممكن استنساخها أو تغييرها أو تلفيقها بسهولة لجعلها تبدو كما لو أن شيئًا فريدًا تمامًا قد حدث”.
واللافت أنه يصعب البحث عن مقاطع الفيديو التي يمكن أن تنتشر بسرعة، مما يعني أن الضحايا غالبًا ما لا يدركون أنه يتم استخدام صورهم المماثلة.
ما علاقة بوتين؟
أولغا لويك، طالبة في جامعة بنسلفانيا، اكتشفت أنه تم استنساخها لفيديو يعمل بالذكاء الاصطناعي، لكن بحلول ذلك الوقت كان قد انتشر عبر مواقع التواصل الاجتماعي الصينية لما يقارب الـ5000 مرة.
في التفاصيل، شاهدت لويك مقطع فيديو يظهر فتاة تشبهها تمامًا. هذا الفيديو تم نشره على Little Red Book، النسخة الصينية من Instagram، وكانت “المستنسخة” تتحدث لغة الماندرين، وهي لغة لا تعرفها أصلاً.
وفي أحد مقاطع الفيديو، رأت لويك، التي ولدت ونشأت في أوكرانيا، مستنسختها – المسماة ناتاشا – واقفة أمام صورة الكرملين، قائلة: “كانت روسيا أفضل دولة في العالم” وتشيد بالرئيس فلاديمير بوتين. وقالت لويك في مقابلة: “شعرت بانتهاك شديد”. وأضافت “هذه هي الأشياء التي من الواضح أنني لن أفعلها أبدًا في حياتي.”
وعلى ما يبدو فإن الجهود المبذولة لمنع هذا النوع الجديد من سرقة الهوية بطيئة في الولايات المتحدة وفي العالم. ويقول الخبراء إن أقسام الشرطة الأمريكية التي تعاني من ضائقة مالية غير مجهزة لدفع تكاليف التحقيقات الباهظة الثمن في الجرائم الإلكترونية أو تدريب ضباط متخصصين. فضلاً عن غياب قانون فيدرالي خاص بالتزييف العميق، علماً أن أكثر من ثلاثين هيئة تشريعية في الولاية تمضي قدمًا في مشاريع قوانين الذكاء الاصطناعي، لكن المقترحات التي تحكم التزييف العميق تقتصر إلى حد كبير على الإعلانات السياسية والمواد الإباحية غير التوافقية.
وفي هذا السياق، قالت دانييل سيترون، الأستاذة بجامعة فرجينيا، والتي بدأت التحذير من التزييف العميق في عام 2018، إنه ليس من المستغرب أن تستهدف الحدود التالية للتكنولوجيا النساء.
في حين أن بعض قوانين الحقوق المدنية في الولاية تقيد استخدام وجه الشخص أو ما يشبهه في الإعلانات، إلا أن سيترون قالت إن رفع قضية أمر مكلف وأن المحتالين في مجال الذكاء الاصطناعي في جميع أنحاء العالم يعرفون كيفية “لعب اللعبة القضائية”.
ويقول بعض الضحايا الذين سُرقت محتوياتهم على وسائل التواصل الاجتماعي إنهم يشعرون بالعجز مع محدودية الموارد.
من جهته، قال يوتيوب هذا الشهر إنه لا يزال يعمل على السماح للمستخدمين بطلب إزالة المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي أو غيره من المحتوى الاصطناعي أو المعدل الذي “يحاكي شخصًا يمكن التعرف عليه، بما في ذلك وجهه أو صوته”، وهي سياسة وعدت بها الشركة لأول مرة في نوفمبر.
وفي بيان، كتب المتحدث باسم الشركة نيت فانكهاوسر: “نحن نستثمر بكثافة في قدرتنا على اكتشاف وإزالة الإعلانات الاحتيالية العميقة والممثلين السيئين الذين يقفون وراءها، كما فعلنا في هذه الحالة”. يتيح لنا آخر تحديث لسياسة الإعلانات لدينا اتخاذ إجراءات أسرع لتعليق حسابات مرتكبي الجرائم.
وبالعودة إلى قصة المؤثرة ميشيل جاينس، فقد تمكّنت شركة التي تدير أعمالها من إقناع YouTube بإزالة الإعلان بسرعة، لكن بالنسبة لأولئك الذين لديهم موارد أقل، قد يكون تعقب إعلانات التزييف العميق أو تحديد الجاني أمرًا صعبًا.
