لقد تطورت التقنيات الأساسية لإنشاء نسخ رقمية من الأشخاص – النصوص والصوت والفيديو التي تبدو وكأنها شخص معين – بشكل سريع وهي على مسافة قريبة من المستقبل الذي يمكن أن تبدو فيه الصور الرمزية الرقمية وتتصرف مثل أشخاص محددين ، تاماغنا باسو قال ، المؤسس المشارك ورئيس قسم التكنولوجيا في neoEYED ، وهي شركة تحليلات سلوكية ، للحاضرين في مؤتمر Black Hat الافتراضي في 6 أغسطس.
على الرغم من أن مقاطع الفيديو المزيفة العميقة التي تقوم بتركيب نموذج ثلاثي الأبعاد لشخص معين على وجه شخص آخر قد أثارت مخاوف من مقاطع الفيديو الدعائية وعمليات التضليل وحملات التشهير ، إلا أن الاستنساخ الرقمي الناجح قد يتسبب في المزيد من المشكلات ، خاصة بالنسبة للأنظمة التي تستخدم التعرف على الصوت أو الوجه للوصول إليها الإدارة أو كطريقة لخداع الموظفين لقبول هوية شخص ما. في حين أن النتيجة الحالية لتجربة باسو تحتوي على العديد من الإشارات الدالة على أن الموضوع ليس بشريًا بوضوح ، فإن النجاح النسبي للمشروع يوضح مدى قربنا من إنشاء أشخاص محاكاة بنجاح.
“كما ترى بوضوح ، هناك فجوة ، لكن هذه الفجوة تدور حول جعل الصوت أكثر إقناعًا ، وجعل تعبيرات الوجه أكثر عاطفة ، تلك الموجودة على خريطة الطريق التي يجب القيام بها ،” قال للحضور أثناء عرضه. “الهدف النهائي الذي لدي ، [building] بديل [version of me] يمكن إجراء محادثة عبر النص والصوت والفيديو “، يبدو قابلاً للتحقيق.
مستوحاة من العروض المستقبلية مثل مرآة سوداءقرر باسو محاولة إنشاء نسخة رقمية لنفسه باستخدام ثلاث تقنيات موجودة بالفعل: روبوتات المحادثة والتركيب الصوتي ومقاطع الفيديو المزيفة. الجهد أقل عن البحث الأصلي وأكثر حول تجميع مجموعة متنوعة من التقنيات. في حين أن نسخة الفيديو من نسخته الرقمية متقطعة وتولد الأصوات الصوتية ، اعتقد العديد من الأصدقاء الذين تحدثوا مع نسخة chatbot من نموذجه أنه ربما يغذي الإجابات إلى الجهاز.
إن مثل هذا التخصيص المعقول ، يشير إلى أنه – اعتمادًا على مدى قرب شخصين – يمكن للنسخ الرقمي أن يخدع المرء ليظن أنه الشخص الآخر ، كما قال.
قال في مقابلة مع Dark Reading: “كان هدفنا هو الحصول على اختبار Turing إيجابي ، لإقناعهم بأنه أنا حقًا” ، مضيفًا: “أحد أكثر الأجزاء رعباً هو أنه إذا كان لديك 100 صديق في Facebook ، تحدث بصراحة ، هناك القليل جدًا من العلاقات التي يكون فيها الأشخاص شخصيًا للغاية. لذا ، فإن المشكلة الحقيقية هي أنه من السهل تزييف العلاقة “.
وأضاف أن التكنولوجيا يمكن أن تسبب مشاكل لتقنيات التحقق من الهوية. تستخدم شركة Basu التحليلات لإنشاء ملفات تعريف سلوكية للأشخاص لحماية الهويات – أحد الأسباب التي دفعته إلى اتخاذ إستراتيجية عدائية ومحاولة استخدام ملفات التعريف السلوكية لإنشاء نسخة مستنسخة. الاستنساخ الرقمي الذي لا يبدو فقط وكأنه شخص آخر ولكن لديه أيضًا سلوكيات وأنماط تحدث مشابهة للموضوع ستجعل الهندسة الاجتماعية أسهل.
على مستوى عالٍ ، يتم تقسيم التكنولوجيا إلى ثلاثة أجزاء ، والتي أطلق عليها باسو الدماغ والصوت والوجه. الدماغ هو محرك روبوت محادثة نصي يحاول إجراء محادثة تفاعلية باستخدام معالجة اللغة الطبيعية. هناك مجموعة متنوعة من الأساليب لروبوتات المحادثة التي يمكنها إنتاج وظائف معقولة ، اعتمادًا على نوع المحادثة. غالبًا ما تكون المحادثات ذات النطاق المحدود – مثل المحادثات القصيرة والمحادثات التي تبحث عن معلومات محددة – قائمة على القواعد.
باستخدام مجموعة متنوعة من سجلات الدردشة المختلفة لشخص معين ، يمكنك تدريب مثل هذه الروبوتات على استخدام نفس النوع من اللغة التي يستخدمها هذا الشخص ، كما قال أثناء العرض. “الدماغ هو المحرك الذي يمثل جوهر المشروع بأكمله. إنه يعرف نوع الأسئلة التي يجب طرحها وكيفية الإجابة على هذه الأسئلة.”
باستخدام مكتبة روبوت محادثة مفتوحة المصدر تُعرف باسم Rasa ، أنشأ Basu نظامًا يمكنه إجراء محادثة قصيرة وإجراء محادثات. استخدم باسو أيضًا برنامج تركيب صوتي و 500 عينة من صوته بمعدل 10 ثوانٍ لكل منها لتدريب عملية التعلم الآلي. سيتطلب استنساخ الصوت الأفضل ما يصل إلى 10 ساعات من التسجيل. إنه يلعب باللهجات.
بالنسبة للوجه ، أراد إنشائه في الوقت شبه الحقيقي وجعل الفم يطابق الكلمات. بشكل عام ، يبدو أن الهجمات على الهوية تبدو ممكنة وفي هذه المرحلة تتطلب مجرد تحسين.
محتوى ذو صلة:
صحفي تقني مخضرم لأكثر من 20 عامًا. مهندس بحث سابق. كتب لأكثر من عشرين مطبوعة ، بما في ذلك CNET News.com و Dark Reading و MIT’s Technology Review و Popular Science و Wired News. خمس جوائز للصحافة ، بما في ذلك أفضل موعد نهائي … عرض السيرة الذاتية الكاملة
اقتراحات للقراءة:
المزيد من الأفكار
