قامت شركة ElevenLabs، وهي شركة ناشئة تعمل بالذكاء الاصطناعي وتقدم خدمات استنساخ الصوت بأدواتها، بحظر المستخدم الذي أنشأ مقطعًا صوتيًا بالتزييف العميق لجو بايدن تم استخدامه في محاولة لتعطيل الانتخابات، وفقًا لبلومبرج. تم استخدام الصوت الذي ينتحل شخصية الرئيس في مكالمة آلية تم إرسالها إلى بعض الناخبين في نيو هامبشاير الأسبوع الماضي، لإخبارهم بعدم التصويت في الانتخابات التمهيدية في ولايتهم. ولم يكن من الواضح في البداية ما هي التكنولوجيا المستخدمة لنسخ صوت بايدن، لكن التحليل الشامل الذي أجرته شركة الأمن Pindrop أظهر أن الجناة استخدموا أدوات ElevanLabs.
قامت شركة الأمان بإزالة ضوضاء الخلفية وتنظيف صوت robocall قبل مقارنتها بعينات من أكثر من 120 تقنية لتركيب الصوت تستخدم لإنشاء التزييف العميق. قال فيجاي بالاسوبرامانيان، الرئيس التنفيذي لشركة Pindrop، إنها "عادت بنسبة 99% إلى ما كانت عليه ElevenLabs". وتقول بلومبرج إن الشركة أُخطرت بالنتائج التي توصل إليها Pindrop وما زالت تحقق في الأمر، لكنها حددت بالفعل وأوقفت الحساب الذي أصدر الصوت المزيف. وأخبرت ElevenLabs المؤسسة الإخبارية أنها لا تستطيع التعليق على المشكلة نفسها، لكنها "مخصصة لمنع إساءة استخدام أدوات الذكاء الاصطناعي الصوتية و[أنها تأخذ] أي حوادث سوء استخدام على محمل الجد".
تُظهر مكالمة بايدن الآلية المزيفة بعمق كيف يمكن استخدام التقنيات التي يمكن أن تحاكي شكل شخص آخر وصوته للتلاعب بالأصوات في الانتخابات الرئاسية المقبلة في الولايات المتحدة. وقالت كاثلين كارلي، الأستاذة في جامعة كارنيجي ميلون، لصحيفة The Hill: "هذا مجرد غيض من فيض فيما يمكن فعله فيما يتعلق بقمع الناخبين أو الهجمات على العاملين في الانتخابات". "لقد كان ذلك بمثابة نذير تقريبًا لما يجب أن نتوقعه من جميع أنواع الأشياء خلال الأشهر القليلة المقبلة".
لم يستغرق الأمر سوى بضعة أيام على الإنترنت بعد أن أطلقت ElevenLabs النسخة التجريبية من منصتها لبدء استخدامها لإنشاء مقاطع صوتية تبدو وكأنها مشاهير يقرؤون أو يقولون شيئًا مشكوكًا فيه. تسمح الشركة الناشئة للعملاء باستخدام تقنيتها لاستنساخ الأصوات من أجل "الخطاب الفني والسياسي الذي يساهم في المناقشات العامة". تحذر صفحة الأمان الخاصة بها المستخدمين من أنه "لا يمكنهم استنساخ صوت لأغراض مسيئة مثل الاحتيال أو التمييز أو خطاب الكراهية أو أي شكل من أشكال الإساءة عبر الإنترنت دون انتهاك القانون". ولكن من الواضح أنها بحاجة إلى وضع المزيد من الضمانات لمنع الجهات الفاعلة السيئة من استخدام أدواتها للتأثير على الناخبين والتلاعب بالانتخابات في جميع أنحاء العالم.
قامت شركة الأمان بإزالة ضوضاء الخلفية وتنظيف صوت robocall قبل مقارنتها بعينات من أكثر من 120 تقنية لتركيب الصوت تستخدم لإنشاء التزييف العميق. قال فيجاي بالاسوبرامانيان، الرئيس التنفيذي لشركة Pindrop، إنها "عادت بنسبة 99% إلى ما كانت عليه ElevenLabs". وتقول بلومبرج إن الشركة أُخطرت بالنتائج التي توصل إليها Pindrop وما زالت تحقق في الأمر، لكنها حددت بالفعل وأوقفت الحساب الذي أصدر الصوت المزيف. وأخبرت ElevenLabs المؤسسة الإخبارية أنها لا تستطيع التعليق على المشكلة نفسها، لكنها "مخصصة لمنع إساءة استخدام أدوات الذكاء الاصطناعي الصوتية و[أنها تأخذ] أي حوادث سوء استخدام على محمل الجد".
تُظهر مكالمة بايدن الآلية المزيفة بعمق كيف يمكن استخدام التقنيات التي يمكن أن تحاكي شكل شخص آخر وصوته للتلاعب بالأصوات في الانتخابات الرئاسية المقبلة في الولايات المتحدة. وقالت كاثلين كارلي، الأستاذة في جامعة كارنيجي ميلون، لصحيفة The Hill: "هذا مجرد غيض من فيض فيما يمكن فعله فيما يتعلق بقمع الناخبين أو الهجمات على العاملين في الانتخابات". "لقد كان ذلك بمثابة نذير تقريبًا لما يجب أن نتوقعه من جميع أنواع الأشياء خلال الأشهر القليلة المقبلة".
لم يستغرق الأمر سوى بضعة أيام على الإنترنت بعد أن أطلقت ElevenLabs النسخة التجريبية من منصتها لبدء استخدامها لإنشاء مقاطع صوتية تبدو وكأنها مشاهير يقرؤون أو يقولون شيئًا مشكوكًا فيه. تسمح الشركة الناشئة للعملاء باستخدام تقنيتها لاستنساخ الأصوات من أجل "الخطاب الفني والسياسي الذي يساهم في المناقشات العامة". تحذر صفحة الأمان الخاصة بها المستخدمين من أنه "لا يمكنهم استنساخ صوت لأغراض مسيئة مثل الاحتيال أو التمييز أو خطاب الكراهية أو أي شكل من أشكال الإساءة عبر الإنترنت دون انتهاك القانون". ولكن من الواضح أنها بحاجة إلى وضع المزيد من الضمانات لمنع الجهات الفاعلة السيئة من استخدام أدواتها للتأثير على الناخبين والتلاعب بالانتخابات في جميع أنحاء العالم.
