قالت OpenAI إنها أوقفت خمس عمليات تأثير سرية استخدمت نماذج الذكاء الاصطناعي الخاصة بها في أنشطة خادعة عبر الإنترنت. وقالت الشركة يوم الخميس إن هذه العمليات، التي أغلقتها OpenAI بين عامي 2023 و2024، انطلقت من روسيا والصين وإيران وإسرائيل وحاولت التلاعب بالرأي العام والتأثير على النتائج السياسية دون الكشف عن هوياتهم أو نواياهم الحقيقية. وقالت OpenAI في تقرير حول العملية: "اعتبارًا من مايو 2024، لا يبدو أن هذه الحملات قد زادت بشكل ملموس من تفاعل الجمهور أو الوصول إليه نتيجة لخدماتنا"، وأضافت أنها عملت مع أشخاص عبر صناعة التكنولوجيا والقطاع المدني. المجتمع والحكومات لقطع هذه الجهات الفاعلة المسيئة.
ويأتي تقرير OpenAI وسط مخاوف بشأن تأثير الذكاء الاصطناعي التوليدي على الانتخابات المتعددة حول العالم المقرر إجراؤها هذا العام بما في ذلك الولايات المتحدة. كشفت OpenAI في النتائج التي توصلت إليها كيف استخدمت شبكات الأشخاص المنخرطين في عمليات التأثير الذكاء الاصطناعي التوليدي لإنشاء نصوص وصور بكميات أكبر بكثير من ذي قبل، والمشاركة المزيفة باستخدام الذكاء الاصطناعي لإنشاء تعليقات مزيفة على منشورات وسائل التواصل الاجتماعي.
وفقا إلى بلومبرج قال بن نيمو، المحقق الرئيسي في فريق الاستخبارات والتحقيقات في OpenAI، لأعضاء وسائل الإعلام في مؤتمر صحفي: "على مدى العام ونصف العام الماضيين، كان هناك الكثير من الأسئلة حول ما يمكن أن يحدث إذا استخدمت عمليات التأثير الذكاء الاصطناعي التوليدي". "مع هذا التقرير، نريد حقًا أن نبدأ في ملء بعض الفراغات".
وقالت OpenAI إن العملية الروسية المسماة "Doppelganger"، استخدمت نماذج الشركة لتوليد العناوين الرئيسية، وتحويل المقالات الإخبارية إلى منشورات على فيسبوك، وإنشاء تعليقات بلغات متعددة لتقويض الدعم لأوكرانيا. استخدمت مجموعة روسية أخرى نماذج OpenAI لتصحيح التعليمات البرمجية لروبوت Telegram الذي نشر تعليقات سياسية قصيرة باللغتين الإنجليزية والروسية، مستهدفًا أوكرانيا ومولدوفا والولايات المتحدة ودول البلطيق. استخدمت شبكة "Spamouflage" الصينية، المعروفة بجهودها في التأثير عبر فيسبوك وإنستجرام، نماذج OpenAI للبحث في نشاط الوسائط الاجتماعية وإنشاء محتوى قائم على النص بلغات متعددة عبر منصات مختلفة. كما استخدم "الاتحاد الدولي للوسائط الافتراضية" الإيراني الذكاء الاصطناعي لإنشاء محتوى بلغات متعددة.
إن إفصاح OpenAI مشابه لما تقوم به شركات التكنولوجيا الأخرى من وقت لآخر. في يوم الأربعاء، على سبيل المثال، أصدرت شركة Meta تقريرها الأخير حول السلوك المنسق غير الأصيل الذي يوضح بالتفصيل كيف استخدمت شركة تسويق إسرائيلية حسابات فيسبوك مزيفة لتشغيل حملة تأثير على منصتها استهدفت أشخاصًا في الولايات المتحدة وكندا.
ويأتي تقرير OpenAI وسط مخاوف بشأن تأثير الذكاء الاصطناعي التوليدي على الانتخابات المتعددة حول العالم المقرر إجراؤها هذا العام بما في ذلك الولايات المتحدة. كشفت OpenAI في النتائج التي توصلت إليها كيف استخدمت شبكات الأشخاص المنخرطين في عمليات التأثير الذكاء الاصطناعي التوليدي لإنشاء نصوص وصور بكميات أكبر بكثير من ذي قبل، والمشاركة المزيفة باستخدام الذكاء الاصطناعي لإنشاء تعليقات مزيفة على منشورات وسائل التواصل الاجتماعي.
وفقا إلى بلومبرج قال بن نيمو، المحقق الرئيسي في فريق الاستخبارات والتحقيقات في OpenAI، لأعضاء وسائل الإعلام في مؤتمر صحفي: "على مدى العام ونصف العام الماضيين، كان هناك الكثير من الأسئلة حول ما يمكن أن يحدث إذا استخدمت عمليات التأثير الذكاء الاصطناعي التوليدي". "مع هذا التقرير، نريد حقًا أن نبدأ في ملء بعض الفراغات".
وقالت OpenAI إن العملية الروسية المسماة "Doppelganger"، استخدمت نماذج الشركة لتوليد العناوين الرئيسية، وتحويل المقالات الإخبارية إلى منشورات على فيسبوك، وإنشاء تعليقات بلغات متعددة لتقويض الدعم لأوكرانيا. استخدمت مجموعة روسية أخرى نماذج OpenAI لتصحيح التعليمات البرمجية لروبوت Telegram الذي نشر تعليقات سياسية قصيرة باللغتين الإنجليزية والروسية، مستهدفًا أوكرانيا ومولدوفا والولايات المتحدة ودول البلطيق. استخدمت شبكة "Spamouflage" الصينية، المعروفة بجهودها في التأثير عبر فيسبوك وإنستجرام، نماذج OpenAI للبحث في نشاط الوسائط الاجتماعية وإنشاء محتوى قائم على النص بلغات متعددة عبر منصات مختلفة. كما استخدم "الاتحاد الدولي للوسائط الافتراضية" الإيراني الذكاء الاصطناعي لإنشاء محتوى بلغات متعددة.
إن إفصاح OpenAI مشابه لما تقوم به شركات التكنولوجيا الأخرى من وقت لآخر. في يوم الأربعاء، على سبيل المثال، أصدرت شركة Meta تقريرها الأخير حول السلوك المنسق غير الأصيل الذي يوضح بالتفصيل كيف استخدمت شركة تسويق إسرائيلية حسابات فيسبوك مزيفة لتشغيل حملة تأثير على منصتها استهدفت أشخاصًا في الولايات المتحدة وكندا.
