أعلنت Microsoft أنها استحوذت على Two Hat، وهي منصة إدارة محتوى مدعومة بالذكاء الاصطناعي، مقابل مبلغ لم يكشف عنه. وفقًا لـ CVP Dave McCarthy لخدمات منتجات Xbox، ستجمع عملية الشراء بين التكنولوجيا وإمكانيات البحث والفرق والبنية التحتية السحابية لكلتا الشركتين لخدمة عملاء Two Hat الحاليين والجدد و "تجارب المنتجات والخدمات المتعددة: في Microsoft.
قال McCarthy في مدونة: "من خلال العمل مع الفريق المتنوع وذوي الخبرة في Two Hat على مر السنين، أصبح من الواضح أننا نتوافق تمامًا مع القيم الأساسية المستوحاة من رؤية المؤسس Chris c، لتقديم نهج شامل للمجتمعات الإيجابية والمزدهرة عبر الإنترنت"، "على مدى السنوات القليلة الماضية، عملت Microsoft و Two Hat معًا لتنفيذ تقنية الاعتدال الاستباقي في تجارب الألعاب وغير الألعاب لاكتشاف المحتوى الضار وإزالته قبل أن يصل إلى أعضاء مجتمعاتنا".
قال McCarthy في مدونة: "من خلال العمل مع الفريق المتنوع وذوي الخبرة في Two Hat على مر السنين، أصبح من الواضح أننا نتوافق تمامًا مع القيم الأساسية المستوحاة من رؤية المؤسس Chris c، لتقديم نهج شامل للمجتمعات الإيجابية والمزدهرة عبر الإنترنت"، "على مدى السنوات القليلة الماضية، عملت Microsoft و Two Hat معًا لتنفيذ تقنية الاعتدال الاستباقي في تجارب الألعاب وغير الألعاب لاكتشاف المحتوى الضار وإزالته قبل أن يصل إلى أعضاء مجتمعاتنا".
الاعتدال Moderation
وفقًا لمركز Pew للأبحاث، فإن 4 من كل 10 أمريكيين قد تعرضوا شخصيًا لشكل من أشكال المضايقات عبر الإنترنت. علاوة على ذلك، يقول 37% من مستخدمي الإنترنت في الولايات المتحدة إنهم تعرضوا لهجمات شديدة بناءً على ميولهم الجنسية أو دينهم أو عرقهم أو إعاقتهم. يتعرض الأطفال، على وجه الخصوص، للإساءة عبر الإنترنت، حيث أظهر أحد الاستطلاعات زيادة بنسبة 70% في التنمر عبر الإنترنت على وسائل التواصل الاجتماعي ومنصات الألعاب أثناء الوباء.
أسس Priebe منصة Two Hat في عام 2012 عندما ترك منصبه كأحد كبار المتخصصين في أمان التطبيقات في Disney Interactive، قسم تطوير الألعاب في Disney. كان Priebe مطورًا رئيسيًا سابقًا في فريق السلامة والأمن في Club Penguin، وكان مدفوعًا برغبة في معالجة قضايا التنمر الإلكتروني والمضايقات على شبكة التواصل الاجتماعي.
اليوم، تدعي Two Hat أن نظامها الأساسي لإدارة المحتوى - الذي يجمع بين الذكاء الاصطناعي واللغويات و "أفضل ممارسات الإدارة الرائدة في الصناعة" - يصنف ويصفي ويصعد أكثر من تريليون تفاعل بشري بما في ذلك الرسائل وأسماء المستخدمين والصور ومقاطع الفيديو شهريًا. تعمل الشركة أيضًا مع سلطات إنفاذ القانون الكندية لتدريب الذكاء الاصطناعي على اكتشاف المواد الجديدة التي تستغل الأطفال.
قالت Two Hat على موقعها على الإنترنت: "مع التركيز على تسليط الضوء على الأضرار عبر الإنترنت بما في ذلك التسلط عبر الإنترنت، والإساءة، وخطاب الكراهية، والتهديدات العنيفة، واستغلال الأطفال، فإننا نمكّن العملاء عبر مجموعة متنوعة من الشبكات الاجتماعية في جميع أنحاء العالم لتعزيز تجارب مستخدم آمنة وصحية لجميع الأعمار".
وفقًا لمركز Pew للأبحاث، فإن 4 من كل 10 أمريكيين قد تعرضوا شخصيًا لشكل من أشكال المضايقات عبر الإنترنت. علاوة على ذلك، يقول 37% من مستخدمي الإنترنت في الولايات المتحدة إنهم تعرضوا لهجمات شديدة بناءً على ميولهم الجنسية أو دينهم أو عرقهم أو إعاقتهم. يتعرض الأطفال، على وجه الخصوص، للإساءة عبر الإنترنت، حيث أظهر أحد الاستطلاعات زيادة بنسبة 70% في التنمر عبر الإنترنت على وسائل التواصل الاجتماعي ومنصات الألعاب أثناء الوباء.
أسس Priebe منصة Two Hat في عام 2012 عندما ترك منصبه كأحد كبار المتخصصين في أمان التطبيقات في Disney Interactive، قسم تطوير الألعاب في Disney. كان Priebe مطورًا رئيسيًا سابقًا في فريق السلامة والأمن في Club Penguin، وكان مدفوعًا برغبة في معالجة قضايا التنمر الإلكتروني والمضايقات على شبكة التواصل الاجتماعي.
اليوم، تدعي Two Hat أن نظامها الأساسي لإدارة المحتوى - الذي يجمع بين الذكاء الاصطناعي واللغويات و "أفضل ممارسات الإدارة الرائدة في الصناعة" - يصنف ويصفي ويصعد أكثر من تريليون تفاعل بشري بما في ذلك الرسائل وأسماء المستخدمين والصور ومقاطع الفيديو شهريًا. تعمل الشركة أيضًا مع سلطات إنفاذ القانون الكندية لتدريب الذكاء الاصطناعي على اكتشاف المواد الجديدة التي تستغل الأطفال.
قالت Two Hat على موقعها على الإنترنت: "مع التركيز على تسليط الضوء على الأضرار عبر الإنترنت بما في ذلك التسلط عبر الإنترنت، والإساءة، وخطاب الكراهية، والتهديدات العنيفة، واستغلال الأطفال، فإننا نمكّن العملاء عبر مجموعة متنوعة من الشبكات الاجتماعية في جميع أنحاء العالم لتعزيز تجارب مستخدم آمنة وصحية لجميع الأعمار".
شراكة Microsoft
قبل عدة سنوات، اشتركت Two Hat مع فريق Xbox من Microsoft لتطبيق تقنية الاعتدال الخاصة بها على المجتمعات في Xbox و Minecraft و MSN. تتيح منصة Two Hat للمستخدمين تحديد المحتوى الذي يشعرون بالراحة في رؤيته- وما ليس كذلك- وهو ما يعتقد Priebe أنه عامل تمييز رئيسي مقارنة بحلول الإشراف المدعومة بالذكاء الاصطناعي مثل واجهة برمجة تطبيقات منظور Sentropy و Jigsaw Labs.
قال Priebe في بيان صحفي: "لقد أنشأنا واحدًا من أكثر حلول إدارة المجتمع المتاحة تكيفًا واستجابةً وشموليةً ووجدنا طرقًا مثيرة للجمع بين أفضل التقنيات والرؤى الفريدة". "نتيجة لذلك، نحن الآن مؤتمنون على المساعدة في التفاعلات عبر الإنترنت للعديد من أكبر المجتمعات في العالم".
تجدر الإشارة إلى أن الإشراف شبه الآلي لا يزال يمثل تحديًا لم يتم حله. في العام الماضي، أظهر الباحثون أن Perceive، وهي أداة طورتها Google وشركتها الفرعية Jigsaw، غالبًا ما تصنف التعليقات عبر الإنترنت المكتوبة باللغة العامية الأمريكية الأفريقية على أنها سامة. كشفت دراسة منفصلة أن القواعد النحوية السيئة والتهجئة المحرجة - مثل "Ihateyou love"، بدلاً من "I hate you" - تجعل المحتوى السام أكثر صعوبة بكثير على أجهزة كشف الذكاء الاصطناعي والآلات.
كما يتضح من منافسات مثل Fake News Challenge و Facebook Hateful Memes Challenge، لا تزال خوارزميات التعلم الآلي تكافح أيضًا لاكتساب فهم شامل للكلمات في السياق. من الواضح أن Facebook اعترف بأنه لم يتمكن من تدريب نموذج للعثور على حالات جديدة لفئة معينة من المعلومات المضللة: الأخبار المضللة حول COVID-19. كما أن نظام التعديل الآلي في Instagram قام مرة بتعطيل الأعضاء السود بنسبة 50% أكثر من المستخدمين البيض.
لكن McCarthy أعرب عن ثقته في قوة منتج Two Hat، والذي يتضمن نظامًا لسمعة المستخدم، ويدعم 20 لغة، ويمكنه تلقائيًا تعليق وحظر وكتم صوت أعضاء المجتمعات الذين يحتمل أن يكونوا مسيئين.
"نحن نتفهم التحديات المعقدة التي تواجهها المؤسسات اليوم عندما تسعى جاهدة للإشراف الفعال على المجتمعات عبر الإنترنت. في عالمنا الرقمي المتغير باستمرار، هناك حاجة ملحة لحلول الإشراف التي يمكنها إدارة المحتوى عبر الإنترنت بطريقة فعالة وقابلة للتطوير". "لقد شهدنا التأثير الذي أحدثوه في Xbox، ويسعدنا أن هذا الاستحواذ سيعمل بشكل أكبر على تسريع حلول الإشراف على محتوى الطرف الأول عبر الألعاب، ضمن مجموعة واسعة من خدمات العملاء من Microsoft، وبناء فرص أكبر لشركاء الجهات الخارجية واستخدام عملاء Two Hat الحاليين لهذه الحلول".
