This artist is creating a “belligerent algorithm” to expose AI bias
لقد ثبت بشكل متزايد أن الخوارزميات التي تدعم أنظمة الذكاء الاصطناعي (AI) تعكس تحيزات مصمميها. يقوم Darke بإنشاء نظام يستند إلى تحيزاتهم الخاصة لتسليط الضوء على مشكلة التحيز في الذكاء الاصطناعي، ويدعو المبرمجين إلى أن يكونوا مسئولين عن الخوارزميات التي تحكم كل شيء من التصنيفات الائتمانية إلى الإدانات الجنائية.
تم تكليف المشروع الفني من قبل Open Data Institute (ODI)، مما جعل Darke فنانًا مقيمًا في مجال البحث والتطوير. يقوم Darke بكتابة خوارزمية منحازة بشكل علني ضد الديموغرافيا التي تصمم في الغالب الخوارزميات التي تؤثر على حياتنا: الرجال البيض. يسعى المشروع الجاري إلى قلب الرواية المعتادة، حيث تنعكس التحيزات المتأصلة في هذه الديموغرافية عن غير قصد في أنظمة الذكاء الاصطناعي التي يبنونها.
أدت هذه الخوارزميات إلى عواقب واقعية للفئات المهمشة. في يناير من هذا العام، تم القبض على رجل أمريكي من أصل أفريقي ظلماً بعد أن قام نظام التعرف على الوجه بمطابقة صورته بشكل خاطئ مع لقطات أمنية لسرقة متجر. في عام 2018، تخلصت أمازون من خوارزمية التوظيف التي تميزت ضد المرأة لأنها تم تدريبها على مجموعات بيانات من السير الذاتية التي كان يغلب عليها الرجال.
قال Darke، متحدثًا في حدث Data Futures الأخير الذي نظمته ODI، "أحاول غالبًا سد الفجوة بين كيفية رؤية الثقافة المهيمنة للثقافة السوداء وإقامة هذا الارتباط واستخدام ذلك لاستجواب نوع معين من سياسات القمع. "أعتقد أنه مع هذه اللجنة كان الأمر مختلفًا لأنني كنت أتحدث إلى أشخاص كانوا على دراية بالمشكلات بالفعل"
يهدف Darke إلى استخدام فنهم لجعل الجمهور يشعر بالتواطؤ والمسئولية على أمل أن يتم تحفيزهم على اتخاذ إجراء. بدلاً من التركيز على من يتضرر من كيفية استخدامنا للبيانات والاعتماد المفرط على الخوارزميات، أرادوا تسليط الضوء على الأشخاص الذين كانوا جزءًا من بناء الأنظمة والهياكل القمعية التي أدت إلى تحيز الذكاء الاصطناعي.
قال Darke، وهو أستاذ مساعد في الفنون الرقمية ووسائل الإعلام الجديدة والدراسات العرقية والعرقية في جامعة كاليفورنيا في سانتا كروز: "في عملي، أحاول تجنب اتخاذ الخبرات المهمشة ثم تقديمها على طبق من أجل جمهور أكثر امتيازًا". .
"نميل إلى الشعور بقدر معين من الذنب ومن ثم نشعر بالرضا عن أنفسنا لشعورنا بالسوء ومن ثم لا نفعل أي شيء. لذا، فإن تسليط الضوء على الأشخاص الذين يبنون هذه الأنظمة بطريقة "اتباع الأوامر فقط"، وليس بالضرورة رموز التكنولوجيا الكبيرة، التي نعتقد أنها قوية للغاية، ولكن المهندسين والأشخاص الذين يعملون في الإشراف على المحتوى، والأشخاص الذين يعملون على السياسة مثل كل يوم الأشخاص الذين يبنون هذه الهياكل شديدة الضرر".
تم تكليف المشروع الفني من قبل Open Data Institute (ODI)، مما جعل Darke فنانًا مقيمًا في مجال البحث والتطوير. يقوم Darke بكتابة خوارزمية منحازة بشكل علني ضد الديموغرافيا التي تصمم في الغالب الخوارزميات التي تؤثر على حياتنا: الرجال البيض. يسعى المشروع الجاري إلى قلب الرواية المعتادة، حيث تنعكس التحيزات المتأصلة في هذه الديموغرافية عن غير قصد في أنظمة الذكاء الاصطناعي التي يبنونها.
أدت هذه الخوارزميات إلى عواقب واقعية للفئات المهمشة. في يناير من هذا العام، تم القبض على رجل أمريكي من أصل أفريقي ظلماً بعد أن قام نظام التعرف على الوجه بمطابقة صورته بشكل خاطئ مع لقطات أمنية لسرقة متجر. في عام 2018، تخلصت أمازون من خوارزمية التوظيف التي تميزت ضد المرأة لأنها تم تدريبها على مجموعات بيانات من السير الذاتية التي كان يغلب عليها الرجال.
قال Darke، متحدثًا في حدث Data Futures الأخير الذي نظمته ODI، "أحاول غالبًا سد الفجوة بين كيفية رؤية الثقافة المهيمنة للثقافة السوداء وإقامة هذا الارتباط واستخدام ذلك لاستجواب نوع معين من سياسات القمع. "أعتقد أنه مع هذه اللجنة كان الأمر مختلفًا لأنني كنت أتحدث إلى أشخاص كانوا على دراية بالمشكلات بالفعل"
يهدف Darke إلى استخدام فنهم لجعل الجمهور يشعر بالتواطؤ والمسئولية على أمل أن يتم تحفيزهم على اتخاذ إجراء. بدلاً من التركيز على من يتضرر من كيفية استخدامنا للبيانات والاعتماد المفرط على الخوارزميات، أرادوا تسليط الضوء على الأشخاص الذين كانوا جزءًا من بناء الأنظمة والهياكل القمعية التي أدت إلى تحيز الذكاء الاصطناعي.
قال Darke، وهو أستاذ مساعد في الفنون الرقمية ووسائل الإعلام الجديدة والدراسات العرقية والعرقية في جامعة كاليفورنيا في سانتا كروز: "في عملي، أحاول تجنب اتخاذ الخبرات المهمشة ثم تقديمها على طبق من أجل جمهور أكثر امتيازًا". .
"نميل إلى الشعور بقدر معين من الذنب ومن ثم نشعر بالرضا عن أنفسنا لشعورنا بالسوء ومن ثم لا نفعل أي شيء. لذا، فإن تسليط الضوء على الأشخاص الذين يبنون هذه الأنظمة بطريقة "اتباع الأوامر فقط"، وليس بالضرورة رموز التكنولوجيا الكبيرة، التي نعتقد أنها قوية للغاية، ولكن المهندسين والأشخاص الذين يعملون في الإشراف على المحتوى، والأشخاص الذين يعملون على السياسة مثل كل يوم الأشخاص الذين يبنون هذه الهياكل شديدة الضرر".
