Here’s how neuroscience can protect AI from cyberattacks
لقد قطع التعلم العميق شوطًا طويلاً منذ الأيام التي كان يمكنه فيها التعرف على الأحرف المكتوبة بخط اليد فقط على الشيكات والمغلفات. اليوم، أصبحت الشبكات العصبية العميقة مكونًا رئيسيًا للعديد من تطبيقات الرؤية الحاسوبية، من برامج تحرير الصور والفيديو إلى البرامج الطبية والسيارات ذاتية القيادة.
على غرار بنية الدماغ تقريبًا، اقتربت الشبكات العصبية من رؤية العالم كما نفعل نحن البشر. لكن لا يزال أمامهم طريق طويل ليقطعوه ويرتكبوا أخطاء في مواقف لن يخطئها البشر أبدًا.
هذه المواقف، المعروفة عمومًا بأمثلة الخصومة، تغير سلوك نموذج الذكاء الاصطناعي بطرق مربكة. يعد التعلم الآلي عن طريق الخصم أحد أكبر التحديات التي تواجه أنظمة الذكاء الاصطناعي الحالية. يمكنهم قيادة نماذج التعلم الآلي التي تفشل بطرق لا يمكن التنبؤ بها أو تصبح عرضة للهجمات الإلكترونية.
على غرار بنية الدماغ تقريبًا، اقتربت الشبكات العصبية من رؤية العالم كما نفعل نحن البشر. لكن لا يزال أمامهم طريق طويل ليقطعوه ويرتكبوا أخطاء في مواقف لن يخطئها البشر أبدًا.
هذه المواقف، المعروفة عمومًا بأمثلة الخصومة، تغير سلوك نموذج الذكاء الاصطناعي بطرق مربكة. يعد التعلم الآلي عن طريق الخصم أحد أكبر التحديات التي تواجه أنظمة الذكاء الاصطناعي الحالية. يمكنهم قيادة نماذج التعلم الآلي التي تفشل بطرق لا يمكن التنبؤ بها أو تصبح عرضة للهجمات الإلكترونية.
أصبح إنشاء أنظمة ذكاء اصطناعي تتسم بالمرونة ضد الهجمات العدائية مجالًا نشطًا للبحث وموضوعًا ساخنًا للنقاش في مؤتمرات الذكاء الاصطناعي في رؤية الكمبيوتر، تتمثل إحدى الطرق المثيرة للاهتمام لحماية أنظمة التعلم العميق من الهجمات العدائية في تطبيق النتائج في علم الأعصاب لسد الفجوة بين الشبكات العصبية ونظام رؤية الثدييات.
باستخدام هذا النهج، وجد الباحثون في MIT و MIT-IBM Watson AI Lab أن التعيين المباشر لميزات القشرة البصرية للثدييات على الشبكات العصبية العميقة يخلق أنظمة ذكاء اصطناعي أكثر قابلية للتنبؤ في سلوكها وأكثر قوة في مواجهة الاضطرابات العدائية. في ورقة بحثية نُشرت على خادم bioRxiv قبل الطباعة، قدم الباحثون VOneNet، وهي بنية تجمع بين تقنيات التعلم العميق الحالية والشبكات العصبية المستوحاة من علم الأعصاب.
تم قبول العمل، الذي تم بمساعدة العلماء في جامعة ميونيخ وجامعة لودفيج ماكسيميليان وجامعة أوغسبورغ، في NeurIPS 2020، أحد المؤتمرات السنوية البارزة للذكاء الاصطناعي، والذي سيعقد تقريبًا هذا العام.
باستخدام هذا النهج، وجد الباحثون في MIT و MIT-IBM Watson AI Lab أن التعيين المباشر لميزات القشرة البصرية للثدييات على الشبكات العصبية العميقة يخلق أنظمة ذكاء اصطناعي أكثر قابلية للتنبؤ في سلوكها وأكثر قوة في مواجهة الاضطرابات العدائية. في ورقة بحثية نُشرت على خادم bioRxiv قبل الطباعة، قدم الباحثون VOneNet، وهي بنية تجمع بين تقنيات التعلم العميق الحالية والشبكات العصبية المستوحاة من علم الأعصاب.
تم قبول العمل، الذي تم بمساعدة العلماء في جامعة ميونيخ وجامعة لودفيج ماكسيميليان وجامعة أوغسبورغ، في NeurIPS 2020، أحد المؤتمرات السنوية البارزة للذكاء الاصطناعي، والذي سيعقد تقريبًا هذا العام.
الشبكات العصبية الملتفة Convolutional neural networks
العمارة الرئيسية المستخدمة في رؤية الكمبيوتر اليوم هي الشبكات العصبية الملتفة (CNN). عند تكديسها فوق بعضها البعض، يمكن تدريب طبقات ملتفة متعددة لتعلم واستخراج الميزات الهرمية من الصور. تجد الطبقات السفلية أنماطًا عامة مثل الزوايا والحواف، وتصبح الطبقات العليا تدريجيًا بارعة في العثور على أشياء أكثر تحديدًا مثل الكائنات والأشخاص.
العمارة الرئيسية المستخدمة في رؤية الكمبيوتر اليوم هي الشبكات العصبية الملتفة (CNN). عند تكديسها فوق بعضها البعض، يمكن تدريب طبقات ملتفة متعددة لتعلم واستخراج الميزات الهرمية من الصور. تجد الطبقات السفلية أنماطًا عامة مثل الزوايا والحواف، وتصبح الطبقات العليا تدريجيًا بارعة في العثور على أشياء أكثر تحديدًا مثل الكائنات والأشخاص.
بالمقارنة مع الشبكات التقليدية المتصلة بالكامل، أثبتت ConvNets أنها أكثر قوة وفعالية من الناحية الحسابية. ومع ذلك، لا تزال هناك اختلافات جوهرية بين الطريقة التي تعالج بها شبكات CNN والنظام البصري البشري المعلومات.
"ظهرت الشبكات العصبية العميقة (والشبكات العصبية الملتفة على وجه الخصوص) كنماذج جيدة مدهشة للقشرة البصرية- والمثير للدهشة أنها تميل إلى ملاءمة البيانات التجريبية التي تم جمعها من الدماغ بشكل أفضل حتى من النماذج الحسابية المصممة خصيصًا لشرح بيانات علم الأعصاب، "David Cox، مدير IBM في MIT-IBM Watson AI Lab، أخبر TechTalks. "ولكن ليس كل شبكة عصبية عميقة تتطابق مع بيانات الدماغ بشكل متساوٍ، وهناك بعض الفجوات المستمرة حيث يختلف الدماغ والشبكات العصبية العميقة."
وأبرز هذه الفجوات هي الأمثلة المتنازعة، حيث يمكن أن تتسبب الاضطرابات الدقيقة مثل رقعة صغيرة أو طبقة من الضوضاء غير المحسوسة في قيام الشبكات العصبية بتصنيف مدخلاتها بشكل خاطئ. تمر هذه التغييرات في الغالب دون أن يلاحظها أحد للعين البشرية.
"ظهرت الشبكات العصبية العميقة (والشبكات العصبية الملتفة على وجه الخصوص) كنماذج جيدة مدهشة للقشرة البصرية- والمثير للدهشة أنها تميل إلى ملاءمة البيانات التجريبية التي تم جمعها من الدماغ بشكل أفضل حتى من النماذج الحسابية المصممة خصيصًا لشرح بيانات علم الأعصاب، "David Cox، مدير IBM في MIT-IBM Watson AI Lab، أخبر TechTalks. "ولكن ليس كل شبكة عصبية عميقة تتطابق مع بيانات الدماغ بشكل متساوٍ، وهناك بعض الفجوات المستمرة حيث يختلف الدماغ والشبكات العصبية العميقة."
وأبرز هذه الفجوات هي الأمثلة المتنازعة، حيث يمكن أن تتسبب الاضطرابات الدقيقة مثل رقعة صغيرة أو طبقة من الضوضاء غير المحسوسة في قيام الشبكات العصبية بتصنيف مدخلاتها بشكل خاطئ. تمر هذه التغييرات في الغالب دون أن يلاحظها أحد للعين البشرية.
يقول Cox: "من المؤكد أن الصور التي تخدع DNNs لن تخدع أبدًا أنظمتنا البصرية". "إنها الحالة أيضًا أن DNNs هشة بشكل مدهش ضد التدهور الطبيعي (على سبيل المثال، إضافة الضوضاء) للصور، لذلك يبدو أن المتانة بشكل عام مشكلة مفتوحة لشبكات DNN. مع وضع هذا في الاعتبار، شعرنا أن هذا كان مكانًا جيدًا للبحث عن الاختلافات بين العقول و DNNs التي قد تكون مفيدة".
كان Cox يستكشف التقاطع بين علم الأعصاب والذكاء الاصطناعي منذ أوائل العقد الأول من القرن الحادي والعشرين، عندما كان طالبًا لـ James DiCarlo، أستاذ علم الأعصاب في معهد ماساتشوستس للتكنولوجيا. استمر الاثنان في العمل معًا منذ ذلك الحين.
"الدماغ هو آلة معالجة معلومات قوية وفعالة بشكل لا يصدق، ومن المحير أن نسأل عما إذا كان بإمكاننا تعلم حيل جديدة منه يمكن استخدامها لأغراض عملية. في الوقت نفسه، يمكننا استخدام ما نعرفه عن الأنظمة الاصطناعية لتقديم نظريات إرشادية وفرضيات يمكن أن تقترح تجارب لمساعدتنا على فهم الدماغ ، كما يقول كوكس.
كان Cox يستكشف التقاطع بين علم الأعصاب والذكاء الاصطناعي منذ أوائل العقد الأول من القرن الحادي والعشرين، عندما كان طالبًا لـ James DiCarlo، أستاذ علم الأعصاب في معهد ماساتشوستس للتكنولوجيا. استمر الاثنان في العمل معًا منذ ذلك الحين.
"الدماغ هو آلة معالجة معلومات قوية وفعالة بشكل لا يصدق، ومن المحير أن نسأل عما إذا كان بإمكاننا تعلم حيل جديدة منه يمكن استخدامها لأغراض عملية. في الوقت نفسه، يمكننا استخدام ما نعرفه عن الأنظمة الاصطناعية لتقديم نظريات إرشادية وفرضيات يمكن أن تقترح تجارب لمساعدتنا على فهم الدماغ ، كما يقول كوكس.
شبكات عصبية تشبه الدماغ Brain-like neural networks
بالنسبة للبحث الجديد، انضم Cox و DiCarlo إلى Joel Dapello و Tiago Marques، المؤلفين الرئيسيين للورقة، لمعرفة ما إذا كانت الشبكات العصبية أصبحت أكثر قوة في مواجهة الهجمات العدائية عندما كانت عمليات تنشيطها مماثلة لنشاط الدماغ. اختبر باحثو الذكاء الاصطناعي العديد من بنى CNN الشهيرة المدربة على مجموعة بيانات ImageNet، بما في ذلك AlexNet و VGG وأشكال مختلفة من ResNet. كما تضمنت أيضًا بعض نماذج التعلم العميق التي خضعت لـ "تدريب الخصوم adversarial training"، وهي عملية يتم فيها تدريب الشبكة العصبية على أمثلة معادية لتجنب سوء تصنيفها.
قام العالم بتقييم نماذج الذكاء الاصطناعي باستخدام مقياس "BrainScore"، الذي يقارن التنشيطات في الشبكات العصبية العميقة والاستجابات العصبية في الدماغ. ثم قاموا بعد ذلك بقياس متانة كل نموذج عن طريق اختباره ضد هجمات معادية الصندوق الأبيض، حيث يكون لدى المهاجم معرفة كاملة ببنية ومعلمات الشبكات العصبية المستهدفة.
يقول Cox: "لدهشتنا، كلما كان النموذج أكثر تشابهًا مع الدماغ، كان النظام أكثر قوة ضد الهجمات العدائية". "بناءً على ذلك، سألنا عما إذا كان من الممكن تحسين القوة (بما في ذلك قوة الخصومة) عن طريق إضافة محاكاة أكثر صدقًا للقشرة البصرية المبكرة- بناءً على تجارب علم الأعصاب- إلى مرحلة الإدخال للشبكة."
بالنسبة للبحث الجديد، انضم Cox و DiCarlo إلى Joel Dapello و Tiago Marques، المؤلفين الرئيسيين للورقة، لمعرفة ما إذا كانت الشبكات العصبية أصبحت أكثر قوة في مواجهة الهجمات العدائية عندما كانت عمليات تنشيطها مماثلة لنشاط الدماغ. اختبر باحثو الذكاء الاصطناعي العديد من بنى CNN الشهيرة المدربة على مجموعة بيانات ImageNet، بما في ذلك AlexNet و VGG وأشكال مختلفة من ResNet. كما تضمنت أيضًا بعض نماذج التعلم العميق التي خضعت لـ "تدريب الخصوم adversarial training"، وهي عملية يتم فيها تدريب الشبكة العصبية على أمثلة معادية لتجنب سوء تصنيفها.
قام العالم بتقييم نماذج الذكاء الاصطناعي باستخدام مقياس "BrainScore"، الذي يقارن التنشيطات في الشبكات العصبية العميقة والاستجابات العصبية في الدماغ. ثم قاموا بعد ذلك بقياس متانة كل نموذج عن طريق اختباره ضد هجمات معادية الصندوق الأبيض، حيث يكون لدى المهاجم معرفة كاملة ببنية ومعلمات الشبكات العصبية المستهدفة.
يقول Cox: "لدهشتنا، كلما كان النموذج أكثر تشابهًا مع الدماغ، كان النظام أكثر قوة ضد الهجمات العدائية". "بناءً على ذلك، سألنا عما إذا كان من الممكن تحسين القوة (بما في ذلك قوة الخصومة) عن طريق إضافة محاكاة أكثر صدقًا للقشرة البصرية المبكرة- بناءً على تجارب علم الأعصاب- إلى مرحلة الإدخال للشبكة."
VOneNet و VOneBlock
لمزيد من التحقق من صحة النتائج التي توصلوا إليها، طور الباحثون VOneNet، وهي بنية تعليمية عميقة هجينة تجمع بين شبكات CNN القياسية وطبقة من الشبكات العصبية المستوحاة من علم الأعصاب.
تستبدل VOneNet الطبقات القليلة الأولى من CNN بـ VOneBlock، وهي بنية شبكة عصبية تم تشكيلها بعد القشرة البصرية الأولية للقرود، والمعروفة أيضًا باسم منطقة V1. هذا يعني أن بيانات الصورة تتم معالجتها أولاً بواسطة VOneBlock قبل تمريرها إلى بقية الشبكة.
يتكون VOneBlock نفسه من بنك مرشح (Gabor filter bank GFB)، وخلايا غير خطية بسيطة ومعقدة، وعشوائية الخلايا العصبية. يشبه GFB الطبقات الملتفة الموجودة في الشبكات العصبية الأخرى. ولكن في حين أن الشبكات العصبية الكلاسيكية ذات قيم المعلمات العشوائية وضبطها أثناء التدريب، يتم تحديد قيم معلمات GFB وتثبيتها بناءً على ما نعرفه عن التنشيطات في القشرة البصرية الأولية.
لمزيد من التحقق من صحة النتائج التي توصلوا إليها، طور الباحثون VOneNet، وهي بنية تعليمية عميقة هجينة تجمع بين شبكات CNN القياسية وطبقة من الشبكات العصبية المستوحاة من علم الأعصاب.
تستبدل VOneNet الطبقات القليلة الأولى من CNN بـ VOneBlock، وهي بنية شبكة عصبية تم تشكيلها بعد القشرة البصرية الأولية للقرود، والمعروفة أيضًا باسم منطقة V1. هذا يعني أن بيانات الصورة تتم معالجتها أولاً بواسطة VOneBlock قبل تمريرها إلى بقية الشبكة.
يتكون VOneBlock نفسه من بنك مرشح (Gabor filter bank GFB)، وخلايا غير خطية بسيطة ومعقدة، وعشوائية الخلايا العصبية. يشبه GFB الطبقات الملتفة الموجودة في الشبكات العصبية الأخرى. ولكن في حين أن الشبكات العصبية الكلاسيكية ذات قيم المعلمات العشوائية وضبطها أثناء التدريب، يتم تحديد قيم معلمات GFB وتثبيتها بناءً على ما نعرفه عن التنشيطات في القشرة البصرية الأولية.
"تم تصميم أوزان GFB والخيارات المعمارية الأخرى لـ VOneBlock وفقًا لعلم الأحياء. هذا يعني أن جميع الخيارات التي اتخذناها لـ VOneBlock كانت مقيدة بفسيولوجيا الأعصاب. بعبارة أخرى، قمنا بتصميم VOneBlock لتقليد القشرة البصرية الأولية للرئيسيات قدر الإمكان (المنطقة V1). لقد درسنا البيانات المتاحة التي تم جمعها على مدى العقود الأربعة الماضية من عدة دراسات لتحديد معلمات VOneBlock "، كما يقول تياجو ماركيز، دكتوراه، زميل ما بعد الدكتوراه لمؤسسة PhRMA في معهد ماساتشوستس للتكنولوجيا والمؤلف المشارك للورقة.
في حين أن هناك اختلافات كبيرة في القشرة البصرية للرئيسيات المختلفة، هناك أيضًا العديد من الميزات المشتركة، خاصة في منطقة V1. يقول Marques: "لحسن الحظ، يبدو أن الاختلافات بين الرئيسيات طفيفة، وفي الواقع، هناك الكثير من الدراسات التي تظهر أن قدرات التعرف على الأشياء لدى القرود تشبه قدرات البشر. في نموذجنا باستخدام البيانات المتاحة المنشورة المستخدمة والتي تميز استجابات الخلايا العصبية V1 للقرود. في حين أن نموذجنا لا يزال مجرد تقريب للرئيسيات V1 (لا يتضمن جميع البيانات المعروفة وحتى تلك البيانات محدودة نوعًا ما- هناك الكثير الذي ما زلنا لا نعرفه عن معالجة V1)، إلا أنه تقدير تقريبي جيد ".
في حين أن هناك اختلافات كبيرة في القشرة البصرية للرئيسيات المختلفة، هناك أيضًا العديد من الميزات المشتركة، خاصة في منطقة V1. يقول Marques: "لحسن الحظ، يبدو أن الاختلافات بين الرئيسيات طفيفة، وفي الواقع، هناك الكثير من الدراسات التي تظهر أن قدرات التعرف على الأشياء لدى القرود تشبه قدرات البشر. في نموذجنا باستخدام البيانات المتاحة المنشورة المستخدمة والتي تميز استجابات الخلايا العصبية V1 للقرود. في حين أن نموذجنا لا يزال مجرد تقريب للرئيسيات V1 (لا يتضمن جميع البيانات المعروفة وحتى تلك البيانات محدودة نوعًا ما- هناك الكثير الذي ما زلنا لا نعرفه عن معالجة V1)، إلا أنه تقدير تقريبي جيد ".
"نموذج V1 الذي أضفناه هنا في الواقع بسيط للغاية- نحن نغير فقط المرحلة الأولى من النظام، بينما نترك بقية الشبكة دون مساس، ولا يزال الإخلاص البيولوجي لنموذج V1 بسيطًا للغاية"، ويضيف Cox، أن هناك الكثير من التفاصيل والفروق الدقيقة التي يمكن للمرء أن يضيفها إلى مثل هذا النموذج لجعله يتطابق بشكل أفضل مع ما هو معروف عن الدماغ.
يقول: "البساطة هي القوة في بعض النواحي، لأنها تعزل مجموعة أصغر من المبادئ التي قد تكون مهمة، ولكن سيكون من المثير للاهتمام استكشاف ما إذا كانت الأبعاد الأخرى للإخلاص البيولوجي قد تكون مهمة".
تتحدى الورقة الاتجاه الذي أصبح شائعًا جدًا في أبحاث الذكاء الاصطناعي في السنوات الماضية. بدلاً من تطبيق أحدث نتائج آليات الدماغ في أبحاثهم، يركز العديد من علماء الذكاء الاصطناعي على قيادة التقدم في هذا المجال من خلال الاستفادة من توافر موارد الحوسبة الضخمة ومجموعات البيانات الكبيرة لتدريب شبكات عصبية أكبر وأكبر. وكما ناقشنا في هذه الصفحات من قبل، فإن هذا النهج يمثل العديد من التحديات لأبحاث الذكاء الاصطناعي.
يثبت VOneNet أن الذكاء البيولوجي لا يزال لديه الكثير من الإمكانات غير المستغلة ويمكنه معالجة بعض المشكلات الأساسية التي تواجه أبحاث الذكاء الاصطناعي. "النماذج المعروضة هنا، المستمدة مباشرة من البيولوجيا العصبية للرئيسيات ، تتطلب بالفعل تدريبًا أقل لتحقيق المزيد من السلوك الشبيه بالإنسان. هذا هو منعطف واحد من دائرة فاضلة جديدة، حيث يغذي كل من علم الأعصاب والذكاء الاصطناعي ويعززان فهم وقدرة الآخر".
في المستقبل، سيقوم الباحثون باستكشاف خصائص VOneNet وزيادة تكامل الاكتشافات في علم الأعصاب والذكاء الاصطناعي. يقول Cox: "أحد قيود عملنا الحالي هو أنه على الرغم من أننا أظهرنا أن إضافة كتلة V1 تؤدي إلى تحسينات، إلا أنه لا يمكننا التعامل بشكل جيد مع سبب ذلك".
إن تطوير النظرية للمساعدة في فهم سؤال "لماذا" هذا سيمكن الباحثين في مجال الذكاء الاصطناعي من التركيز في النهاية على ما يهم حقًا وبناء أنظمة أكثر فعالية. كما يخططون أيضًا لاستكشاف تكامل البنى المستوحاة من علم الأعصاب خارج الطبقات الأولية للشبكات العصبية الاصطناعية.
يقول Cox، "لقد خدشنا السطح فقط فيما يتعلق بدمج عناصر الواقعية البيولوجية هذه في DNNs، ولا يزال هناك الكثير الذي يمكننا القيام به. نحن متحمسون لمعرفة إلى أين تأخذنا هذه الرحلة ".
يقول: "البساطة هي القوة في بعض النواحي، لأنها تعزل مجموعة أصغر من المبادئ التي قد تكون مهمة، ولكن سيكون من المثير للاهتمام استكشاف ما إذا كانت الأبعاد الأخرى للإخلاص البيولوجي قد تكون مهمة".
تتحدى الورقة الاتجاه الذي أصبح شائعًا جدًا في أبحاث الذكاء الاصطناعي في السنوات الماضية. بدلاً من تطبيق أحدث نتائج آليات الدماغ في أبحاثهم، يركز العديد من علماء الذكاء الاصطناعي على قيادة التقدم في هذا المجال من خلال الاستفادة من توافر موارد الحوسبة الضخمة ومجموعات البيانات الكبيرة لتدريب شبكات عصبية أكبر وأكبر. وكما ناقشنا في هذه الصفحات من قبل، فإن هذا النهج يمثل العديد من التحديات لأبحاث الذكاء الاصطناعي.
يثبت VOneNet أن الذكاء البيولوجي لا يزال لديه الكثير من الإمكانات غير المستغلة ويمكنه معالجة بعض المشكلات الأساسية التي تواجه أبحاث الذكاء الاصطناعي. "النماذج المعروضة هنا، المستمدة مباشرة من البيولوجيا العصبية للرئيسيات ، تتطلب بالفعل تدريبًا أقل لتحقيق المزيد من السلوك الشبيه بالإنسان. هذا هو منعطف واحد من دائرة فاضلة جديدة، حيث يغذي كل من علم الأعصاب والذكاء الاصطناعي ويعززان فهم وقدرة الآخر".
في المستقبل، سيقوم الباحثون باستكشاف خصائص VOneNet وزيادة تكامل الاكتشافات في علم الأعصاب والذكاء الاصطناعي. يقول Cox: "أحد قيود عملنا الحالي هو أنه على الرغم من أننا أظهرنا أن إضافة كتلة V1 تؤدي إلى تحسينات، إلا أنه لا يمكننا التعامل بشكل جيد مع سبب ذلك".
إن تطوير النظرية للمساعدة في فهم سؤال "لماذا" هذا سيمكن الباحثين في مجال الذكاء الاصطناعي من التركيز في النهاية على ما يهم حقًا وبناء أنظمة أكثر فعالية. كما يخططون أيضًا لاستكشاف تكامل البنى المستوحاة من علم الأعصاب خارج الطبقات الأولية للشبكات العصبية الاصطناعية.
يقول Cox، "لقد خدشنا السطح فقط فيما يتعلق بدمج عناصر الواقعية البيولوجية هذه في DNNs، ولا يزال هناك الكثير الذي يمكننا القيام به. نحن متحمسون لمعرفة إلى أين تأخذنا هذه الرحلة ".
