أطلقت مجموعة من الباحثين في Google وGoogle DeepMind معهداً جديداً يركز على توسيع النقاش العلمي حول مستقبل الذكاء الاصطناعي العام AGI، في وقت تتزايد فيه قدرات النماذج المتقدمة بسرعة كبيرة.
وأُعلن عن المعهد في سبتمبر 2026، ويضم بين قيادته شخصيات بارزة من Google DeepMind، من بينهم Demis Hassabis وShane Legg وJames Manyika.
لماذا تم إنشاء المعهد؟
الفكرة الأساسية لا تقتصر على تطويرأكثر قوة، وإنما دراسة الأسئلة التي تظهر مع تطور هذه النماذج.
ومن بينها:
كيف يمكن تقييم النماذج المتقدمة؟
كيف يمكن التأكد من سلامتها؟
كيف يمكن مراقبة سلوك النماذج عندما تصبح أكثر تعقيدًا؟
كيف يمكن التعامل مع التأثيرات الاقتصادية والاجتماعية المحتملة للـ AGI؟
وكيف نحافظ على إمكانية فهم ومراجعة أنظمة الذكاء الاصطناعي؟
وبحسب TechCrunch، نشر المعهد عند إطلاقه مجموعة من المقالات التي تناولت موضوعات مختلفة، من بينها السياسات الاقتصادية للتعامل مع تأثير AGI، وإمكانية الحفاظ على قابلية فهم استدلال النماذج، ومبادئ استخدام الذكاء الاصطناعي بما يخدم البشر، وطرق تقييم نماذج الذكاء الاصطناعي المتقدمة.
اقتراح لإنشاء هيئة لتقييم نماذج الذكاء الاصطناعي
من أبرز إطلاق المعهد اقتراح Demis Hassabis إنشاء هيئة تضع معايير لتقييم نماذج الذكاء الاصطناعي المتقدمة.
وفق المقترح، يمكن أن تقدم شركات الذكاء الاصطناعي نماذجها للتقييم قبل إطلاقها، على أن تتطور عملية التقييم بمرور الوقت لتصبح أكثر استقلالية.
ومن الأفكار المطروحة أيضًا استخدام اختبارات لا تعرف الشركات مسبقًا تفاصيلها بالكامل، حتى لا تستطيع تصميم النموذج خصيصًا لاجتياز الاختبار.
لماذا تعتبر عملية التقييم مهمة؟
مع النماذج التقليدية، يمكن اختبار الأداء من خلال مجموعة محددة من الأسئلة والمهام.
لكن النماذج الأكثر تقدمًا أصبحت قادرة على تنفيذ مهام طويلة ومعقدة، واستخدام الأدوات والبرمجيات، والتعامل مع المعلومات الخارجية.
وهذا يجعل السؤال أكثر تعقيدًا:
هل يكفي أن نعرف مدى ذكاء النموذج، أم نحتاج أيضًا إلى معرفة كيف يتصرف عندما يحصل على قدر أكبر من الاستقلالية؟
وهنا تظهر أهمية التقييم المستقل والمستمر.
مشكلة أخرى: صعوبة مراقبة النماذج
تناول أحد الأبحاث المرتبطة بالمعهد مشكلة تقلص القدرة على رؤية وفهم العمليات الداخلية للنماذج الأكثر تقدمًا.
فمع تطور البنى المستخدمة في الذكاء الاصطناعي، قد يصبح من الصعب على الباحثين معرفة ما يحدث داخل النموذج بنفس مستوى الوضوح المتاح في بعض الأنظمة الحالية.
ولهذا يناقش الباحثون طرقًا للحفاظ على إمكانية مراقبة النماذج وتقييمها حتى مع زيادة قدراتها.
من تطوير النماذج إلى تقييمها
التطور اللافت في هذه المرحلةطناعي هو أن الاهتمام لم يعد منصبًا فقط على سؤال:
من يستطيع بناء النموذج الأقوى؟
بل أصبح هناك اهتمام متزايد بسؤال آخر:
كيف نقيس قدرات النموذج ونتأكد من سلامته قبل أن نمنحه قدرًا أكبر من الاستقلالية؟
ويأتي إطلاق معهد Google DeepMind في وقت تتزايد فيه أيضًا الدعوات إلى مزيد من التقييمات المستقلة وآليات السلامة في صناعة الذكاء الاصطناعي.
الخلاصة
إطلاق المعهد يمثل تطورًا مهمًا في ايركز على جانب يتجاوز مجرد بناء نماذج أكثر قوة.
المستقبل لن يعتمد فقط على قدرات الذكاء الاصطناعي، بل أيضًا على قدرتنا على فهم هذه القدرات وقياسها ومراقبتها مع استمرار تطورها.
