كشفت شركة Meta النقاب عن Code Llama، وهو نموذج لغة كبير مصمم خصيصًا لمهام البرمجة. تم إنشاء Code Llama على أساس نموذج Llama 2 الذي تم إصداره مسبقًا وتم تدريبه بشكل أكبر على أكثر من 500 مليار رمز ورمز بيانات مرتبط بالرمز.
يهدف Code Llama إلى مساعدة مطوري البرامج من خلال إنشاء استجابات التعليمات البرمجية واللغة الطبيعية للمطالبات. وهو يدعم لغات البرمجة الشائعة مثل Python وJavascript وJava وC++ ويمكنه المساعدة في مهام مثل إكمال التعليمات البرمجية وتصحيح الأخطاء.
تقوم Meta بإصدار Code Llama بثلاثة أحجام – 7 مليار و13 مليار و34 مليار معلمة. تم تحسين الطرازين الأصغر حجمًا 7B و13B لحالات زمن الوصول المنخفض مثل إكمال التعليمات البرمجية في الوقت الفعلي. يوفر الطراز 34B أفضل النتائج الإجمالية ولكنه يتطلب المزيد من قوة الحوسبة.
بالإضافة إلى ذلك، قامت Meta بضبط متغيرات Python وInstruct من Code Llama. يوفر إصدار Python إمكانات محسنة لمهام إنشاء تعليمات برمجية Python. وفي الوقت نفسه، تم ضبط إصدار Instruct بشكل دقيق لإنشاء استجابات أكثر أمانًا وإفادة لمطالبات اللغة الطبيعية.
يهدف Code Llama إلى مساعدة مطوري البرامج من خلال إنشاء استجابات التعليمات البرمجية واللغة الطبيعية للمطالبات. وهو يدعم لغات البرمجة الشائعة مثل Python وJavascript وJava وC++ ويمكنه المساعدة في مهام مثل إكمال التعليمات البرمجية وتصحيح الأخطاء.
تقوم Meta بإصدار Code Llama بثلاثة أحجام – 7 مليار و13 مليار و34 مليار معلمة. تم تحسين الطرازين الأصغر حجمًا 7B و13B لحالات زمن الوصول المنخفض مثل إكمال التعليمات البرمجية في الوقت الفعلي. يوفر الطراز 34B أفضل النتائج الإجمالية ولكنه يتطلب المزيد من قوة الحوسبة.
بالإضافة إلى ذلك، قامت Meta بضبط متغيرات Python وInstruct من Code Llama. يوفر إصدار Python إمكانات محسنة لمهام إنشاء تعليمات برمجية Python. وفي الوقت نفسه، تم ضبط إصدار Instruct بشكل دقيق لإنشاء استجابات أكثر أمانًا وإفادة لمطالبات اللغة الطبيعية.
يقول Meta إن Code Llama لديه القدرة على تعزيز إنتاجية المطورين المحترفين بالإضافة إلى تقليل حاجز دخول المبرمجين الجدد. ومع ذلك، تعترف الشركة بالمخاطر المرتبطة بنماذج اللغات الكبيرة وتعتقد أن النهج مفتوح المصدر هو الأفضل لتعزيز السلامة.
يستخدم المبرمجون بالفعل LLMs للمساعدة في مجموعة متنوعة من المهام. الهدف هو جعل سير عمل المطورين أكثر كفاءة حتى يتمكنوا من التركيز على الجوانب الأكثر تركيزًا على الإنسان في وظائفهم.
تم تصميم Code Llama لدعم مهندسي البرمجيات في جميع القطاعات - بما في ذلك الأبحاث والصناعة والمشاريع مفتوحة المصدر والمنظمات غير الحكومية والشركات. ولكن لا يزال هناك العديد من حالات الاستخدام التي يجب دعمها.
يتوفر Code Llama للبحث غير التجاري وحتى للاستخدام التجاري بموجب ترخيص مفتوح المصدر. وتأمل الشركة أن يؤدي إصدارها إلى المزيد من الابتكار في مساعدي البرمجة بالذكاء الاصطناعي مع السماح للمجتمع بتقييم القدرات ونقاط الضعف.
في يوليو، أطلقت GitHub المملوكة لشركة Microsoft برنامج Copilot Chat. يمكن للمطورين طرح أسئلة على Copilot حول التعليمات البرمجية الخاصة بهم، والحصول على تفسيرات لأجزاء محددة من التعليمات البرمجية، وحتى جعل Copilot يصلح الأخطاء في التعليمات البرمجية.
