كشفت تقنية جديدة اكتشفها باحثو Google DeepMind الأسبوع الماضي أن مطالبة ChatGPT من OpenAI بشكل متكرر بتكرار الكلمات يمكن أن يكشف عن غير قصد معلومات شخصية خاصة من بيانات التدريب الخاصة به. الآن، يبدو أن برنامج الدردشة الآلي قد بدأ في رفض بعض المطالبات التي كان مسموحًا بها مسبقًا بموجب شروط الخدمة الخاصة به.
من خلال مطالبة ChatGPT بتكرار كلمة "hello" إلى أجل غير مسمى، وجد الباحثون أن النموذج سيكشف في النهاية عن عناوين البريد الإلكتروني للمستخدمين وتواريخ ميلادهم وأرقام هواتفهم. ردًا على مطالبات مماثلة في اختبارنا، حذر برنامج الدردشة الآلية من أن مثل هذا السلوك "قد ينتهك سياسة المحتوى أو شروط الخدمة الخاصة بنا".
ومع ذلك، عند الفحص الدقيق، فإن شروط خدمة OpenAI لا تحظر صراحةً على المستخدمين جعل برنامج الدردشة الآلي يكرر الكلمات بشكل متكرر. تحظر الشروط فقط استخراج البيانات "آليًا أو برمجيًا" من خدماتهم.
في صفحة شروط الاستخدام، كتبت OpenAI:
من خلال مطالبة ChatGPT بتكرار كلمة "hello" إلى أجل غير مسمى، وجد الباحثون أن النموذج سيكشف في النهاية عن عناوين البريد الإلكتروني للمستخدمين وتواريخ ميلادهم وأرقام هواتفهم. ردًا على مطالبات مماثلة في اختبارنا، حذر برنامج الدردشة الآلية من أن مثل هذا السلوك "قد ينتهك سياسة المحتوى أو شروط الخدمة الخاصة بنا".
ومع ذلك، عند الفحص الدقيق، فإن شروط خدمة OpenAI لا تحظر صراحةً على المستخدمين جعل برنامج الدردشة الآلي يكرر الكلمات بشكل متكرر. تحظر الشروط فقط استخراج البيانات "آليًا أو برمجيًا" من خدماتهم.
في صفحة شروط الاستخدام، كتبت OpenAI:
لا يجوز لك، باستثناء ما هو مسموح به من خلال واجهة برمجة التطبيقات (API)، استخدام أي طريقة آلية أو برمجية لاستخراج البيانات أو المخرجات من الخدمات، بما في ذلك الاستخراج أو تجميع الويب أو استخراج بيانات الويب.
على الرغم من ذلك، لا يبدو أن تكرار المطالبة يؤدي إلى الكشف عن أي بيانات من ChatGPT أثناء الاختبار. رفضت شركة OpenAI التعليق على ما إذا كان هذا السلوك يتعارض الآن مع سياساتها.
وفي أخبار أخرى، في الأسبوعين الماضيين فقط، تم فصل سام ألتمان بشكل غير متوقع من منصبه كرئيس تنفيذي قبل إعادته إلى منصبه بعد أيام قليلة فقط وسط تهديدات باستقالة الموظفين. بعد ذلك، أعلنت الشركة أنها توصلت إلى "اتفاق من حيث المبدأ" لاستئناف ألتمان دوره كرئيس تنفيذي إلى جانب مجلس إدارة مؤقت جديد.
قامت OpenAI أيضًا بتأخير إطلاق سوقها لنماذج الذكاء الاصطناعي المخصصة. أعلن Sam Altman عن المنصة الإلكترونية التي أطلق عليها اسم "GPT Store" في حدث DevDay أوائل الشهر الماضي. وفي المذكرة، كتب مختبر الذكاء الاصطناعي أن "بعض الأشياء غير المتوقعة جعلتنا مشغولين"، مما حال دون الإطلاق هذا الشهر كما كان متوقعًا في الأصل.
