نماذج اللغة الكبيرة المتسربة: حادث أم طبيعة؟ لقد نشرت للتو تدوينة جديدة عن تحدي استخراج بيانات LLM؛ وكيف وصلت إلى القناة الجانبية، والجيلبريك، واستخراج السر الذي كان من المفترض أن تحميه LLM. بالتأكيد ليس هذا ما استيقظت لأفعله اليوم 😅

@CuriousLuke93x بالتأكيد، هذا يجعل المشكلة أصعب مرتين. مقبول. لكن إذا استغرق الأمر 4 ساعات بدلا من ساعتين من الطحن؟ يا إلهي، اجعلها 24 ساعة! الاحتمالات لا تزال سيئة عندما يكون لديك عملاء مستقلون.

ما يمكنك فعله هو إضافة قواطع دائرة نشطة توقف التنفيذ عند اكتشاف هجوم. هذا ما يفعله ChatGPT ورفاقه (+إبلاغ الشرطة). إنه مثل fail2ban في عالم SSH. هذا ممكن، لكن كيف تعرف ما هو الفشل؟ ما الذي يجب حظره؟ في تحدي استخراج سري، نعم، هذا مقبول. لكن عندما يكون لديك وكيل لديه وصول إلى جميع بياناتك الخاصة، هل تسريب التصريح أمر سيء؟ نعم! ماذا عن تسريب ما تناولته على الإفطار؟ حسنا، "يعتمد". نعم، هذه "تعتمد" هي المشكلة.