jailbreak

Guardrails حواجز الأمان — قيود مدمجة تمنع النموذج من إنتاج محتوى ضار نفس المقالة Red Teaming اختبار النظام بمهاجمته عمداً وبتفويض — كل ثغرة بتنكشف بتتصلح قبل الإطلاق نفس المقالة prompt injection هجوم بنحط أوامر مخادعة داخل الـprompt لتلخبط الموديل، بدنا ننتبه له لأنه بيخلّي الموديل يطلع… نفس المقالة Over-refusal الرفض الزائد — رفض طلبات بريئة بالخطأ نفس المقالة LLM نموذج لغة ضخم بتعلم على مليارات الكلمات وبعدين بيقدر يتنبأ ويكتب نصوص زي ChatGPT و Claude. أوراق نفس اليوم chain-of-thought chain-of-thought يعني بنطلب من الموديل يفكر بصوت عالي ويحكيلنا خطواته قبل ما يعطي الجواب، وهاد… أوراق نفس اليوم agent scaffolds هالقوالب أو الـagent scaffolds بتساعدنا نبني وكلاء ذكيين بسرعة، يعني بنحدد كيف الوكيل يتفاعل… أوراق نفس اليوم resolve rate يعني نسبة المشاكل أو التحديات اللي النموذج قادر يحلّها بنجاح من أصل كل المشاكل. أوراق نفس اليوم PII PII يعني معلومات شخصية ممكن تحدد هوية الشخص، مثل الاسم أو رقم الهوية، ولازم نحميها عشان ما… أوراق نفس اليوم