Red Teaming

overfitting هاد إشي بيصير لما النموذج يحفظ بيانات التدريب بشكل مبالغ فيه وبيفشل مع بيانات جديدة، يعني زي… عنقود مرتّب يدوياً MMLU مجموعة بيانات بتقيس معرفة النموذج عبر أسئلة من مجالات مختلفة، زي الرياضيات والعلوم. عنقود مرتّب يدوياً leaderboards يعني قوائم ترتيب بتظهر أداء النماذج والأنظمة المختلفة على مهام معينة. عنقود مرتّب يدوياً evaluation evaluation يعني عملية اختبار النموذج وقياس أدائه، بدنا نعرف إذا النموذج شغّال صح ولا لا. عنقود مرتّب يدوياً data contamination يعني لما البيانات اللي تعلّمنا عليها النموذج تتكرر في بيانات الاختبار، فالنموذج بيعطيك نتايج… عنقود مرتّب يدوياً benchmark يعني مجموعة معايير واختبارات بنستخدمها عشان نشيك كيف أداء النموذج تبعنا، شو مستواه الفعلي. عنقود مرتّب يدوياً accuracy مقياس بيقيس نسبة الإجابات الصحيحة من إجمالي الأسئلة، عشان نعرف قديش النموذج دقيق عنقود مرتّب يدوياً jailbreak "jailbreak" يعني محاولة تخطي قيود نموذج الذكاء الاصطناعي عشان يجاوب على أسئلة ممنوعة، احنا… نفس المقالة prompt injection هجوم بنحط أوامر مخادعة داخل الـprompt لتلخبط الموديل، بدنا ننتبه له لأنه بيخلّي الموديل يطلع… نفس المقالة