pruning
المصطلحات اللي بتيجي معه — والنقر بينقّلك لجاره.
اسحب للتحريك · دولاب الفأرة للتكبير · انقر عقدة لتنتقل لها
pruning
الـ pruning يعني بنقص حجم النموذج عن طريق حذف الوصلات أو النيورونات اللي ما إلها تأثير كبير، عشان النموذج يصير أخف وأسرع.
المصطلحات المرتبطة
self-distillation
تقنية بنعلم فيها نموذج كبير يدرّس نسخة أصغر من نفسه، عشان نحسّن الأداء مش بنحتاج بيانات جديدة
أوراق نفس اليوم
diffusion transformer
هالنموذج بدمج فكرة الـ diffusion مع بنية الـ transformer، يعني بيستفيد من قوة الـ transformer…
أوراق نفس اليوم
attention
الـ attention هو آلية بتخلي النموذج يركز على أجزاء معينة من النص وقت ما بيولد أو يفهم، يعني…
أوراق نفس اليوم