CUA

EMA الـ EMA أو Exponential Moving Average هو أسلوب بنحسب فيه متوسط أوزان النموذج مع الوقت بطريقة… أوراق نفس اليوم token savings token savings مقياس بيقيس قديش النموذج قدر يقلل عدد الـtokens المستخدمة لإنجاز مهمة، يعني… أوراق نفس اليوم self-distillation تقنية بنعلم فيها نموذج كبير يدرّس نسخة أصغر من نفسه، عشان نحسّن الأداء مش بنحتاج بيانات جديدة أوراق نفس اليوم KV cache تقنية بتخزّن المفاتيح والقيم اللي حسبناها قبل هيك عشان نستخدمها مرة ثانية. أوراق نفس اليوم granularity router granularity router مفهوم بيوزع مستوى التفاصيل (granularity) خلال معالجة البيانات، يعني بيقرر… أوراق نفس اليوم gated spatial pooler gated spatial pooler مفهوم بيحكم على كيف بنجمع المعلومات المكانية في الشبكة العصبية، يعني… أوراق نفس اليوم