policy gradient

reverse-KL مفهوم reverse-KL بيشتغل عكس الـ KL التقليدي، بنقيس الفرق بين التوزيع اللي بنحاول نوصلله واللي… أوراق نفس اليوم Cerebellum الـ Cerebellum هو جزء من الدماغ بيساعد على تنسيق الحركة وتوازنها، بنستعمله عشان نقارن بينه… أوراق نفس اليوم Brain الـ Brain هو المركز الرئيسي للمعالجة بالمخ، بنستعمل هالمصطلح لنقارن الشبكات العصبية بالدماغ… أوراق نفس اليوم benchmark يعني مجموعة معايير واختبارات بنستخدمها عشان نشيك كيف أداء النموذج تبعنا، شو مستواه الفعلي. أوراق نفس اليوم verifier الـ verifier هو مكوّن بيتأكد إذا النتيجة اللي أعطاها النموذج صحيحة أو لا، بنستعمله لزيادة… أوراق نفس اليوم trajectory balance يعني بنوازن بين المسار اللي النموذج بيتبعه والنتايج المتوقعة، بنستعمله عشان النموذج ما يضلّق… أوراق نفس اليوم On-Policy Reverse Distillation هيدا طريقة بنعكس فيها عملية الـ Distillation من النموذج الكبير للـ policy الحالي عشان نحسّن… أوراق نفس اليوم Thinker-Talker هيدا مفهوم بيفرق بين جزء النموذج اللي بيفكّر (Thinker) وجزء اللي بيولّد الكلام (Talker) عشان… أوراق نفس اليوم omni perception الـ omni perception يعني القدرة على استيعاب كل المعلومات من كل الاتجاهات بنفس الوقت، بنستعمله… أوراق نفس اليوم self-guidance هيدا مفهوم بيخلّي النموذج يوجّه نفسه خلال التدريب، يعني ما بحاجة لتوجيه خارجي كتير، بنسمعه… أوراق نفس اليوم LLM نموذج لغة ضخم بتعلم على مليارات الكلمات وبعدين بيقدر يتنبأ ويكتب نصوص زي ChatGPT و Claude. أوراق نفس اليوم routing عملية توجيه البيانات داخل الشبكة لتروح للجزء المناسب، بدنا نستخدمها بالموديلات اللي فيها خبرات… أوراق نفس اليوم fine-tuning تدريب إضافي لنموذج موجود بالفعل على بيانات جديدة وخاصة عشان يكون أفضل في مجال معين. أوراق نفس اليوم