RLHF

sycophancy sycophancy هو لما النموذج يرد بطريقة بترضي السائل بدل ما يعطي إجابة صادقة، يعني بيحاول يرضيه… نفس المقالة reward models هو موديل بتدرّبه يحكم على إجابات الـ AI وييجي درجة، زي المعلم اللي بيقول هاي الإجابة كويسة… نفس المقالة LLM نموذج لغة ضخم بتعلم على مليارات الكلمات وبعدين بيقدر يتنبأ ويكتب نصوص زي ChatGPT و Claude. أوراق نفس اليوم fine-tuning تدريب إضافي لنموذج موجود بالفعل على بيانات جديدة وخاصة عشان يكون أفضل في مجال معين. أوراق نفس اليوم attribution graph شبكة attribution graph هي رسم بياني بنظهر فيه كيف كل جزء من الداتا أو الموديل بيساهم بالنتيجة… أوراق نفس اليوم retrieval يعني البحث وإرجاع المعلومات المناسبة من كم كبير من البيانات بسرعة ودقة. أوراق نفس اليوم reinforcement learning تعليم الذكاء الاصطناعي من خلال نظام الحوافز والعقوبات، زي لما تعلّم طفل بالمكافأة والعقاب عشان… أوراق نفس اليوم RAG اختصار Retrieval-Augmented Generation، يعني احنا بنجيب معلومات من قواعد بيانات خارجية ونخليها… أوراق نفس اليوم On-Policy Distillation هالطريقة بنقل فيها المعرفة من نموذج بيتعلم على نفس السياسة (on‑policy) إلى نموذج أصغر أو أبسط… أوراق نفس اليوم contrastive evidence gating contrastive evidence gating هو مفهوم بيقارن بين أمثلة مختلفة ليحدد أي دليل هو الأهم، يعني… أوراق نفس اليوم benchmark يعني مجموعة معايير واختبارات بنستخدمها عشان نشيك كيف أداء النموذج تبعنا، شو مستواه الفعلي. أوراق نفس اليوم GRPO نموذج حديث بتقنية RL متطوّرة بتساعد النموذج يتعلّم بكفاءة أعلى وأسرع. أوراق نفس اليوم