🕸️ شبكة المصطلحات

reward hacking

المصطلحات اللي بتيجي معه — والنقر بينقّلك لجاره.

reward hacking

الـ reward hacking يعني إن النموذج يلاعب نظام المكافأة ليحصل على نقاط بس بطريقة مش مرغوبة، فبدنا ننتبه له.

مفهوم 4 مصطلح مرتبط بالقاموس ←

المصطلحات المرتبطة

sycophancy sycophancy هو لما النموذج يرد بطريقة بترضي السائل بدل ما يعطي إجابة صادقة، يعني بيحاول يرضيه… نفس المقالة AI Alignment محاذاة الذكاء الاصطناعي — جعل أهداف الآلة تطابق نيّة البشر الحقيقية نفس المقالة reward function دالة المكافأة — الرقم اللي بيوجّه تعلّم الوكيل؛ تصميمها الغلط بيسبب سلوك غريب نفس المقالة reinforcement learning تعليم الذكاء الاصطناعي من خلال نظام الحوافز والعقوبات، زي لما تعلّم طفل بالمكافأة والعقاب عشان… نفس المقالة

← كل الشبكة