sliding-window attention
المصطلحات اللي بتيجي معه — والنقر بينقّلك لجاره.
اسحب للتحريك · دولاب الفأرة للتكبير · انقر عقدة لتنتقل لها
sliding-window attention
طريقة انتباه بتشتغل على جزء صغير من السلسلة بدل كل النص، عشان تسرّع الحساب وتقلل الذاكرة، احنا بنستعملها لما النموذج يواجه جمل طويلة
المصطلحات المرتبطة
transformer
هو البنية الأساسية اللي قايم عليها الذكاء الاصطناعي الحديث كله، بيشتغل على مبدأ الانتباه يعني…
أوراق نفس اليوم
reinforcement learning
تعليم الذكاء الاصطناعي من خلال نظام الحوافز والعقوبات، زي لما تعلّم طفل بالمكافأة والعقاب عشان…
أوراق نفس اليوم
LLM
نموذج لغة ضخم بتعلم على مليارات الكلمات وبعدين بيقدر يتنبأ ويكتب نصوص زي ChatGPT و Claude.
أوراق نفس اليوم
benchmark
يعني مجموعة معايير واختبارات بنستخدمها عشان نشيك كيف أداء النموذج تبعنا، شو مستواه الفعلي.
أوراق نفس اليوم