Virtual Head Attention
المصطلحات اللي بتيجي معه — والنقر بينقّلك لجاره.
اسحب للتحريك · دولاب الفأرة للتكبير · انقر عقدة لتنتقل لها
Virtual Head Attention
Virtual Head Attention هو مفهوم (concept) بيضيف رؤوس انتباه افتراضية داخل الشبكات العصبية لتقوية تمثيل السياق، بنسمع عنه لأنه بيحسّن قدرة النموذج على التركيز على معلومات مهمة.
المصطلحات المرتبطة
GQA
GQA هو نموذج (model) للـ Visual Question Answering، بيفهم الصور ويجاوب على أسئلة عنها، بنسمع…
أوراق نفس اليوم
Triton
Triton هو نظام من NVIDIA بيشغّل نماذج الذكاء الاصطناعي على السحابة أو على سيرفراتنا بسرعة…
أوراق نفس اليوم
text-to-SQL
text-to-SQL هو مجموعة بيانات (dataset) بتحتوي على أسئلة نصية وأوامر SQL مقابلة، بنستخدمه…
أوراق نفس اليوم
MRTPO
MRTPO هو نموذج (model) لتوليد النصوص أو الفهم اللغوي، بنسأله عشان نحل مشاكل تصنيف أو توليد…
أوراق نفس اليوم
KV cache
تقنية بتخزّن المفاتيح والقيم اللي حسبناها قبل هيك عشان نستخدمها مرة ثانية.
أوراق نفس اليوم
Jensen-Shannon distance
Jensen-Shannon distance هو مقياس (metric) بيقيس التشابه بين توزيعين احتماليين، بنستعمله عشان…
أوراق نفس اليوم