Hybrid Linear-Softmax Attention
المصطلحات اللي بتيجي معه — والنقر بينقّلك لجاره.
اسحب للتحريك · دولاب الفأرة للتكبير · انقر عقدة لتنتقل لها
Hybrid Linear-Softmax Attention
هالطريقة بتجمع بين linear attention اللي بتسرّع الحسابات و softmax attention اللي بتعطي دقة، فبنقدر نعالج جمل طويلة بسرعة وبجودة.
المصطلحات المرتبطة
LLM
نموذج لغة ضخم بتعلم على مليارات الكلمات وبعدين بيقدر يتنبأ ويكتب نصوص زي ChatGPT و Claude.
أوراق نفس اليوم
benchmark
يعني مجموعة معايير واختبارات بنستخدمها عشان نشيك كيف أداء النموذج تبعنا، شو مستواه الفعلي.
أوراق نفس اليوم
vision transformer
Vision Transformer هو نموذج للصور بيشتغل مثل الـ Transformer بالنص، بيقسم الصورة لباتشات…
أوراق نفس اليوم
self-supervised learning
Self-supervised learning طريقة تعلم ما بتحتاج بيانات معنونة، النموذج بيصنع إشيه الخاص كعلامة…
أوراق نفس اليوم