vLLM
المصطلحات اللي بتيجي معه — والنقر بينقّلك لجاره.
اسحب للتحريك · دولاب الفأرة للتكبير · انقر عقدة لتنتقل لها
vLLM
هو مكتبة بتشتغل على تسريع النماذج اللغوية الكبيرة وتخليها تجاوب أسرع كتير. بنسمع عنها عشان الناس بدهم نماذج سريعة وفعّالة، و vLLM بتحل المشكلة هاي بتقنيات ذكية في إدارة الذاكرة.
المصطلحات المرتبطة
LLM
نموذج لغة ضخم بتعلم على مليارات الكلمات وبعدين بيقدر يتنبأ ويكتب نصوص زي ChatGPT و Claude.
أوراق نفس اليوم
KV cache
تقنية بتخزّن المفاتيح والقيم اللي حسبناها قبل هيك عشان نستخدمها مرة ثانية.
أوراق نفس اليوم
VSI-Bench
VSI-Bench هو مجموعة اختبارات (benchmark) لتقييم أداء الأنظمة في الفهم البصري-صوتي، بنستعمله…
أوراق نفس اليوم
Markov
Markov يعني سلسلة ماركوف، وهي طريقة بنعتمد فيها على الحالة الحالية بس لتحديد الحالة الجاية، مش…
أوراق نفس اليوم
GPD
GPD هو نموذج بسيط بنستعمله لتوليد توقعات عامة للبيانات، بنسميه كمان General Purpose Decoder…
أوراق نفس اليوم
fine-tuning
تدريب إضافي لنموذج موجود بالفعل على بيانات جديدة وخاصة عشان يكون أفضل في مجال معين.
أوراق نفس اليوم
critic
الـ critic هو نموذج بيقيم مخرجات نموذج تاني، يعني بيفحص إذا النتائج منطقية أو لا، بنستخدمه…
أوراق نفس اليوم
throughput
throughput هو مقياس السرعة، بيقيس كم توكن/ثانية الموديل يقدر يعالج، بدنا نعرفه عشان نضمن إنه…
أوراق نفس اليوم
RMSNorm
RMSNorm هو نوع من تقنيات التطبيع اللي بتستعمل الجذر التربيعي لمتوسط القيم لتثبيت الأوزان داخل…
أوراق نفس اليوم
sparse attention
sparse attention طريقة انتباه بتختار بس جزء صغير من الكلمات المهمة بدل كل الكلمات، فبسرّع…
أوراق نفس اليوم
Diffusion Transformer (DiT)
هاد نموذج لتوليد الصور والفيديو بيجمع تقنية الـ Diffusion مع بنية الـ Transformer، وبنسمع عنه…
أوراق نفس اليوم
Rock-Paper-Scissors
Rock-Paper-Scissors هو مجموعة بيانات فيها ألعاب حجر-ورقة-مقص، بنستعملها لتدريب نماذج تصنف أو…
أوراق نفس اليوم
benchmark
يعني مجموعة معايير واختبارات بنستخدمها عشان نشيك كيف أداء النموذج تبعنا، شو مستواه الفعلي.
أوراق نفس اليوم
resolve rate
يعني نسبة المشاكل أو التحديات اللي النموذج قادر يحلّها بنجاح من أصل كل المشاكل.
أوراق نفس اليوم