vision transformer

LLM نموذج لغة ضخم بتعلم على مليارات الكلمات وبعدين بيقدر يتنبأ ويكتب نصوص زي ChatGPT و Claude. أوراق نفس اليوم benchmark يعني مجموعة معايير واختبارات بنستخدمها عشان نشيك كيف أداء النموذج تبعنا، شو مستواه الفعلي. أوراق نفس اليوم MCR-Bench MCR-Bench هو benchmark بيختبر قدرة الموديلات على التعامل مع مهام متعددة بتعقيد عالي، بنستعمله… أوراق نفس اليوم masked diffusion تقنية masked diffusion بتضيف قناع على جزء من البيانات خلال عملية الـ diffusion لتوجيه النموذج… أوراق نفس اليوم JEPA JEPA (Joint Embedding Predictive Architecture) هو مفهوم بيركّز على تعلم تمثيلات بدون إشراف عن… أوراق نفس اليوم In-Context Learning يعني احنا بنعطي النموذج أمثلة جوّا نفس الرسالة اللي بنبعثها إله، وهو بيتعلم منها مباشرة بدون… أوراق نفس اليوم Entropy-Valley Entropy-Valley يعني المنطقة اللي بيقل فيها entropy بالموديل، بنستعمله عشان نفهم كيف النموذج… أوراق نفس اليوم defect detection defect detection يعني كشف العيوب أو الأخطاء بالبيانات أو الكود، احنا بنستعمله عشان نتفادى… أوراق نفس اليوم self-supervised learning Self-supervised learning طريقة تعلم ما بتحتاج بيانات معنونة، النموذج بيصنع إشيه الخاص كعلامة… أوراق نفس اليوم SCG SCG يعني Structured Code Generation، وهو مفهوم بيولد كود منظم حسب قواعد معينة، بنستعمله عشان… أوراق نفس اليوم Hybrid Linear-Softmax Attention هالطريقة بتجمع بين linear attention اللي بتسرّع الحسابات و softmax attention اللي بتعطي دقة… أوراق نفس اليوم multi-round code review multi-round code review هو عملية مراجعة الكود بأكتر من جولة، كل مرة بنضيف ملاحظات جديدة، بدنا… أوراق نفس اليوم