شو في AI؟ | 26 يونيو — تحسين كفاءة MLLM وتتبع متعدد المشاهد

الفريق قدم طريقة جديدة لتقليل عدد الرموز البصرية بالـ MLLMs من غير ما يحتاجوا يدربوا نموذج جديد. الطريقة، اللي سماوها TOPS، بتبني ما يسموه Token Optimal Preservation Sets وبتعتمد على ثلاث مبادئ أساسية: صلة المهمة، تغطية المعلومات، وتنوع الدلالات. هالنهج ما بيحتاج تعديل على النموذج الأصلي، وبيشتغل مع أي MLLM. التجارب على 7 نماذج خلفية و14 benchmark أظهرت إنه TOPS يقدر يشيل أكثر من ¾ من الرموز مع الحفاظ أو حتى تحسين الأداء.

الفريق قدم ViQ، إطار جديد بيوزع الصور كإشارات كوانتية متوافقة مع النص، وبيحافظ على تفاصيل الصورة ومعانيها بنفس الوقت. الطريقة بتشتغل على مرحلتين: تدريب مسبق متماشي مع اللغة بيقوي الفهم الدلالي، وبعدين بضغط المميزات عبر تعلم تمثيل قريب. كمان بيقدر يتعامل مع أي دقة أصلية للصور، يعني ما في داعي نعيد تحجيمها. التجارب أظهرت إنه ViQ يقدر يواكب أحدث نماذج الرؤية-النص ويعطي تسريع بين 20% و70% حسب حجم النموذج وطريقة التدريب.

الفريق قدم MVTrack4Gen، إطار تدريب بيركّز على تتبع النقاط عبر مشاهد متعددة عشان يضيف إشراف هندسي وحركي لنماذج diffusion اللي بتولد فيديو من زاوية جديدة. لقوا إن طبقات الـ attention بتعطي إشارات مطابقة قوية، ولما هالإشارات بتتلخبط بيصير الفيديو مش متناسق بالحركة. فبنوّجه هالإشارات لراس تتبع متعدد المشاهد وبندرب النموذج مع هدف تتبع النقاط. النتيجة إن النموذج بيحافظ على الحركة بالمنظر المرجعي وبيطابق الهندسة عبر الزوايا.

الفريق Ferrao وزملاؤه قدموا مجموعة بيانات اسمها AIMS فيها 1,724 سؤال صعب عن السلامة مع وصف النية والعلامة الضارة. استخدموا AIMS لتدريب مصنّفات السلامة بطريقة واعية بالنية عبر fine‑tuning، preference learning، reasoning distillation، وreinforcement learning. النتائج تبين إنّ إعطاء النموذج إشارة واضحة للنية يرفع الدقّة على خمس benchmarkات سلامة، خصوصًا لما استُخدم GRPO لتقويّ النية. كمان النماذج الواعية بالنية وصلت لأفضل توازن بين سرعة الاستدلال ودقة الـ F1.

الفريق اللي تحت قيادة Wei Zhou قدم طريقة جديدة لتدريب نماذج توليد الصور بحيث تقدر تعمل النص إلى صورة وتحرير محلي وعالمي بنفس الوقت. الطريقة اسمها DanceOPD وتعتمد على توجيه كل عينة لمجال قدرة معين وتدريب النموذج على تقليل فرق السرعة بين الطالب والموجه. بهالطريقة بيتم دمج القدرات المختلفة بدون ما يضايقوا بعض، وكمان بيشتغل مع إرشادات زي classifier‑free guidance. التجارب أثبتت إن النموذج بيحافظ على جودة الصورة الأصلية ويقوي كل قدرة من القدرات.

الفريق قدم Causal-rCM، وهو إطار موحد بيجمع بين teacher-forcing وself-forcing لتسريع تدريب نماذج الفيديو المتسلسلة باستخدام diffusion. استغلوا كمان kernel خاص اسمه FlashAttention-2 JVP ليخلّوا التدريب أسرع بـ10 أضعاف مقارنةً بالطرق التقليدية. النتيجة إنه النموذج Wan2.1-1.3B وصل لأعلى درجة على benchmark VBench‑T2V مع خطوة أو خطوتين بس، وتطبيقه على Cosmos 3 بيخلّي النموذج يقدر يولّد مشاهد تفاعلية بناءً على أفعال المستخدم.

الفريق قدم إطار تشخيصي بيفصل صعوبة النصوص التاريخية لأربع أبعاد: تكلفة الـ tokenization، الـ surprisal (عدم اليقين التنبئي)، الصمود الدلالي، وحساسية السياق. جربوا الإطار على ثلاث مجموعات بيانات: نصوص إيطالية من القرن الـ17، رواية "I Promessi Sposi" من القرن الـ19 كتحكم عالي التعرض، وكتب روسية من القرن الـ18 كاختبار ضغط إملائي. لقوا إن الـ tokenization بيزيد بنسبة 25‑30% لكل من الإيطالية القديمة والروسية، بس الـ surprisal إيطالية الـ17 أعلى بمرتين ونص مقارنةً بالمعاصرة، بينما الروسي ما زاد كتير. ومع هيك، تشابه الـ embeddings ظل عالي (>0.85) لكل المجموعات، يعني الفهم الدلالي ثابت. وأخيرًا، إضافة موجه بسيط بوقت تاريخي قللت الـ surprisal حوالي 60%، وهي طريقة موحدة لكل النماذج.

الفريق قدم طريقة جديدة اسمها JetSpec لتسريع LLMs باستخدام speculative decoding. الطريقة بتدمج كفاءة مسودة واحدة‑forward مع تحكم سببي على كل فرع من الشجرة، يعني بتولد شجرات مرشحة بتتوافق مع طريقة النموذج الأصلية. النتيجة إنه مع ميزانية مسودة أكبر بيصير في قبول أطول للرموز وبالتالي سرعة أعلى بالعملية. التجارب على نماذج Qwen3 أثبتت إنه JetSpec يطلع أسرع بكتير من الطرق السابقة على مهام رياضية وبرمجية وحوارية.

الفريق اللي بيقود البحث اكتشف إنه تدريب نماذج اللغة الكبيرة (LLMs) على استعمال الأدوات عبر التعزيز (RL) ممكن يطيح فجأة ويخرب هيكل استدعاء الأدوات، رغم إنه القدرة على الاستخدام نفسها ما اختفت. السبب هو ارتفاع غير متوقع بكمية توكنات التحكم، اللي بتخرب التنسيق. جربوا مجموعة إشارات إشرافية، من التدريب خارج‑السياسة إلى توجيه تلميحات، وخلطوا التدريب الإشرافي (SFT) مع الـRL. النتيجة إنه التدريب المتداخل حسّن الاستقرار، بس الأداء انخفض لما يجي تنسيق أو محتوى مختلف عن اللي تدربوا عليه.

الفريق اللي هو Kirill Solovev و Jana Lasser قدموا خط أنابيب مفتوح الوزن يشتغل على نصوص إخبارية متعددة اللغات لاستخراج الكيانات والعلاقات معًا. الخط يدمج NER على أساس الـ span مع ثلاث مراحل ربط للمنشورات بمعرّفات Wikidata، وبعدين نموذج mixture‑of‑experts يطلع علاقات موجهة وموقعة بحسب أونطولوجيا محددة. التقييم على مجموعة معيارية فيها 3491 علاقة بيّن إن الدقة النصية تتراوح من 68.2% (صارمة) لحد 93.7% (مرنة). وبعدين طبقوه على حالتين: في النمسا أعادوا مسار حياة حزب سياسي كامل، وفي بولندا كشفوا شبكة الصراعات والروابط الاقتصادية بين الأحزاب.

الفريق اللي ورا CARVE لاحظ إنّ الأنظمة التكرارية القديمة ما بتستشير الذاكرة قبل ما تنسحب معلومات، فبيصيروا ينسوا إشي مهم. هالمشكلة حلّوهم إنّهم يخلوا عملية المسح تشتغل بس على محور المفتاح، ويستغلوا ناتج الذاكرة الموجود على الـGPU كإشارة للمسح، وبستبدلوا كل مشروع كتابة لكل قيمة بمتغيّر واحد بسيط لكل رأس. التجربة على 1.3 مليار معلمة وعلى 100 مليار كلمة أظهرت إنّ CARVE يحقق تحسين بسيط على الـperplexity ويقود كل النماذج التكرارية على تسع اختبارات للمنطق العادي، وكمان يحقق أفضل نتيجة على كل اختبار RULER مع استهلاك أقل للذاكرة والوقت.

الفريق اللي بيقود البحث، Aoyang Fang وزملاؤه، قدموا بروتوكول تسمية اسمه PAVE بيستغل تدخلات معروفّة لتتبع مسار السبب لحد ما يوصل للعرض الظاهري. بهالطريقة بيشتغلوا على تقييم LLM agents بطريقة "من السبب للنتيجة" بدل ما يحاولوا يربطوا الأعراض بالسبب بالعكس. النتيجة إنهم جمعوا 500 حالة لتكوين مجموعة OpenRCA 2.0، أول benchmark ببيانات سببية خطوة بخطوة للـLLM agents. التجربة على 11 نموذج متقدم تبين إن نسبة استرجاع السبب الجذري بالكامل ما بتوصل غير لـ20.7 %، بينما التعرف على سبب واحد صحيح بيصير بـ76 % لكن ربطه بالمسار السببي بيقل لـ61.5 %.

هالورقة قدمت مجموعة RSPC، مجموعة فيها 1,799 مشاركة من Reddit عن علاقات عن بُعد، وطبّقوا عليها تشخيصات من أطباء نفسيين تشمل القلق والاكتئاب. إشي حطوا فيه ثلاث مهمات: تصنيف الاضطرابات، كشف محفّزات الضغوط العلائقية، وتحديد مرحلة العلاقة. جربوا سبع نماذج transformer و5 large language models، ولاّقوا إنه Claude-3-Haiku بيجيب أحسن نتيجة لتصنيف الاضطرابات (Macro-F1=0.538) وGPT-4o بيقود بأقوى نتيجة لكشف المحفّزات (Macro-F1=0.519). هالنتايج بتبيّن إنه كل عيلة نماذج عندها قوة خاصة حسب المهمة.

الفريق قدم إطار OPID اللي بيسحب إشارات المهارات مباشرة من مسارات الوكيل اللي بيشتغل عليها حالياً. بيقسم الإشارات لهيكليات مهارات: مهارات على مستوى الحلقة بتحدد قواعد عامة، ومهارات على مستوى الخطوة بتعطي توجيه لقرارات حاسمة. لما يلاقي قرار مهم، النظام بيستعمل مهارة الخطوة، وإلا بيرجع لمهارة الحلقة كدليل افتراضي. هالإشارات بتندمج مع مكافآت النتيجة لتدريب الوكيل، وبيظهر تحسين ملحوظ بالأداء والكفاءة على بيئات ALFWorld وWebShop وأسئلة البحث.

الفريق بقيادة Danyal Rehman بيقدّموا إطار جديد اسمه Autoregressive Boltzmann Generators (ArBG) لتوليد عينات توازن حراري للجزيئات بطريقة أسرع وأكتر مرونة من الطرق التقليدية. ArBG ما بيعتمد على الـ normalizing flows، فبتهرب من قيود الانعكاسية وبتسمح بتدخلات تسلسلية وقت الاستدلال. التجارب بتبين تحسين واضح على كل الـ benchmarks، خصوصاً على أنظمة الببتيدات الكبيرة مثل Chignolin. كمان أطلقوا نموذج Robin بـ 132 مليون باراميتر بيقلل خطأ الطاقة في الأنظمة الصغيرة بأكثر من 60٪.

المشكلة إنه عدد الأطباء النفسيين قليل والتشخيص بيعتمد على المقابلات، فصعب نحصّل تقييم ثابت. الباحثين حطّوا LingxiDiagBench، benchmark كبير بيشتغل كأنّه مجموعة من الوكلاء بتقّيم LLMs على استشارة نفسية متعددة الجولات بالصيني، ومعاه مجموعة بيانات LingxiDiag-16K فيها 16,000 حوار صناعي متطابق مع سجلات طبية حقيقية وبتمثل 12 فئة من تصنيفات ICD-10. التجارب بيّنوا إنه LLMs بتجيب دقة عالية لتصنيف الاكتئاب‑القلق الثنائي (92.3٪) لكن بتقع كتير لما يجي يتعرف على التزامن أو على التشخيص التفريقي بـ12 فئة (28.5٪). كمان استشارة الديناميكية بتعطي أداء أسوأ من التقييم الساكن، والـLLM‑as‑a‑Judge ما بيقيس جودة الاستشارة بدقة.

الفريق قدم Qwen-Image-Agent، إطار وكيل موحد بيجمع بين التخطيط، التفكير، البحث، الذاكرة والتغذية الراجعة لتقريب الفجوة بين طلب المستخدم وسياق التوليد المطلوب. بيعتبروا مدخل المستخدم سياق جزئي وبيبنو السياق الكامل عبر Context-Aware Planning لتحديد النقاط الناقصة، وContext Grounding لجمع المعلومات من التفكير والبحث والذاكرة. جربوا النموذج على IA‑Bench، Mindbench وWISE‑Verified، وطلعوا بأداء أحسن من الأساسيات ووصلوا لأحدث النتائج.

الباحثين بيقولوا إنه مع تطور الfoundation models وصاروا يقدروا يولدوا حلول برمجية معقّدة بسهولة، صار التحقق من هالحلول هو الأصعب. بيحدّدوا جودة إشارات التحقق بثلاثة أبعاد: القابلية للتوسع، الإخلاص، والصلابة، وبيقدّموا أربع تصاميم للمكافأة لتقليل الreward hacking وتحسين جودة الإنجاز. التجارب على مجموعة من الbenchmarks الداخلية والعامة بتظهر إنه تعديل التحقق بشكل موجه بيقلل الغش وبيرفع جودة النتيجة.

فريق Liang وزملاؤه قدموا طريقة جديدة اسمها Block‑GTQ لتوزيع البتات على الـ KV‑cache بطريقة RoPE‑aware. هالطريقة بتحسب طاقة كل بلوك من RoPE وبتعطيه عدد البتات المناسب لتقليل الخطأ، فبتقلل MAE بـ 32‑80٪ مقارنةً بالـ TQ‑MSE العادي. النتائج بتبين إنه النموذج بيصير أفضَل على مهام الفهم والاستدلال مع سياقات طويلة، وكمان بيقلل استهلاك الذاكرة وبيسرّع التنفيذ على بطاقات GPU.

فريق Yin وزملاؤه قدموا إطار تحكم جديد اسمه XCF بيقدر يفسّر سلوك المتحكمات حتى لو كانوا من الصناديق المغلقة. الطريقة الأساسية هي HFMAE‑C، نظام فازي بيستبدل المتحكم ويطلع قواعد IF‑THEN تشرح كيف قررت الأوامر وتحدد شو حالة النظام إلها وزن أكبر. كمان ضافوا واجهة مدعومة بوكيل LLM بتفهم طلبات المستخدم وتكتب التقارير بلغة طبيعية. جربوا الطريقة على نظام البندول المقلوب وروبوت Turtlebot، وطلعت أحسن من الطرق التفسيرية التقليدية.