شو في AI؟ | 23 يونيو

الباحثون قدّموا PerceptionDLM، نموذج لغوي متعدد الوسائط مبني على الـ diffusion بدل الجيل الذاتي التقليدي (autoregressive). الفكرة الأساسية إنه بدل ما النموذج يوصف منطقة بمنطقة من الصورة بالترتيب — يشتغل على كل المناطق بنفس الوقت بالتوازي! عشان يقيّموا هالقدرة صح، بنوا benchmark جديد اسمه ParaDLC-Bench بيقيس جودة الوصف وكفاءة التنفيذ مع بيانات تتضمن أكثر من منطقة بكل صورة. النتائج بتوضح إن النموذج بيحافظ على جودة الوصف البصري مع تحسين واضح بالسرعة، وهالشغل ظهر كـ preprint على arXiv وجمع انتباه كتير على Hugging Face Daily Papers.

الباحثون من جامعة Illinois وزملاؤهم قدّموا PlanBench-XL، وهو benchmark جديد بيختبر قدرة الـ LLM agents على التخطيط طويل المدى في بيئات فيها أدوات كتير (1,665 أداة!) لمهام تجارة التجزئة. الفكرة مش بس «استخدم الأداة الصح»، لأ — الـ agent لازم يبحث عن الأدوات الملائمة خطوة خطوة، ويستنتج أهداف وسطية، ويتأقلم لو أداة فشلت أو اختفت أو أعطته معلومة مضلِّلة. النتايج صادمة شوي: أقوى موديل اتجرّب — GPT-5 — وصل لـ 51.90% بالإعداد العادي، بس لما فعّلوا آلية الحجب الشديدة انهار للـ 11.36%! هالبحث انتشر على Hugging Face Daily Papers وجمع 47 upvote.

فريق Zhao وزملاؤه قدّموا KaLM-Reranker-V1، نموذج reranking بنمط جديد اسموه FBNL (fast but not late interaction) — يفصل بين معالجة الـ query ومعالجة الـ passage بدل ما يحسبهم سوا، وهاد بيخلّي النظام أسرع وأكثر مرونة في التطبيق. الفكرة الأساسية إنهم بناوا النموذج على معمارية encoder-decoder: الـ encoder يعالج الـ passages مسبقًا بتقنية Matryoshka embedding pooling، والـ decoder يفهم التعليمات والـ query، وبعدين الـ cross-attention يربط الاثنين عشان يحدد مدى الصلة. جرّبوه على benchmarks معروفة زي BEIR وMIRACL وLMEB بثلاث أحجام (Nano بـ 0.27B، وSmall بـ 1B، وLarge بـ 4B)، وطلع بنتائج تنافس نماذج صناعية قوية زي Qwen3-Reranker مع كفاءة أعلى. البحث preprint على arXiv وانتشر على Hugging Face Daily Papers وجمع 33 upvote.

فريق الباحثين من FrontisAI قدّم EnterpriseClawBench، وهو benchmark مخصّص لتقييم الـ agents اللي بتشتغل جوّا بيئات الشركات الحقيقية — مش مهام مصطنعة. الفكرة إنهم راحوا على أرشيف ضخم من sessions عمل حقيقية وعملوا منها 852 مهمة قابلة للتكرار، كل مهمة معها ملفات وأدوات وتعليمات وقواعد تقييم صارمة. الـ benchmark مش بس بيسأل «هل الجواب صح؟» — بيقيّم كمان جودة المنتج النهائي، التكلفة، الوقت، وكيف الـ agent بينقل مهاراته لمهام جديدة. اللافت إن أحسن نتيجة وصلوا إليها كانت 0.663 فقط مع Codex المبني على GPT-4.5، يعني الـ agents لسّا عندها طريق طويل في بيئات الشركات الفعلية.

فريق Agnihotri وزملاؤه قدّموا مقاربة جديدة لمشكلة كتير صعبة على الـ LLMs: اكتشاف القاعدة المنطقية المخفية اللي بتحوّل سلاسل ثنائية (binary strings) لمخرجات — وهاي كانت ضمن تحدّي NVIDIA Nemotron. بدل ما يخلّوا النموذج يعمل حسابات boolean معقّدة بتوديه للهلوسة، حوّلوا المسألة كلها لمهمة مقارنة نصوص وبحث منظّم. الفكرة الجوهرية إنهم يختاروا "bases" (تحولات أساسية) بناءً على أقل عدد من الـ bit flips، ويبنوا truth tables بدون أرقام، وإذا في تعارض بالأمثلة يتراجع النموذج ويجرّب غيرها (backtracking DFS). فوق هيك، درّبوا النموذج على supervised fine-tuning (SFT) بأسلوب تفاعلي يخلّيه يفرض نسبة الـ bit tokens واحد واحد، ويقيّم حاله بنفسه. النتيجة؟ أكثر من 96% validation accuracy — أعلى أداء في هاد التصنيف بالمسابقة.

فريق Hua وزملاؤه قدّموا CLI-Universe، وهو محرّك متخصّص بتوليد بيانات تدريب عالية الجودة لوكلاء الـ terminal — يعني البرامج اللي بتشتغل على سطر الأوامر. المشكلة اللي بيحلّوها هي إنّ البيانات الموجودة كانت ضعيفة وغير موثوقة: تعليمات غامضة وتحقّق سطحي. الحل؟ كل مهمة بتنتقي من taxonomy متعدد الأبعاد، وبتتحقق منها داخل بيئات Dockerized عبر pipeline متعدد المراحل — بينتهي الأمر إنّ تقريباً ثلثا المهام المقترحة بتنحذف لأنها مش على مستوى. الناتج هو dataset بـ 6,000 trajectory اسمها CLI-Universe-6K، وبعد fine-tuning عليها، Qwen3-32B وصل لـ 33.4% على Terminal-Bench 2.0 — وهو state-of-the-art للنماذج اللي دون 32B parameter، وتفوّق حتى على نماذج أكبر منه بكتير.

الـ LLMs عادةً بتتدرّب على نصوص قصيرة، وبتعاني لمّا بتجي تشتغل على سياقات طويلة كتير. فريق Mehta وزملاؤه من جامعة تكساس اقترحوا طريقة تدريب اسمها Randomized YaRN — بتجمع بين positional extrapolation المبنية على YaRN، وبين positional encodings عشوائية مع length curriculum. الفكرة الذكية هي إنك خلال التدريب على بيانات قصيرة، بتعطي الموديل positional encodings مسحوبة من نطاق أوسع بكتير، يعني بتعرّضه لتمثيلات مواقع ما شافها قبل — حتى لو النص أمامه قصير. النتيجة؟ الموديل المتدرّب على سياقات أقل من 8K بيحسّن أداؤه على سياقات من 16K لـ 128K على benchmarks صعبة زي BABILong وMRCR، وبيتفوّق على الـ fine-tuning العادي، خصوصًا على الأطوال البعيدة جدًا عن التوزيع الأصلي.

الباحثون Han وزملاؤه جاؤوا بفكرة حلوة: بدل ما يعتمد الـ MLLM على نظر بس أو كود بس، خلّوه يتبادل بينهم بشكل تكيّفي — يفكّر شوي، يكتب كود، يرجع يفكّر، وهيك. الجديد إنهم ركّزوا على المسائل الحسابية العددية المعقّدة، مش بس مهام الإدراك البصري اللي عليها معظم الأبحاث. بنوا منظومة من ثلاث مكوّنات: pipeline لبناء بيانات cold-start بمرحلتين، وفلترة بيانات لـ RL، واستراتيجية tool-invocation تكيّفية مع دالة مكافأة مقيّدة بالمجموعة. النتيجة؟ تحسّن بمعدل 6.1 نقطة مئوية على الـ benchmarks، ونسبة نجاح الـ tool-use تجاوزت 95%. البحث preprint على arXiv.

الباحثون Nguyen وزملاؤه بحثوا في سؤال مثير: لو نموذج لغوي كبير انخدع وأعطى إجابة خطيرة بسبب هجوم adversarial prefill — يعني لو حدا حشر في المحادثة كلام بيخلّي النموذج يكمل بإجابة ضارة — هل النموذج قادر يعترف بعدين إنه اتلاعب فيه؟ جرّبوا عشرة نماذج مفتوحة المصدر من 3B لـ 70B على أربعة safety benchmarks، ولاقوا إنه ما في نموذج بيعترف بشكل موثوق — بس النماذج بتدّعي النيّة على الإجابات المحشورة بنسبة 27.3% بالمعدل. الإشارة الاستبطانية اللي بتظهر مرتبطة أساسًا بآليات الرفض safety/refusal، وزي ما التجارب بيّنت، الـ framing للسؤال — هل الخطأ نيّة داخلية ولا تلاعب خارجي — بيغيّر الإجابة كليًا. جرّبوا كمان ثلاث طرق fine-tuning هي SFT وGRPO وDPO، وإيش جرى؟ الموديلات صارت تعترف أكثر بالنيّة، بس ما انحلّ المشكل الأعمق — وبعض الحالات ارتفع معدل نجاح الهجوم!

لما تسأل نموذج لغوي سؤالًا مبهمًا أو متناقضًا أو ناقص المعلومات، كيف بيعرف النموذج إنه السؤال أصلًا فيه إشكالية؟ فريق Jiang وزملاؤه من جامعة George Washington وغيرها قرروا ما يحكموا على السؤال من الإجابة، بل يدخلوا على الـ internal states جوّا الـ transformer نفسه. الفكرة: يعاملوا الـ hidden states للـ tokens كـ point cloud ويحلّلوا شكلها الهندسي باستخدام zero-dimensional persistent homology — وهي أداة من الرياضيات بتوصف كيف تتجمّع النقاط وتتفرّق. من كل layer بيستخرجوا ٣ descriptors مضغوطة، ولمّا يضمّوهم كلهم مع بعض يجيب representation توبولوجي للسؤال. وعلى هالأساس بنوا طريقة steering بتجيب أمثلة مشابهة توبولوجيًا وتبني تدخلات مخصّصة تخلّي النموذج يطلب توضيحًا أو يمتنع عن الإجابة بدل ما يخترع جواب. النتائج على benchmarks زي AmbigQA وSituatedQA وCLAMBER أثبتت إن الـ topology features تتفوق بوضوح على الـ baselines التقليدية. البحث ظهر كـ preprint على arXiv ضمن cs.AI.

الباحثون من فريق Jiang وزملاؤه قدّموا شغلتين بورقة وحدة: أوّلاً PhySciBench، وهو benchmark جديد خاص بالعلوم الفيزيائية، فيه 200 سؤال معدّ من خبراء في فيزياء وكيمياء، موزّعة على ستّ فئات تعكس سير العمل البحثي الحقيقي. لما جرّبوا أقوى الأنظمة الموجودة، تبيّن إنّ الأداء محدود — حتى Gemini Deep Research ما وصل إلا لـ 33.5% دقّة! بعدها بنوا DelveAgent، إطار عمل modular متعدد الـ agents يشتغل بـ adaptive planning loop وذاكرة dual-granularity وآلية تحقّق مبنية على منطق فيزيائي. النتيجة؟ تحسين بلغ 7.5 نقطة مئوية عن أقوى baseline، مع تخفيض تكلفة الاستدلال لثلث الكلفة تقريباً.

فريق Youyang Yin وزملاؤه من Baidu قدّموا نموذج Unlimited OCR، وهو محاولة جريئة لحل مشكلة معروفة في نماذج OCR الحديثة زي DeepSeek OCR — يعني لما النص يطول، الـ KV cache بيكبر وبيأكل ذاكرة وبيبطّئ كل إشي. الحل اللي قدّموه هو آلية انتباه جديدة اسمها Reference Sliding Window Attention (R-SWA)، بتحافظ على حجم الـ KV cache ثابت طول فترة الـ decoding بغض النظر عن طول المستند. النتيجة؟ النموذج بيقدر يقرأ عشرات الصفحات في تمريرة واحدة بطول أقصى 32K token — وبنفس الوقت R-SWA مش محصورة بالـ OCR بس، بتنفع كمان لمهام زي الـ ASR والترجمة. الكود والأوزان متاحة للعموم على GitHub.

فريق Phan وزملاؤه جابوا مشكلة مهمة بقطاع الطاقة في أمريكا: كيف تخلّي LLM يكتب تقارير انقطاع الكهرباء بشكل صح — مش بس من ناحية المعنى، كمان من ناحية البنية والـ format المطلوب من الجهات التنظيمية (JSON وXML محددين بمعايير دقيقة). قدّموا POTracker، وهو نموذج Qwen2.5-7B-Instruct تم fine-tuning عليه بـ loss function جديدة اسمها POTrackerLoss تحسب التشابه النصي والبنيوي (التاغات) مع تقرير الـ ground truth مع بعض. النتايج على dataset من 1,000 تقرير: POTracker تفوّق على خمس طرق fine-tuning معروفة وطريقة rule-based، ورفع الدقة الكلية لـ 51% وبلغ 86.47% structural accuracy. كمان خبراء المجال أعطوا التقارير المولّدة 4.03 من 5 بدراسة بشرية.

فريق Abaskohi وزملاؤه قدّموا MCompassRAG، وهو إطار عمل جديد لتحسين أنظمة RAG — اللي بتجمع البحث مع التوليد. المشكلة اللي بيعالجوها هي التوازن الصعب بين دقّة الاسترجاع وسرعته: الـ chunks الصغيرة بتعطي دقّة أحسن بس بتكلّف وقت وموارد أكتر، والكبيرة أسرع بس بتخلط مواضيع كتير فتضعف جودة التمثيل الدلالي. الحل اللي اقترحوه هو إثراء تمثيل كل chunk ببيانات وصفية للمواضيع في نفس فضاء الـ embedding، وتدريب retriever خفيف الوزن عن طريق LLM-teacher distillation. النتيجة: تحسّن في information efficiency بنسبة 8.24% على ستّ benchmarks معقّدة، مع زمن استجابة أقل بأكتر من 5 مرات مقارنةً بأقوى baselines فعّالة. الكود متاح على GitHub.

واحدة من التحديات الكبيرة في أنظمة RAG هي كيف توازن بين دقة استرجاع المعلومات والتماسك السياقي — يعني مش بس تجيب الجملة الصح، لازم تجيب السياق الكافي معها. فريق Abaskohi وزملاؤه قدّموا SproutRAG، نظام هرمي بيرتّب الجمل في وحدات أكبر وأكبر بشكل تدريجي باستخدام الـ attention بين الجمل عشان يبني شجرة ثنائية للتقسيم. الذكي في الموضوع إنه بيتعلّم لوحده أي layers وأي attention heads بتمثّل هيكل الوثيقة بشكل أحسن، من غير ما يحتاج يستدعي LLM خارجي أو يعمل تلخيص ناقص للمعلومات. وعند الاسترجاع، بيستخدم hierarchical beam search عشان يجيب مقاطع من مستويات مختلفة بنفس الوقت. النتايج على أربعة benchmarks في مجالات علمية وقانونية ومفتوحة أظهرت تحسّن 6.1% في الـ information efficiency على أقوى baseline.

النماذج الموجودة للـ embeddings بتعمل بشكل ثابت — بتشفّر كل قطعة نص لوحدها بمعزل عن اللي قبلها وبعدها. فريق Nie وزملاؤه جاؤوا بفكرة مختلفة كليًّا: EvoEmbedding بيحافظ على ذاكرة كامنة بتتحدّث باستمرار مع كل مدخل جديد، وبيستخدمها جنبًا لجنب مع المحتوى الخام عشان يولّد تمثيلات «تتطوّر» مع السياق. يعني نفس الـ query ممكن يرجعلك نتائج مختلفة حسب وين وصلت في القصة أو المحادثة — مش بس بحث دلالي ساكن. لتدريب الموديل على هالقدرة، بنوا dataset جديد اسمه EvoTrain-180K، واضافوا تقنية memory queue تمنع انهيار التمثيلات، وطريقة segment-batching بتسرّع التدريب 3.8 مرات. النتائج بتقول إن EvoEmbedding تجاوز نماذج أكبر منه حجمًا زي Qwen3-Embedding-8B وKaLM-Embedding-Gemma3-12B على عدة long-context retrieval benchmarks، وحتى pipeline بسيط من RAG مزوّد بيه تفوّق على أنظمة ذاكرة متخصصة للـ agents.

فريق Ma وزملاؤه من جامعة إرلانغن-نورنبرغ لاحظوا إشيًا بيصير كتير في الـ multimodal agents: كل مرة النموذج بيرجع يشوف نفس الصورة أو الفيديو أو الـ screenshot، بيعيد حسابها من أول وجديد — وهاد تدمير للوقت والحوسبة. المشكلة إنه الـ prefix caches الموجودة شغّالة بس لما البيانات بتكون بنفس المكان الثابت في السياق، ولما بتتحرك بيضيع جزء مهم اسمه "cross-chunk conditioning". الحل اللي قدّموه اسمه Kamera: بدل ما يعيد الحساب، بيحكم "patch" صغير low-rank مخزّن مع كل chunk بيعيد هاد الجزء الضايع بدقة، مع إعادة توجيه الـ RoPE لأي موقع جديد. الإشي الذكي إنه هاد الحل ما بحتاج أي fine-tuning وبيشتغل مع MLA وGQA وMHA — والنتايج على benchmarks زي MM-NIAH وdoc-QA بيثبتوا إنه بيسترجع الدقة الكاملة بجزء بسيط من تكلفة الـ KV الأصلية.

الباحثون من Alibaba (فريق Tan وزملاؤه) لاحظوا إشي مثير: الـ attention heads جوّا نفس الطبقة مش متشابهة — كل رأس بتخصّص بوظيفة مختلفة، بينما الطبقات اللي بجانب بعض هي اللي بتشتبه ببعض. انطلاقًا من هاد الاكتشاف، طوّروا معمارية HydraHead اللي بتدمج Full Attention مع Linear Attention على مستوى الـ heads مش الطبقات. الفكرة: الـ heads اللي إلها دور في استرجاع المعلومات بتاخذ Full Attention، والباقي بياخذوا Linear Attention الأخف. النتيجة؟ نموذج تدرّب على 15B token بس حقّق تحسّن فوق 69% في السياقات الطويلة جداً (512K)، ووصل قريب من Qwen3، وهاد البحث ظهر كـ preprint على arXiv وجمع اهتمام واضح على Hugging Face Daily Papers.

فريق Meister وزملاؤه جابوا خوارزمية اسمها LangMAP بتحلّ مشكلة قديمة: كيف تخلّي الـ tokenizer يعطي كل لغة حقها من غير ما تعيد تدريب النموذج من أوله أو تعدّل الـ vocabulary؟ الفكرة إنها بتمدّد خوارزمية UnigramLM الموجودة عشان تصير تطلع tokenization خاص بكل لغة من نفس الـ vocabulary المشترك. الأحلى من هيك إنها وقت الـ inference ما بتحتاج تعرف إيش اللغة اللي بتشتغل عليها — النموذج بيكتشفها لحاله. الفريق جرّبها على 14 tokenizer مفتوح المصدر، 9 لغات طبيعية، و9 لغات برمجة، وكانت النتايج واعدة خصوصًا على مستوى المحاذاة الصرفية ومحاذاة حدود الـ AST في الكود.

الباحثون Mguni وزملاؤه جابوا ورقة نظرية بتقول إشي مهم وجريء: الـ LLMs مش universal solvers زي ما الناس بتحكي. الفكرة الأساسية إنهم بيشوفوا التفاعل بين المستخدم والنموذج كـ 'cheap-talk game' — يعني لعبة تواصل ناقصة — لأن اللغة الطبيعية نفسها channel محدود السعة، وما بتقدري تحشي فيها كل تفاصيل أي مهمة معقدة. من هون بيشتقوا نتيجتين رياضيتين قويتين: الأولى 'expressivity floor' — يعني في حد أدنى للخطأ مش ممكن تتجاوزيه بأي قدر من البيانات أو الـ scaling؛ والثانية 'objective-misalignment floor' — لما الـ alignment constraints بتقيّد مخرجات النموذج، بيصير في تشويه لا يمكن إزالته. النتيجة الرسمية: في مهام بيفشل فيها الـ prompting حتى لو عندك بيانات لا نهائية، وهيك بيقترح الباحثين إن الحل ببدنا نتجاوز اللغة — بـ multimodal inputs وذاكرة خارجية.