How Jev differs from LLMs: it outputs decision probabilities directly
A long Arabic post explains that Jev does not generate token by token but scores predefined options directly, and lists the narrow decisions a coding agent should hand to Jev.
موديل Jev اللي عامل ضجة مؤخرًا مش بيشتغل بنفس طريقة الـ LLMs التقليدية اللي بتولّد نصوص بشكل autoregressive فبدل ما يبني الإجابة token ورا token، هو مصمم لاتخاذ قرارات مباشرة ضمن اختيارات محددة و كأنه Multi class classifer خلّينا ناخد مثال بسيط لحالة ممكن يقابلها أي coding agent : «The deploy failed twice. Customers are seeing 500 errors.» الـ agent هنا ممكن يحتاج يجاوب على كذا سؤال: ← هل المشكلة عاجلة؟ ← مين الفريق المسؤول عنها؟ ← إيه مستوى الخطورة؟ ← هل المفروض الـ workflow يكمل و لا يوقف؟ مع ال LLM الة ءتقليدي، غالبًا هنطلب منه يولّد إجابة منظمة بالشكل ده: { urgent = true owner = engineering risk = high complete = false } استخدام الـ structured outputs بيخلّي الالتزام بالشكل المطلوب أكثر موثوقية، لكن الموديل في الخلفية بيولّد سلسلة من الـ tokens لحد ما يكوّن الإجابة النهائية. أما مع Jev، فطريقة التعامل مختلفة. فإنت بتحدد القرارات اللي محتاجه يقيّمها والاختيارات المتاحة لكل قرار، بدل ما تطلب منه يكتب الإجابة. مثلًا، ممكن تحدد مستويات الخطورة المتاحة كالتالي: ← خطورة عالية. ← خطورة متوسطة. ← خطورة منخفضة. وبعدها يقيّم الموديل الاختيارات دي ويرجّع احتمالات زي: احتمال الخطورة العالية: high = 0.88 احتمال الخطورة المتوسطة: medium = 0.10 احتمال الخطورة المنخفضة: low = 0.02 الفرق هنا إن الموديل مش محتاج يولّد جملة أو يبني JSON object عشان يوصّل القرار. فهو بيقيّم الاختيارات المحددة مباشرة، وبيرجّع الاحتمال المرتبط بكل اختيار. وده ممكن يكون مفيد جوه الـ agents workflows. فالموديل الأساسي يفضل مسؤول عن المهام المفتوحة اللي بنحتاج فيها توليد، زي التفكير والتخطيط وكتابة الكود واستخدام الأدوات والشرح. وحوله، يقدر Jev يتولى قرارات أضيق، زي: ← هل نسمح باستدعاء الأداة دي؟ ← هل النتيجة جودتها كفاية؟ ← هل نحول المهمة لـ agent تاني؟ ← هل الإجراء الحالي خطورته عالية؟ ← هل محتاجين موافقة بشرية؟ وجود الاحتمالات مهم كمان لأنه بيسمح لنا نحتفظ بقواعد التصرف النهائية, فمثلًا، ممكن نكتب قاعدة بتحوّل الحالة لمراجعة بشرية لو احتمال الخطورة العالية تجاوز 90%، وتسمح باستمرار التنفيذ في غير كده. بالشكل ده، بيقدّم Jev التقييم، والتطبيق بيحدد الإجراء اللي يحصل بناءً عليه. وده الفرق في التصميم اللي بيشرحه الفيديو: الموديل التقليدي بيولّد الإجابة بالتتابع، بينما Jev بيقيّم قرارات ضمن اختيارات محددة مباشرة. حاليًا، أنا شغال على تجربة عملية عشان أقيس زمن الاستجابة الفعلي، والاحتمالات اللي بيرجّعها، والحالات اللي بيفشل فيها، وإمتى الأسلوب ده يكون مفيد مقارنة باستخدام LLM مع structured outputs. وهشارك التجربة كاملة في مقالي الجاي على @ToDataBeyond بعنوان: Jev Clearly Explained: I Built a Decision Layer for an AI Agent تقدر تشترك مجانًا في النشرة البريدية عشان تعرف اول ما التجربة تنتشر. رابط الاشتراك في التعليقات! ----------------------------------- حابب افكركم ان خصم ال ٨٠٪ على كتابي الجديد Hands-On LangChain مستمر ان شاء الله. الكتاب تقدر تشتريه من الموقع باستخدام كود الخصم ده 399GT67 او عن طريق InstaPay بسعر 250 جنيه مصري و الدفع على الرقم ده: 01126776621 رابط الكتاب في التعليقات