阿拉伯语长帖拆解 Jev 的 RLCD 训练与结构化判定
YoussefHosni95 介绍 Jev 用 RLCD 训练，比主流 SOTA 模型快约 200 倍、便宜约 400 倍，不逐 token 生成而是按 schema 并行填概率，目前仍需申请试用。
شركة TypeSafe AI اصدرت LLM اسمه Jev تم تدريبه بطريقة جديدة لتدريب ال LLMs اسمها RLCD و هي بتخليه أسرع بحوالي 200 مرة وأرخص بحوالي 400 مرة من معظم الـ SOTA LLMs الموجودة حاليًا. الشركة اسسها Diogo Almeida، أحد الباحثين اللي شاركوا في بناء ChatGPT ومن الأشخاص اللي قدموا فكرة ال RLHF في تدريب ال LLMs، بيحاول دلوقتي يخلي تكلفة ال LLMs حوالي $0.042 لكل مليون input tokens، والـ output مجاني. أسرع وأرخص بفرق كبير من GPT-6 Astra و اي موديل متقدم. الموديل الفكرة إن Jev ما بيكتبش الإجابة token وراء token زي الـ LLMs التقليدية. هو فئة مختلفة معمولة لمهمة مختلفة: تنفيذ ملايين الـ small structured judgments داخل الـ code، من غير parsing، ومن غير extra tokens، ومع probabilities تقدر تعتمد عليها في اتخاذ القرار. وفي النوع ده من المهام، السرعة ممكن تكون أعلى بحوالي 20–200 مرة. معظم الـ structured output اللي بنطلعه من LLMs لحد دلوقتي هو في الأساس text بيتم توليده، وبعدها بنأمل إنه يتعمله parsing بشكل صحيح. موديل Jev ما بيولدش النص أصلًا. انت بتحدد الـ schema، وهو بيملأ الـ schema ومعاها الـ probabilities في parallel pass واحدة. حاليًا الموديل لسا مش متاح, انت بتقدم طلب عشان تجربه, و في ناس و انا اميل لده شويه شايفين انه مجرد Json parser و لكن لما يكون الموديل متاح و يتجرب على مهام حقيقة هنقدر نحكم. ----------------------- حابب افكركم ان خصم ال ٨٠٪ على كتابي الجديد Hands-On LangChain مستمر ان شاء الله لحد يوم الاحد اللي جاي الموافق ٢٠ سبتمبر. الكتاب تقدر تشتريه من الموقع باستخدام كود الخصم ده 399GT67 او عن طريق InstaPay بسعر 250 جنيه مصري و الدفع على الرقم ده: 01126776621 رابط الكتاب في التعليقات!