Arabic thread breaks down Jev's RLCD training and structured judgments
YoussefHosni95 explains that Jev is trained with RLCD, runs about 200x faster and 400x cheaper than most SOTA models, fills schemas with probabilities in parallel instead of generating tokens, and is still available by request only.
شركة TypeSafe AI اصدرت LLM اسمه Jev تم تدريبه بطريقة جديدة لتدريب ال LLMs اسمها RLCD و هي بتخليه أسرع بحوالي 200 مرة وأرخص بحوالي 400 مرة من معظم الـ SOTA LLMs الموجودة حاليًا. الشركة اسسها Diogo Almeida، أحد الباحثين اللي شاركوا في بناء ChatGPT ومن الأشخاص اللي قدموا فكرة ال RLHF في تدريب ال LLMs، بيحاول دلوقتي يخلي تكلفة ال LLMs حوالي $0.042 لكل مليون input tokens، والـ output مجاني. أسرع وأرخص بفرق كبير من GPT-6 Astra و اي موديل متقدم. الموديل الفكرة إن Jev ما بيكتبش الإجابة token وراء token زي الـ LLMs التقليدية. هو فئة مختلفة معمولة لمهمة مختلفة: تنفيذ ملايين الـ small structured judgments داخل الـ code، من غير parsing، ومن غير extra tokens، ومع probabilities تقدر تعتمد عليها في اتخاذ القرار. وفي النوع ده من المهام، السرعة ممكن تكون أعلى بحوالي 20–200 مرة. معظم الـ structured output اللي بنطلعه من LLMs لحد دلوقتي هو في الأساس text بيتم توليده، وبعدها بنأمل إنه يتعمله parsing بشكل صحيح. موديل Jev ما بيولدش النص أصلًا. انت بتحدد الـ schema، وهو بيملأ الـ schema ومعاها الـ probabilities في parallel pass واحدة. حاليًا الموديل لسا مش متاح, انت بتقدم طلب عشان تجربه, و في ناس و انا اميل لده شويه شايفين انه مجرد Json parser و لكن لما يكون الموديل متاح و يتجرب على مهام حقيقة هنقدر نحكم. ----------------------- حابب افكركم ان خصم ال ٨٠٪ على كتابي الجديد Hands-On LangChain مستمر ان شاء الله لحد يوم الاحد اللي جاي الموافق ٢٠ سبتمبر. الكتاب تقدر تشتريه من الموقع باستخدام كود الخصم ده 399GT67 او عن طريق InstaPay بسعر 250 جنيه مصري و الدفع على الرقم ده: 01126776621 رابط الكتاب في التعليقات!