Jev 决策模型西语科普:给选项、返回概率
西语长帖拆解 Jev 用法:传入上下文与候选选项,返回各选项概率供代码决定执行或转人工,并列出 70–500ms、$0.042/M 输入等官方数据。
Jev es un modelo de IA diseñado para tomar decisiones entre opciones que vos definís. ¿qué tiene de interesante? (1) le pasás contexto y las opciones posibles. por ejemplo: una consulta y los modelos disponibles para resolverla. Jev elige cuál usar. (2) devuelve probabilidades para cada opción. tu código puede usarlas para decidir si actuar o pedir una revisión. (3) según TypeSafe, responde en 70–500 ms y cuesta USD 0,042 por millón de tokens de entrada, con salida gratis. en sus evaluaciones, reportan hasta 200x más velocidad y 400x menos costo que los LLMs comparados. (4) puede servir para elegir tools, filtrar documentos que no aportan a una respuesta o detectar acciones que necesitan aprobación. (5) no genera texto. complementa a los LLMs: Jev toma esas decisiones y otro modelo escribe, programa o razona en profundidad. ojo que puede elegir mal. que respete las opciones que definiste no garantiza que la elección sea correcta. si tu agente hace muchas llamadas solo para decidir el próximo paso, ese ahorro puede acumularse bastante. muy claro el artículo:
这条是引用着另一条写的:x.com/akshay_pachaar/status/2101037514945597645