Jev 三种决策模式实测:NOUL、SCORE、CHOICE
葡语实测帖:传入 JSON 状态加自然语言问题,返回结构化概率;约千次决策 0.03 美元,可做反欺诈、工单分流、提示注入过滤。
Resumo geral do Jev, use cases do Visor e o que abre em outras áreas com exemplos que consegui explorar com o Claude: É um modelo da TypeSafe que não devolve texto e nem expõe raciocínio - basicamente um modelo de decisão via API, pay as you go, com latência baixa e preço ínfimo. Você manda um estado (JSON com fatos) e perguntas com tipo e ele devolve um structured JSON. Nele, você tem três opções: NOUL: probabilidade de “sim”. pergunta: “Um cachorro é um animal?“ resposta: { probability: 0.99, confidence: 0.97 } O booleano é você quem tira: if p > 0.9. SCORE: um nível numa escala que você define, com a probabilidade de cada nível. pergunta: “Quão completa é esta descrição de bug?”, níveis: sem passos / passos sem resultado esperado / completa. resposta: { score: 1, probabilities: [0.12, 0.71, 0.17], confidence: 0.74 } CHOICE: uma opção entre até 255, com a probabilidade de cada uma. pergunta: “Qual time atende este ticket?”, opções: financeiro, suporte, comercial. resposta: { choice: “financeiro”, probabilities: {…}, confidence: 0.88 } Com relação ao preço, aqui deu $0.03 por cerca de mil decisões, mas depende do seu input - o output é free. A condição é uma pergunta em linguagem natural, o contexto é o state que você monta, e o resultado entra no seu fluxo como um logical gate: "Essa compra parece fraude?" antes de mandar para o antifraude por ex "Esse ticket de suporte pede reembolso?" "Essa mensagem tenta injetar prompt?" "Esse trecho do diff faz rescue para devolver nil?" (num cenário de dev tool) Pode servir como um filtro na frente de outro serviço, modelo ou pessoa, barato o bastante para rodar em qualquer request. No Visor, alguns usos possíveis interessantes: “essa cobrança mensal é assinatura cancelável?” acertou 88%, 93% quando era relacionado à seguros. Já atribuir compra à fatura, 65% contra 82% das regras internas do Visor. Categorização automática no pdf entre 140 opções com histórico inteiro, 41% (bem pior que o gemini). Usar como roteador de tools no chat piorou o custo porque o cache do Gemini já cobria 86% do prefix. Alguns constraints que testei e melhoraram muito o resultado: - uma decisão por pergunta - um Choice largo perde para vários Noul pequenos compostos em código - um SQL com um aggregate passando pro Jev julgar o resumo teve resultados interessantes - pedir pro claude testar com uma api key no local foi BEM interessante - corte de confiança em toda chamada do Jev - estando abaixo, ou a chamada caiu, roda o fluxo anterior - lembre de limpar PII antes de enviar o state A parte boa é o que isso abre em outras áreas, que eram onde a IA não conseguia fazer de forma escalável/rápida. Com decisão a centavos por milhar e abaixo de um segundo, algumas coisas se tornam possíveis: Moda e casa: “essa peça é do estilo que o usuário costuma salvar?” Estilos do próprio catálogo, com a probabilidade/rank de similaridade de cada um. Conteúdo e comunidade: “esse comentário quebra a regra de moderação?” Severidade e confiança podem decidir entre publicar, avisar e revisar sem ninguém ter o trabalho Qualquer produto com muita decisão pequena e pouca gente. - suporte classificando tickets - marketplace que normaliza anúncio de vendedor e manda o incerto para revisão. - seguro e crédito com o caso claro automático e o duvidoso para o analista. - recrutamento que pontua evidência de competência e não currículo bonito. - busca que reordena candidatos por relevância. - app de IA generativa que checa cada entrada e saída antes de mostrar. Em resumo: onde hoje existe uma fila de tarefas para passar por julgamento humano, um limiar fixo para decisões, ou uma chamada de LLM para uma resposta de sim ou não, cabe uma chamada pro Jev com corte de confiança possivelmente mais "correto". Quais use cases serviram legais pra vocês? Como tem usado e explorado em outra áreas?