Ten enterprise use cases for Jev, from ticket triage to lead qualification
A Polish-language post lists enterprise use cases for Jev such as customer ticket classification, lead qualification and routing, arguing it beats LLMs on cost and latency.
Jev od @typesafeai zmieni bardzo dużo, jeżeli chodzi o zastosowanie AI w firmach, jako że nie jest llmem, tylko modelem System One. Jeżeli ktoś chce się więcej dowiedzieć, jak ten model działa, odsyłam do ich docs: https://docs.typesafe.ai/introduction Ja postaram się przedstawić use case’y użycia go w przedsiębiorstwach, wstępnie 10 ale jest ich o wiele więcej DISCLAIMER: praktycznie każdy z tych use case’ów może wykonać jakiś llm. Chodzi tutaj przede wszystkim o koszt i latency, które wypadają na korzyść Jeva, i to czasami kilkadziesiąt do kilkuset razy bardziej. 1. Zgłoszenia klientów Firma może użyć Jeva do analizy przychodzących zgłoszeń i decydowania, czego ono dotyczy oraz co powinno wydarzyć się dalej. Jev może rozpoznać takie rzeczy jak temat takiego zgłoszenia, jak pilne jest to zgłoszenie, czyli czy klient jest sfrustrowany, jakieś ryzyko związane z takim zgłoszeniem, wykryć prośbę o zwrot pieniędzy, a następnie przekazać tę sprawę do dalszych automatycznych procesów albo odpowiedzialnego za daną czynność człowieka lub zespołu. Dzięki temu pracownicy nie muszą ręcznie sortować tysięcy wiadomości - czy może to zrobić jakiś mały llm? Tak, ale będzie to o wiele, wiele wolniejsze i dużo droższe. 2. Kwalifikacje leadów Jev może czytać informacje o firmie, stanowisku danej osoby, wiadomości od potencjalnego klienta czy też inne dane, które ubogacają leady. Następnie, na podstawie tych danych, ocenić, czy dany lead pasuje do naszego ICP (idealnego klienta). Może rozpoznawać takie rzeczy jak branżę, wielkość firmy, poziom zainteresowania naszą ofertą, potencjalne problemy i obawy klientów oraz intencje zakupowe. Na podstawie podjętych decyzji Jev może przekazywać leady od razu do repa, kierować je do jakiejś automatycznej sekwencji albo je odrzucić. 3. Routing modeli Już od dawna wiadomo, że nie trzeba i nie powinno się wysyłać każdego zadania do najdroższego modelu. Jev może najpierw ocenić, czego dotyczy dane zadanie, jak jest trudne, jak duże niesie ryzyko i następnie zadecydować, który model powinien być przypisany do takiego zadania. Jest to znacznie lepsze rozwiązanie niż korzystanie z innego małego llma tylko dla routingu. 4. Kontrola jakości innych modeli Jev może działać jako kontroler innych modeli i sprawdzać, czy output llmów zawiera błędy, czy odpowiadają na pytanie klienta, czy naruszają wewnętrzne polityki albo czy model poprawnie wywołał narzędzie. Dzięki temu, że Jev jest tak tani i szybki, może to się odbywać w czasie rzeczywistym i na bieżąco kierować modelem. 5. Wykrywanie ataków na AI Jeśli firma udostępnia swoich agentów AI dla swoich klientów albo pracowników, ktoś może wykorzystać np. prompt injection w celu oszukania systemu. Jev może analizować każdy input i oceniać, czy wygląda on na jakąś próbę prompt injection albo innego włamania się lub nadużycia. Program wtedy może automatycznie zablokować zadanie klienta lub pracownika, ograniczyć możliwości agenta i skierować sprawę do człowieka. 6. Analiza dokumentów Duże firmy każdego dnia muszą przetwarzać ogromne ilości umów, regulaminów, jakichś dokumentów wewnętrznych. Jev może sprawdzać te dokumenty pod kątem konkretnie zdefiniowanych zasad i szukać np. brakujących informacji, niedozwolonych zapisów lub potencjalnych problemów. Nie ma to na celu zastąpienia prawnika. To bardziej ta pierwsza warstwa kontroli i wskazywania dokumentów, które wymagają dokładniejszej analizy. 7. Wykrywanie oszustw W takich branżach jak bankowość czy też ubezpieczenia pracownicy muszą analizować ogromną liczbę przypadków, z których najczęściej tylko mała część jest naprawdę podejrzana i ryzykowna. Jev może analizować opisy transakcji, dokumenty, historię klienta czy zgłoszenia i oceniać, czy dany przypadek wygląda na potencjalne zagrożenie. System może nadać danemu przypadkowi poziom ryzyka i przekazać te najważniejsze ekspertowi. 8. Wyszukiwanie i wybieranie informacji W dużych przedsiębiorstwach pracownicy często mają dostęp do tysięcy dokumentów. Wskutek tego problemem często jest znalezienie właściwej informacji. Jev może analizować i oceniać, które dokumenty lub fragmenty w nich są naprawdę przydatne w danej sprawie. Jev również może zrobić ranking i zdecydować, jakie informacje powinny zostać przekazane kolejnemu modelowi. Dzięki temu llm może pracować na lepszym kontekście zamiast sam go szukać. 9. Analiza rozmów sprzedażowych/z klientami Jev może przeczytać i przeanalizować transkrypcje z takiej rozmowy i wyciągnąć z niej najważniejsze informacje, takie jak potrzeby klienta, jego obiekcje, zainteresowania produktem, jego feedback itd. Te wnioski mogą zostać automatycznie zapisane w systemach firmy, tak żeby człowiek nie musiał przepisywać ręcznie rozmów do CRMa. 10. Masowe przetwarzanie nieuporządkowanych danych Jev może analizować ogromne ilości danych, których klasyczny program nie potrafi tak łatwo zrozumieć, jako że są nieuporządkowane. Możemy dać dla Jeva setki dokumentów, wiadomości, ticketów, jakichś opinii, feedbacków, rekordów i z każdego wyciągnąć konkretne informacje, które nas interesują. Potem takie sygnały i informacje mogą zostać wykorzystane przez systemy analityczne, modele predykcyjne albo jakieś workflow. --- Jev jest o tyle rewolucyjny, że przez jego koszt oraz szybkość odblokowują się pomysły, które wcześniej musiały być odkładane na bok. W przypadku Jeva intelligence-per-cost spada do prawie zera, co jest sednem automatyzacji. A sam sukces premiery @typesafeai na pewno popchnie też innych w tym kierunku otwierając nową gałąź AI (bardzo ważne i zdrowe dla branży)