Firemní jazykový model, který umí říct „nevím“
Model odpovídá jen z podkladů, které mu dáte, a ke každé odpovědi připojí odkaz na konkrétní místo v dokumentu. Pod nastaveným prahem jistoty odpověď neodešle a dotaz předá člověku, kterého určíte.
Jaká je výpovědní lhůta u rámcové smlouvy?
Tři měsíce od prvního dne měsíce po doručení výpovědi.
smlouva.pdf · čl. 9.2
Jaký rozpočet na cesty má oddělení příští rok?
pod prahem: předáno člověku
V podkladech to není. Dotaz předávám ekonomickému oddělení.
Co to umí
Práh jistoty vysvětlujeme v článku Proč naše AI raději řekne, že neví.
Odpověď se zdrojem
Ke každé odpovědi model připojí dokument a článek, ze kterého vychází. Odpověď si ověříte v originále.
Přiznané „nevím“
Pod prahem jistoty model napíše, že odpověď v podkladech nenašel, a dotaz pošle kolegovi, který má agendu na starosti.
Práh podle agendy
Práh jistoty nastavíte podle toho, jak kritická agenda je. U smluv můžete chtít přísnější práh než u interních návodů.
Kontrola proti zdroji
Před odesláním model zkontroluje, jestli tvrzení v odpovědi vychází z citovaného místa v dokumentu.
Co model při dotazu udělal
U každého dotazu vidíte, co model hledal, co četl a z čeho odpověděl. Když si není jistý, předá dotaz člověku. Přepněte mezi dvěma ukázkovými dotazy.
- prepis_reci„Kdo schvaluje cestovní příkaz nad limit?“
- hledani_v_dokumentechcestovni_nahrady.pdf
- cteni_zdroječl. 4.1
- model.odpovedodpověď se zdrojem
- kontrola_jistotynad prahem
- synteza_reciHlas A
Kde se to používá
AI asistenta nad firemními dokumenty se mohou ptát zaměstnanci i operátoři podpory. Nahrávky hovorů a porad mu zpřístupníte přepisem řeči na text.
Právní oddělení
Najde výpovědní lhůty a smluvní pokuty napříč smlouvami a u každé odpovědi vidí článek, ze kterého pochází.
Personální oddělení
Zaměstnanec se zeptá na dovolenou nebo cestovní náhrady a dostane odpověď s článkem platné směrnice.
Zákaznická podpora
Operátor najde odpověď v obchodních podmínkách a zákazníkovi pošle i číslo článku.
Servis a údržba
Technik popíše závadu a dostane postup ze servisní příručky s číslem kapitoly.
Jak to nasadíte
Režim provozu vyberete podle toho, kde smí vaše dokumenty ležet a jak rychle chcete začít. Když dokumenty nesmí opustit vaši síť, poběží model jako lokální LLM na vašem serveru.
| Režim | Kde jsou data | Jak rychle začnete | Pro koho |
|---|---|---|---|
| On-premise | Na vašem serveru nebo ve vašem privátním cloudu. Data z firmy neodejdou. | Až připravíte server. Požadavky na něj vám pošleme po technické konzultaci. | Pro úřady a firmy, jejichž podklady nesmí opustit vlastní síť. |
| Edge | Na kompaktní jednotce přímo ve vašem provozu, například na pobočce. | Až jednotku dodáme a nastavíme na místě. | Pro pobočky a provozy s nespolehlivým připojením k internetu. |
Napojení na vaše systémy
Model čte dokumenty i data ze systémů, které už máte, třeba z ERP nebo CRM. Systém bez API napojíme přes export nebo čtením databáze.
Rozhraní pro vaše aplikace
Model zaměstnancům zpřístupníte jako firemní chatbot. Na úvodní schůzce probereme, jestli poběží v intranetu, nebo ve vaší aplikaci.
Technické parametry
| Parametr | Hodnota |
|---|---|
| Provoz | on-premise, edge |
| Jazyky dotazů a dokumentů | Upřesníme na úvodní schůzce |
| Formáty dokumentů | Upřesníme na úvodní schůzce |
| Rozhraní | Upřesníme na úvodní schůzce |
Bezpečnost a data
Režimem provozu z Tab. 1 určíte, kde vaše dokumenty leží.
- Netrénujeme na vašich datech
- Dokumenty a dotazy model použije jen k odpovědi a neučí se z nich.
- On-premise
- Model běží na vašem serveru a dokumenty z firmy neodejdou.
- Audit log
- Ke každému dotazu uložíme odpověď a zdroje, ze kterých vznikla. U starší odpovědi tak dohledáte, z čeho model vycházel.
- Role zpracovatele podle GDPR
- Osobní údaje ve vašich dokumentech zpracujeme jen podle smlouvy a vašich pokynů. Záznam o činnostech zpracování s vámi připravíme.
Časté otázky
Trénujete model na našich datech?
Ne. Vaše dokumenty slouží modelu jako zdroj, ve kterém hledá odpověď v okamžiku dotazu. Do učení modelu se nedostanou a k jinému zákazníkovi také ne.
Co udělá model, když odpověď nezná?
Řekne to. Model před odesláním porovná jistotu odpovědi s prahem, který nastavíte. Když je pod ním nebo chybí zdroj, dostanete místo odpovědi „nevím“ a dotaz převezme člověk z vaší firmy.
Může model i tak odpovědět špatně?
Může. Práh jistoty a povinný zdroj chyby omezují, vyloučit je nedokážou. Proto u každé odpovědi vidíte, ze kterého místa v dokumentu pochází, a můžete si ji ověřit.
Jak dlouho trvá pilot?
Pilot trvá 2–4 týdny. Vezmeme jednu agendu a jeden zdroj dat a předem se dohodneme, podle čeho pilot vyhodnotíme. Ve vyhodnocení uvidíte i dotazy, na které model neodpověděl tak, jak jste čekali.
Na jakém hardwaru model poběží?
On-premise na vašem serveru s grafickou kartou, na edge na kompaktní jednotce, kterou dodáme. Přesné požadavky vám pošleme písemně po technické konzultaci podle objemu dat a počtu souběžných dotazů.
Kdo bude model spravovat?
Provoz a dohled nad modelem zajišťujeme my. Na vaší straně stačí jeden člověk, který rozhoduje, které dokumenty platí a kdo k nim má přístup.
Související řešení
Model můžete spojit s přepisem a syntézou řeči do hlasového asistenta, který odpovídá nahlas.
- [email protected]
- Telefon
- +420 797 633 218v pracovní dny 9–17 h
- Odpověď
- Odpovíme do jednoho pracovního dne.
- Kde jsme
- Hradec Králové