Aplikace AI a znalosti

Vývoj RAG

Jazykový model je jen tak dobrý jako to, co mu předložíte. Většina zklamání z odpovědí AI jsou selhání vyhledávání v hávu problému s modelem: správná pasáž existovala a nikdy se nenačetla. Stavíme a ladíme vyhledávací vrstvu a pak ji měříme, aby model vycházel ze správných podkladů.

Proberte svou iniciativu v oblasti AI Služby

Obchodní problém

Ukázka fungovala, protože korpus byl malý

Naivní vektorové vyhledávání funguje dobře na několika stech dokumentech a nad několika sty tisíci se výrazně zhorší. Dělení na části oddělí tabulku od jejího nadpisu. Sémanticky podobné pasáže vytlačí tu, která je skutečně závazná. Aktuálnost prohrává s podobností, takže zrušená politika předběhne platnou. Nic z toho není bez měření vidět, takže týmy nasadí, dostanou věrohodné odpovědi a chybovost objeví, až podle jedné z těch špatných někdo jedná.

Čím se zabýváme

Postavit vyhledávání, pak ho prokázat

Začínáme sestavením evaluačního souboru ze skutečných otázek a známých správných zdrojů, protože nelze ladit to, co nelze ohodnotit. Pak pracujeme na řetězci: dělení respektující strukturu dokumentu, hybridní vyhledávání kombinující klíčová slova a vektory, filtry metadat pro aktuálnost a závaznost a přeřazení užšího výběru. Tam, kde jsou vztahy mezi entitami důležitější než podobnost pasáží, používáme graf místo předstírání, že vektory stačí. Každá změna je hodnocena na stejném souboru, takže zlepšení je prokázáno, ne tvrzeno.

Vývoj RAG

Kompetence

Podnikový RAG
Pokročilý RAG
GraphRAG
Hybridní vyhledávání
Vektorové vyhledávání
Optimalizace vyhledávání
Evaluace RAG

Obvyklá využití

Ukotvit asistenta pro zákazníky tak, aby každé jeho tvrzení vedlo ke zveřejněnému dokumentu.
Vyhledávat napříč smlouvami, kde odpověď závisí na tom, která smlouva platí, ne na podobnosti formulací.
Prohledávat technickou dokumentaci, kde je správnou pasáží tabulka nebo popisek obrázku.
Přestavět stávajícího asistenta, který odpovídá věrohodně, ale mýlí se dost často na to, aby ztratil důvěru.

Jak dodáváme

Vymezení

Převedení požadavku do specifikace: kdo to používá, co je správná odpověď, kdo rozhoduje.
Ukotvení

Napojení na obsah a systémy, které obsahují odpovědi, s respektováním stávajících oprávnění.
Evaluace

Hodnocení na označeném souboru sestaveném z vašich vlastních případů, dřív než to uvidí kdokoli zvenčí.
Nasazení a provoz

Postupné zpřístupnění s monitorováním, kontrolou nákladů a sadou testů, která chrání kvalitu.

Technologie

OpenAI
Anthropic
Azure OpenAI
pgvector
Elasticsearch
Microsoft 365
SharePoint
Confluence
Salesforce

Bezpečnost a správa

Bezpečnost a řízení

Odpovědi jsou ukotveny ve vašem vlastním obsahu a nesou odkazy na zdroje, takže si je čtenář může ověřit. Vyhledávání respektuje oprávnění již nastavená na zdroji, což znamená, že uživatel nikdy neuvidí přes aplikaci to, co by nemohl vidět přímo. Dotazy, získaný kontext i odpovědi jsou zaznamenávány pro účely auditu a evaluace běží průběžně, ne jednorázově při spuštění.

Modely spolupráce

Projekt AI

Přebíráme odpovědnost za návrh a dodání vymezeného řešení AI.

Vyhrazený tým AI

Dlouhodobá vyhrazená inženýrská kapacita vybudovaná kolem vašich technologií a modelu dodávek.

Spravovaná AI

Provozujeme, monitorujeme a průběžně zlepšujeme produkční systémy AI.

Proč TeamExtension.ai

Nejdřív měříme, pak ladíme

Většina práce na vyhledávání se dělá intuitivně: změň velikost části, přečti pár odpovědí, usuď, že je to lepší. My nejdřív postavíme označený soubor, což není efektní a je to celý rozdíl mezi laděním a hádáním. Zůstane vám také sada regresních testů, takže aktualizace modelu za půl roku nezhorší kvalitu potichu.

Vybraní klienti

Časté dotazy

Jak měříte, zda je vyhledávání dobré?

Na označeném souboru skutečných otázek spárovaných s pasážemi, které na ně opravdu odpovídají. Uvádíme, zda byla správná pasáž vůbec nalezena a na jakém místě se umístila. Kvalitu odpovědi hodnotíme zvlášť, protože dobrá odpověď ze špatného zdroje je pořád selhání.

Potřebujeme vektorovou databázi?

Často ne. pgvector ve stávající instanci PostgreSQL zvládne velmi mnoho podnikových zátěží bez další infrastruktury k provozování. Vyhrazené vektorové úložiště doporučujeme, když to ospravedlní měřítko nebo funkční požadavky, ne automaticky.

Co je GraphRAG a potřebujeme ho?

Vyhledává nad grafem entit a vztahů, ne nad izolovanými pasážemi. Svou složitost si zaslouží, když odpovědi závisejí na propojení mezi dokumenty, například na vlastnických řetězcích nebo strukturách závislostí. U většiny dotazů nad souvislým textem dosáhne hybridní vyhledávání s přeřazením lepších výsledků s menší námahou.

Umíte vylepšit systém, který jsme už postavili?

Ano a je to časté. Začneme sestavením evaluačního souboru a změřením toho, co máte. To obvykle přesně lokalizuje problém a oprava bývá užší než přestavba.

Jak zůstane přesný, když se obsah mění?

Indexování sleduje zdroj podle plánu nebo při oznámení změny a evaluační soubor běží průběžně, ne jednorázově. Kvalita vyhledávání se sleduje stejně jako jakýkoli jiný produkční ukazatel.

Související kompetence

Aplikace AI a znalosti

Podnikové znalosti s AI

Přeměna roztříštěných interních znalostí v bezpečnou podporu, která respektuje stávající oprávnění.

Zjistit více

Data a modely AI

Datové inženýrství pro AI

Datové toky, kontroly kvality a vektorová úložiště, na nichž závisí správnost systémů AI.

Zjistit více

Data a modely AI

Inženýrství modelů

Doladění, vektorové reprezentace, optimalizace a zpřístupnění, včetně open-source a vlastního hostování.

Zjistit více

Proberte svou iniciativu v oblasti AI

Vyhledávací systémy, které ukotvují odpovědi ve vašem vlastním obsahu, s citacemi a měřitelnou přesností.

Promluvte si s odborníkem na AI Zahajte posouzení AI