Aplikácie AI a znalosti

Vývoj RAG

Jazykový model je len taký dobrý ako to, čo mu predložíte. Väčšina sklamaní z odpovedí AI sú zlyhania vyhľadávania v rúchu problému s modelom: správna pasáž existovala a nikdy sa nenačítala. Staviame a ladíme vyhľadávaciu vrstvu a potom ju meriame, aby model vychádzal zo správnych podkladov.

Preberte svoju iniciatívu v oblasti AI Služby

Obchodný problém

Ukážka fungovala, pretože korpus bol malý

Naivné vektorové vyhľadávanie funguje dobre na niekoľkých stovkách dokumentov a nad niekoľkými stotisíc sa výrazne zhorší. Delenie na časti oddelí tabuľku od jej nadpisu. Sémanticky podobné pasáže vytlačia tú, ktorá je skutočne záväzná. Aktuálnosť prehráva s podobnosťou, takže zrušená politika predbehne platnú. Nič z toho nie je bez merania vidieť, takže tímy nasadia, dostanú vierohodné odpovede a chybovosť objavia, až keď podľa jednej z tých zlých niekto koná.

Čomu sa venujeme

Postaviť vyhľadávanie, potom ho preukázať

Začíname zostavením evaluačnej vzorky zo skutočných otázok a známych správnych zdrojov, pretože sa nedá ladiť to, čo sa nedá ohodnotiť. Potom pracujeme na reťazci: delenie rešpektujúce štruktúru dokumentu, hybridné vyhľadávanie kombinujúce kľúčové slová a vektory, filtre metadát pre aktuálnosť a záväznosť a preradenie užšieho výberu. Tam, kde sú vzťahy medzi entitami dôležitejšie než podobnosť pasáží, používame graf namiesto predstierania, že vektory stačia. Každá zmena je hodnotená na rovnakej vzorke, takže zlepšenie je preukázané, nie tvrdené.

Vývoj RAG

Kompetencie

Podnikový RAG
Pokročilý RAG
GraphRAG
Hybridné vyhľadávanie
Vektorové vyhľadávanie
Optimalizácia vyhľadávania
Evaluácia RAG

Bežné využitia

Ukotviť asistenta pre zákazníkov tak, aby každé jeho tvrdenie viedlo k zverejnenému dokumentu.
Vyhľadávať naprieč zmluvami, kde odpoveď závisí od toho, ktorá zmluva platí, nie od podobnosti formulácií.
Prehľadávať technickú dokumentáciu, kde je správnou pasážou tabuľka alebo popis obrázka.
Prestavať existujúceho asistenta, ktorý odpovedá vierohodne, ale mýli sa dosť často na to, aby stratil dôveru.

Ako dodávame

Vymedzenie

Prevedenie požiadavky do špecifikácie: kto to používa, čo je správna odpoveď, kto rozhoduje.
Ukotvenie

Napojenie na obsah a systémy, ktoré obsahujú odpovede, s rešpektovaním existujúcich oprávnení.
Evaluácia

Hodnotenie na označenej vzorke zostavenej z vašich vlastných prípadov, skôr než to uvidí ktokoľvek zvonku.
Nasadenie a prevádzka

Postupné sprístupnenie s monitorovaním, kontrolou nákladov a sadou testov, ktorá chráni kvalitu.

Technológia

OpenAI
Anthropic
Azure OpenAI
pgvector
Elasticsearch
Microsoft 365
SharePoint
Confluence
Salesforce

Bezpečnosť a správa

Bezpečnosť a riadenie

Odpovede sú ukotvené vo vašom vlastnom obsahu a nesú odkazy na zdroje, takže si ich čitateľ môže overiť. Vyhľadávanie rešpektuje oprávnenia už nastavené na zdroji, čo znamená, že používateľ nikdy neuvidí cez aplikáciu to, čo by nemohol vidieť priamo. Dopyty, získaný kontext aj odpovede sa zaznamenávajú na účely auditu a evaluácia beží priebežne, nie jednorazovo pri spustení.

Modely spolupráce

Projekt AI

Preberáme zodpovednosť za návrh a dodanie vymedzeného riešenia AI.

Vyhradený tím AI

Dlhodobá vyhradená inžinierska kapacita vybudovaná okolo vašich technológií a modelu dodávok.

Spravovaná AI

Prevádzkujeme, monitorujeme a priebežne zlepšujeme produkčné systémy AI.

Prečo TeamExtension.ai

Najskôr meriame, potom ladíme

Väčšina práce na vyhľadávaní sa robí intuitívne: zmeň veľkosť časti, prečítaj pár odpovedí, usúď, že je to lepšie. My najskôr postavíme označenú vzorku, čo nie je efektné a je to celý rozdiel medzi ladením a hádaním. Zostane vám aj sada regresných testov, takže aktualizácia modelu o pol roka nezhorší kvalitu potichu.

Vybraní klienti

Časté otázky

Ako meriate, či je vyhľadávanie dobré?

Na označenej vzorke skutočných otázok spárovaných s pasážami, ktoré na ne naozaj odpovedajú. Uvádzame, či bola správna pasáž vôbec nájdená a na akom mieste sa umiestnila. Kvalitu odpovede hodnotíme zvlášť, pretože dobrá odpoveď zo zlého zdroja je stále zlyhanie.

Potrebujeme vektorovú databázu?

Často nie. pgvector v existujúcej inštancii PostgreSQL zvládne veľmi mnoho podnikových záťaží bez ďalšej infraštruktúry na prevádzkovanie. Vyhradené vektorové úložisko odporúčame, keď to ospravedlní mierka alebo funkčné požiadavky, nie automaticky.

Čo je GraphRAG a potrebujeme ho?

Vyhľadáva nad grafom entít a vzťahov, nie nad izolovanými pasážami. Svoju zložitosť si zaslúži, keď odpovede závisia od prepojení medzi dokumentmi, napríklad od vlastníckych reťazcov alebo štruktúr závislostí. Pri väčšine otázok nad súvislým textom dosiahne hybridné vyhľadávanie s preradením lepšie výsledky s menšou námahou.

Viete vylepšiť systém, ktorý sme už postavili?

Áno a je to časté. Začneme zostavením evaluačnej vzorky a zmeraním toho, čo máte. To zvyčajne presne lokalizuje problém a oprava býva užšia než prestavba.

Ako zostane presný, keď sa obsah mení?

Indexovanie sleduje zdroj podľa plánu alebo pri oznámení zmeny a evaluačná vzorka beží priebežne, nie jednorazovo. Kvalita vyhľadávania sa sleduje rovnako ako akýkoľvek iný produkčný ukazovateľ.

Súvisiace kompetencie

Aplikácie AI a znalosti

Podnikové znalosti s AI

Premena roztrieštených interných znalostí na bezpečnú podporu, ktorá rešpektuje existujúce oprávnenia.

Zistiť viac

Dáta a modely AI

Dátové inžinierstvo pre AI

Dátové toky, kontroly kvality a vektorové úložiská, od ktorých závisí správnosť systémov AI.

Zistiť viac

Dáta a modely AI

Inžinierstvo modelov

Doladenie, vektorové reprezentácie, optimalizácia a sprístupnenie, vrátane open-source a vlastného hosťovania.

Zistiť viac

Preberte svoju iniciatívu v oblasti AI

Vyhľadávacie systémy, ktoré ukotvujú odpovede vo vašom vlastnom obsahu, s citáciami a merateľnou presnosťou.

Porozprávajte sa s odborníkom na AI Začnite posúdenie AI