Aplikacije UI in znanje

Razvoj RAG

Jezikovni model je tako dober, kot je tisto, kar mu predložite. Večina razočaranj nad odgovori UI so odpovedi iskanja v preobleki težave z modelom: pravi odlomek je obstajal in ni bil nikoli pridobljen. Gradimo in uglašujemo iskalno plast, nato pa jo merimo, da model sklepa iz pravih dokazil.

Pogovorimo se o vaši pobudi na področju UI Storitve

Poslovni izziv

Prikaz je deloval, ker je bil korpus majhen

Naivno vektorsko iskanje dobro deluje pri nekaj sto dokumentih in se nad nekaj sto tisoč izrazito poslabša. Razdelitev na dele loči tabelo od njenega naslova. Pomensko podobni odlomki izrinejo tistega, ki je dejansko merodajen. Aktualnost izgubi proti podobnosti, zato razveljavljena politika prehiti veljavno. Nič od tega ni brez merjenja vidno, zato ekipe uvedejo, dobijo verjetne odgovore in stopnjo napak odkrijejo šele, ko nekdo po eni od napačnih ukrepa.

Kaj počnemo

Zgraditi iskanje, nato ga dokazati

Začnemo s sestavo ocenjevalnega nabora iz resničnih vprašanj in znanih pravilnih virov, saj ni mogoče uglaševati tistega, česar ni mogoče oceniti. Nato delamo na verigi: razdelitev, ki spoštuje strukturo dokumenta, hibridno iskanje, ki združuje ključne besede in vektorje, filtri metapodatkov za aktualnost in merodajnost ter prerazvrstitev ožjega izbora. Kjer so razmerja med entitetami pomembnejša od podobnosti odlomkov, uporabimo graf, namesto da bi se pretvarjali, da vektorji zadostujejo. Vsaka sprememba je ocenjena na istem naboru, tako da je izboljšava dokazana in ne zatrjevana.

Razvoj RAG

Kompetence

Poslovni RAG
Napredni RAG
GraphRAG
Hibridno iskanje
Vektorsko iskanje
Optimizacija iskanja
Vrednotenje RAG

Pogosti primeri uporabe

Utemeljiti pomočnika za stranke tako, da vsaka njegova trditev vodi do objavljenega dokumenta.
Iskati po pogodbah, kjer je odgovor odvisen od tega, katera pogodba velja, in ne od podobnosti ubeseditve.
Preiskovati tehnično dokumentacijo, kjer je pravi odlomek tabela ali napis pod sliko.
Prezidati obstoječega pomočnika, ki odgovarja verjetno, a se moti dovolj pogosto, da je izgubil zaupanje.

Kako dostavljamo

Opredelitev

Pretvorba zahteve v specifikacijo: kdo uporablja, kaj je pravilen odgovor, kdo odloča.
Utemeljitev v virih

Povezava z vsebino in sistemi, ki hranijo odgovore, ob upoštevanju obstoječih dovoljenj.
Vrednotenje

Ocenjevanje na označenem naboru, sestavljenem iz vaših lastnih primerov, preden to vidi kdorkoli od zunaj.
Uvedba in obratovanje

Postopna objava z nadzorom, obvladovanjem stroškov in naborom testov, ki varuje kakovost.

Tehnologija

OpenAI
Anthropic
Azure OpenAI
pgvector
Elasticsearch
Microsoft 365
SharePoint
Confluence
Salesforce

Varnost in upravljanje

Odgovori so utemeljeni v vaši lastni vsebini in nosijo navedbe virov, tako da jih bralec lahko preveri. Iskanje spoštuje dovoljenja, ki so že nastavljena na viru, kar pomeni, da uporabnik prek aplikacije nikoli ne vidi tistega, česar ne bi mogel videti neposredno. Poizvedbe, pridobljeni kontekst in odgovori se beležijo za revizijo, vrednotenje pa teče neprekinjeno in ne enkratno ob zagonu.

Modeli sodelovanja

Projekt UI

Prevzamemo odgovornost za zasnovo in izvedbo opredeljene rešitve UI.

Namenska ekipa UI

Dolgoročna namenska inženirska zmogljivost, zgrajena okoli vaših tehnologij in modela dostave.

Upravljana UI

Upravljamo, nadziramo in sproti izboljšujemo produkcijske sisteme UI.

Zakaj TeamExtension.ai

Najprej merimo, nato uglašujemo

Večina dela na iskanju poteka po občutku: spremeni velikost dela, preberi nekaj odgovorov, presodi, da je bolje. Mi najprej sestavimo označen nabor, kar ni nič spektakularnega in je celotna razlika med uglaševanjem in ugibanjem. Ostane vam tudi zbirka regresijskih testov, tako da posodobitev modela čez pol leta kakovosti ne more tiho poslabšati.

Izbrane stranke

Pogosta vprašanja

Kako merite, ali je iskanje dobro?

Na označenem naboru resničnih vprašanj, povezanih z odlomki, ki nanje resnično odgovarjajo. Poročamo, ali je bil pravi odlomek sploh najden in na katerem mestu se je uvrstil. Kakovost odgovora ocenjujemo ločeno, saj je dober odgovor iz napačnega vira še vedno odpoved.

Ali potrebujemo vektorsko bazo?

Pogosto ne. pgvector v obstoječi namestitvi PostgreSQL zmore zelo veliko poslovnih obremenitev brez dodatne infrastrukture za upravljanje. Namensko vektorsko shrambo priporočimo, kadar to upraviči obseg ali funkcijske zahteve, in ne samodejno.

Kaj je GraphRAG in ali ga potrebujemo?

Išče po grafu entitet in razmerij in ne po ločenih odlomkih. Svojo dodatno zapletenost upraviči, kadar so odgovori odvisni od povezav med dokumenti, na primer od lastniških verig ali struktur odvisnosti. Pri večini vprašanj nad tekočim besedilom hibridno iskanje s prerazvrstitvijo doseže boljše rezultate z manj truda.

Ali lahko izboljšate sistem, ki smo ga že zgradili?

Da in to je pogosto. Začnemo s sestavo ocenjevalnega nabora in meritvijo tega, kar imate. To običajno natančno določi težavo, popravek pa je pogosto ožji od prezidave.

Kako ostane natančen, ko se vsebina spreminja?

Indeksiranje sledi viru po urniku ali ob obvestilu o spremembi, ocenjevalni nabor pa teče neprekinjeno in ne enkratno. Kakovost iskanja se spremlja tako kot vsak drug produkcijski kazalnik.

Sorodne kompetence

Aplikacije UI in znanje

Poslovno znanje z UI

Pretvorba razdrobljenega notranjega znanja v varno podporo, ki spoštuje obstoječa dovoljenja.

Več o tem

Podatki in modeli UI

Podatkovni inženiring za UI

Podatkovni tokovi, kontrole kakovosti in vektorske shrambe, od katerih je odvisna pravilnost sistemov UI.

Več o tem

Podatki in modeli UI

Inženiring modelov

Dodatno učenje, vektorske predstavitve, optimizacija in postavitev v uporabo, vključno z odprtokodnimi in lastno gostovanimi modeli.

Več o tem

Pogovorimo se o vaši pobudi na področju UI

Sistemi iskanja, ki odgovore utemeljijo v vaši lastni vsebini, z navedbami virov in merljivo natančnostjo.

Pogovorite se s strokovnjakom za UI Začnite oceno UI