Aplikacije UI i znanje

Razvoj RAG-a

Jezični model dobar je onoliko koliko je dobro ono što mu predočite. Većina razočaranja u odgovore UI zapravo su zakazivanja pretraživanja u ruhu problema s modelom: pravi je odlomak postojao i nikad nije dohvaćen. Gradimo i ugađamo sloj pretraživanja, a zatim ga mjerimo kako bi model zaključivao iz ispravnih dokaza.

Porazgovarajmo o vašoj inicijativi na području UI Usluge

Poslovni izazov

Prikaz je radio jer je korpus bio malen

Naivno vektorsko pretraživanje dobro radi na nekoliko stotina dokumenata, a znatno slabi iznad nekoliko stotina tisuća. Dijeljenje na dijelove odvaja tablicu od njezina naslova. Semantički slični odlomci istisnu onaj koji je zapravo mjerodavan. Aktualnost gubi od sličnosti, pa ukinuta politika pretekne važeću. Ništa od toga nije vidljivo bez mjerenja, pa timovi uvedu sustav, dobiju uvjerljive odgovore i stopu pogrešaka otkriju tek kad netko po jednoj pogrešnoj postupi.

Čime se bavimo

Izgraditi pretraživanje, pa ga dokazati

Počinjemo sastavljanjem skupa za vrednovanje od stvarnih pitanja i poznatih točnih izvora, jer se ne može ugađati ono što se ne može ocijeniti. Zatim radimo na lancu: dijeljenje koje poštuje strukturu dokumenta, hibridno pretraživanje koje spaja ključne riječi i vektore, filtri metapodataka za aktualnost i mjerodavnost te preslagivanje užeg izbora. Gdje su odnosi među entitetima važniji od sličnosti odlomaka, koristimo graf umjesto da se pretvaramo da vektori dostaju. Svaka se promjena ocjenjuje na istom skupu, pa je poboljšanje dokazano, a ne tvrđeno.

Razvoj RAG-a

Kompetencije

Poslovni RAG
Napredni RAG
GraphRAG
Hibridno pretraživanje
Vektorsko pretraživanje
Optimizacija pretraživanja
Vrednovanje RAG-a

Uobičajene primjene

Utemeljiti pomoćnika za klijente tako da svaka njegova tvrdnja vodi do objavljenog dokumenta.
Pretraživati ugovore, gdje odgovor ovisi o tome koji ugovor vrijedi, a ne o sličnosti formulacija.
Pretraživati tehničku dokumentaciju, gdje je pravi odlomak tablica ili opis slike.
Prezidati postojećeg pomoćnika koji odgovara uvjerljivo, ali griješi dovoljno često da je izgubio povjerenje.

Kako isporučujemo

Oblikovanje

Pretvaranje zahtjeva u specifikaciju: tko koristi, što je ispravan odgovor, tko odlučuje.
Utemeljenje u izvorima

Povezivanje sa sadržajem i sustavima koji čuvaju odgovore, uz poštovanje postojećih ovlaštenja.
Vrednovanje

Ocjenjivanje na označenom skupu izgrađenom iz vaših vlastitih slučajeva, prije nego to vidi itko izvana.
Objava i rad

Postupna objava uz nadzor, kontrolu troškova i skup testova koji čuva kvalitetu.

Tehnologija

OpenAI
Anthropic
Azure OpenAI
pgvector
Elasticsearch
Microsoft 365
SharePoint
Confluence
Salesforce

Sigurnost i upravljanje

Odgovori su utemeljeni u vašem vlastitom sadržaju i nose navode izvora, pa ih čitatelj može provjeriti. Pretraživanje poštuje ovlaštenja već postavljena na izvoru, što znači da korisnik kroz aplikaciju nikada ne vidi ono što ne bi mogao vidjeti izravno. Upiti, dohvaćeni kontekst i odgovori bilježe se za reviziju, a vrednovanje teče neprekidno, a ne jednokratno pri pokretanju.

Modeli suradnje

Projekt UI

Preuzimamo odgovornost za osmišljavanje i isporuku određenog rješenja UI.

Namjenski tim UI

Dugoročni namjenski inženjerski kapacitet izgrađen oko vaših tehnologija i modela isporuke.

Upravljana UI

Vodimo, nadziremo i neprekidno poboljšavamo produkcijske sustave UI.

Zašto TeamExtension.ai

Najprije mjerimo, pa ugađamo

Većina rada na pretraživanju radi se po osjećaju: promijeni veličinu dijela, pročitaj nekoliko odgovora, procijeni da je bolje. Mi najprije sastavimo označen skup, što nije nimalo efektno i cijela je razlika između ugađanja i nagađanja. Ostaje vam i niz regresijskih testova, pa nadogradnja modela za pola godine ne može potiho pogoršati kvalitetu.

Odabrani klijenti

Česta pitanja

Kako mjerite je li pretraživanje dobro?

Na označenom skupu stvarnih pitanja uparenih s odlomcima koji na njih doista odgovaraju. Izvještavamo je li pravi odlomak uopće pronađen i na kojem se mjestu našao. Kvalitetu odgovora ocjenjujemo zasebno, jer je dobar odgovor iz pogrešnog izvora i dalje neuspjeh.

Trebamo li vektorsku bazu?

Često ne. pgvector u postojećoj instanci PostgreSQL-a podnosi vrlo mnogo poslovnih opterećenja bez dodatne infrastrukture za održavanje. Namjensku vektorsku pohranu preporučujemo kad je opravdaju opseg ili funkcionalni zahtjevi, a ne automatski.

Što je GraphRAG i trebamo li ga?

Pretražuje graf entiteta i odnosa, a ne izolirane odlomke. Svoju dodatnu složenost opravdava kad odgovori ovise o vezama među dokumentima, primjerice o vlasničkim lancima ili strukturama ovisnosti. Za većinu pitanja nad tekućim tekstom hibridno pretraživanje s preslagivanjem daje bolje rezultate uz manje truda.

Možete li poboljšati sustav koji smo već izgradili?

Da i to je često. Počinjemo sastavljanjem skupa za vrednovanje i mjerenjem onoga što imate. To obično točno locira problem, a ispravak je često uži od prezidavanja.

Kako ostaje točan dok se sadržaj mijenja?

Indeksiranje prati izvor po rasporedu ili na obavijest o promjeni, a skup za vrednovanje radi neprekidno, a ne jednokratno. Kvaliteta pretraživanja prati se kao i svaki drugi produkcijski pokazatelj.

Povezane kompetencije

Aplikacije UI i znanje

Poslovno znanje uz UI

Pretvaranje rascjepkanog unutarnjeg znanja u sigurnu podršku koja poštuje postojeća ovlaštenja.

Saznajte više

Podaci i modeli UI

Podatkovno inženjerstvo za UI

Podatkovni tokovi, provjere kvalitete i vektorske pohrane o kojima ovisi ispravnost sustava UI.

Saznajte više

Podaci i modeli UI

Inženjerstvo modela

Dodatno učenje, vektorski prikazi, optimizacija i stavljanje u uporabu, uključujući otvorene i vlastito smještene modele.

Saznajte više

Porazgovarajmo o vašoj inicijativi na području UI

Sustavi pretraživanja koji odgovore utemeljuju u vašem vlastitom sadržaju, s navodima izvora i mjerljivom točnošću.

Razgovarajte sa stručnjakom za UI Pokrenite procjenu UI