Aplikacije VI i znanje

Razvoj RAG-a

Jezički model dobar je onoliko koliko je dobro ono što mu predočite. Većina razočaranja u odgovore VI zapravo su otkazi pretrage u ruhu problema sa modelom: pravi odlomak je postojao i nikada nije dobavljen. Gradimo i podešavamo sloj pretrage, a zatim ga mjerimo kako bi model zaključivao iz ispravnih dokaza.

Porazgovarajmo o vašoj inicijativi u oblasti VI Usluge

Poslovni izazov

Prikaz je radio jer je korpus bio mali

Naivna vektorska pretraga dobro radi na nekoliko stotina dokumenata, a znatno slabi iznad nekoliko stotina hiljada. Dijeljenje na dijelove odvaja tabelu od njenog naslova. Semantički slični odlomci istisnu onaj koji je zapravo mjerodavan. Aktuelnost gubi od sličnosti, pa ukinuta politika pretekne važeću. Ništa od toga nije vidljivo bez mjerenja, pa timovi uvedu sistem, dobiju uvjerljive odgovore i stopu grešaka otkriju tek kada neko po jednoj pogrešnoj postupi.

Čime se bavimo

Izgraditi pretragu, pa je dokazati

Počinjemo sastavljanjem skupa za evaluaciju od stvarnih pitanja i poznatih tačnih izvora, jer se ne može podešavati ono što se ne može ocijeniti. Zatim radimo na lancu: dijeljenje koje poštuje strukturu dokumenta, hibridna pretraga koja spaja ključne riječi i vektore, filteri metapodataka za aktuelnost i mjerodavnost i preuređivanje užeg izbora. Gdje su odnosi među entitetima važniji od sličnosti odlomaka, koristimo graf umjesto da se pretvaramo da vektori dostaju. Svaka promjena ocjenjuje se na istom skupu, pa je poboljšanje dokazano, a ne tvrđeno.

Razvoj RAG-a

Kompetencije

Poslovni RAG
Napredni RAG
GraphRAG
Hibridna pretraga
Vektorska pretraga
Optimizacija pretrage
Evaluacija RAG-a

Uobičajene primjene

Utemeljiti pomoćnika za klijente tako da svaka njegova tvrdnja vodi do objavljenog dokumenta.
Pretraživati ugovore, gdje odgovor ovisi o tome koji ugovor važi, a ne o sličnosti formulacija.
Pretraživati tehničku dokumentaciju, gdje je pravi odlomak tabela ili opis slike.
Prezidati postojećeg pomoćnika koji odgovara uvjerljivo, ali griješi dovoljno često da je izgubio povjerenje.

Kako isporučujemo

Oblikovanje

Pretvaranje zahtjeva u specifikaciju: ko koristi, šta je ispravan odgovor, ko odlučuje.
Utemeljenje u izvorima

Povezivanje sa sadržajem i sistemima koji čuvaju odgovore, uz poštovanje postojećih ovlaštenja.
Evaluacija

Ocjenjivanje na označenom skupu izgrađenom od vaših vlastitih slučajeva, prije nego to vidi bilo ko izvana.
Objavljivanje i rad

Postepeno objavljivanje uz nadzor, kontrolu troškova i skup testova koji čuva kvalitet.

Tehnologija

OpenAI
Anthropic
Azure OpenAI
pgvector
Elasticsearch
Microsoft 365
SharePoint
Confluence
Salesforce

Sigurnost i upravljanje

Odgovori su utemeljeni u vašem vlastitom sadržaju i nose navode izvora, pa ih čitalac može provjeriti. Pretraga poštuje ovlaštenja već postavljena na izvoru, što znači da korisnik kroz aplikaciju nikada ne vidi ono što ne bi mogao vidjeti neposredno. Upiti, dobavljeni kontekst i odgovori bilježe se radi revizije, a evaluacija teče neprekidno, a ne jednokratno pri pokretanju.

Modeli saradnje

Projekat VI

Preuzimamo odgovornost za projektovanje i isporuku određenog rješenja VI.

Namjenski tim VI

Dugoročan namjenski inženjerski kapacitet izgrađen oko vaših tehnologija i modela isporuke.

Upravljana VI

Vodimo, nadziremo i neprekidno poboljšavamo produkcijske sisteme VI.

Zašto TeamExtension.ai

Najprije mjerimo, pa podešavamo

Većina rada na pretrazi radi se po osjećaju: promijeni veličinu dijela, pročitaj nekoliko odgovora, procijeni da je bolje. Mi najprije sastavimo označen skup, što nije nimalo efektno i cijela je razlika između podešavanja i nagađanja. Ostaje vam i niz regresijskih testova, pa nadogradnja modela za pola godine ne može potiho pogoršati kvalitet.

Odabrani klijenti

Česta pitanja

Kako mjerite da li je pretraga dobra?

Na označenom skupu stvarnih pitanja uparenih sa odlomcima koji na njih zaista odgovaraju. Izvještavamo da li je pravi odlomak uopće pronađen i na kojem se mjestu našao. Kvalitet odgovora ocjenjujemo zasebno, jer je dobar odgovor iz pogrešnog izvora i dalje neuspjeh.

Treba li nam vektorska baza?

Često ne. pgvector u postojećoj instanci PostgreSQL-a podnosi veoma mnogo poslovnih opterećenja bez dodatne infrastrukture za održavanje. Namjensko vektorsko skladište preporučujemo kada ga opravdaju obim ili funkcionalni zahtjevi, a ne automatski.

Šta je GraphRAG i treba li nam?

Pretražuje graf entiteta i odnosa, a ne izolirane odlomke. Svoju dodatnu složenost opravdava kada odgovori ovise o vezama među dokumentima, na primjer o vlasničkim lancima ili strukturama zavisnosti. Za većinu pitanja nad tekućim tekstom hibridna pretraga sa preuređivanjem daje bolje rezultate uz manje truda.

Možete li poboljšati sistem koji smo već izgradili?

Da i to je često. Počinjemo sastavljanjem skupa za evaluaciju i mjerenjem onoga što imate. To obično tačno locira problem, a ispravka je često uža od prezidavanja.

Kako ostaje tačan dok se sadržaj mijenja?

Indeksiranje prati izvor po rasporedu ili na obavještenje o promjeni, a skup za evaluaciju radi neprekidno, a ne jednokratno. Kvalitet pretrage prati se kao i svaki drugi produkcijski pokazatelj.

Povezane kompetencije

Aplikacije VI i znanje

Poslovno znanje uz VI

Pretvaranje rascjepkanog unutrašnjeg znanja u sigurnu podršku koja poštuje postojeća ovlaštenja.

Saznajte više

Podaci i modeli VI

Inženjerstvo podataka za VI

Tokovi podataka, provjere kvaliteta i vektorska skladišta o kojima ovisi ispravnost sistema VI.

Saznajte više

Podaci i modeli VI

Inženjerstvo modela

Dodatna obuka, vektorski prikazi, optimizacija i stavljanje u upotrebu, uključujući otvorene i vlastito smještene modele.

Saznajte više

Porazgovarajmo o vašoj inicijativi u oblasti VI

Sistemi pretrage koji odgovore utemeljuju u vašem vlastitom sadržaju, sa navodima izvora i mjerljivom tačnošću.

Razgovarajte sa stručnjakom za VI Pokrenite procjenu VI