MI lietotnes un zināšanas

Izgūšanas un ģenerēšanas izstrāde

Valodas modelis ir tik labs, cik labs ir tas, ko tam pasniedz. Lielākā daļa neapmierinošo MI atbilžu ir izgūšanas kļūmes, pārģērbušās par modeļa kļūmēm: vajadzīgais fragments pastāvēja un netika atrasts. Veidojam un noregulējam izgūšanas slāni un pēc tam to mērām, lai modelis spriestu, balstoties uz pareiziem pierādījumiem.

Biznesa problēma

Demonstrācija strādāja, jo korpuss bija mazs

Naiva vektoru meklēšana ir laba dažiem simtiem dokumentu un manāmi pasliktinās pāri dažiem simtiem tūkstošu. Sadalīšana fragmentos atrauj tabulu no tās virsraksta. Jēdzieniski tuvi fragmenti izstumj to, kurš patiesībā ir autoritatīvs. Svaigums zaudē atbilstībai, tāpēc atceltā politika nonāk virs spēkā esošās. Nekas no tā nav redzams bez mērījumiem, tāpēc komandas izlaiž sistēmu, saņem ticamas atbildes un uzzina kļūdu daļu tikai tad, kad kāds rīkojas pēc kļūdainas.

Ko mēs darām

Izveidot izgūšanu un pierādīt tās kvalitāti

Sākam ar novērtēšanas kopu no reāliem jautājumiem un zināmiem pareiziem avotiem, jo nevar noregulēt to, kas netiek mērīts. Tālāk strādājam ar konveijeru: sadalīšana, ievērojot dokumenta struktūru, hibrīdmeklēšana pēc atslēgvārdiem un vektoriem, metadatu filtri svaigumam un autoritatīvumam, īsā saraksta pārkārtošana. Tur, kur saiknes starp objektiem ir svarīgākas par fragmentu līdzību, izmantojam grafu, nevis izliekamies, ka vektoru pietiek. Katra izmaiņa tiek vērtēta pret to pašu kopu, tāpēc uzlabojums tiek pierādīts, nevis apgalvots.

Izgūšanas un ģenerēšanas izstrāde

Kompetences

  • Uzņēmuma izgūšana un ģenerēšana

  • Padziļināta izgūšana un ģenerēšana

  • Izgūšana grafā

  • Hibrīdmeklēšana

  • Vektoru meklēšana

  • Izgūšanas optimizācija

  • Izgūšanas novērtēšana

Biežākie lietojumi

Biežākie lietojumi

  • Pamatot klientiem paredzētu asistentu tā, lai katrs tā apgalvojums vestu uz publicētu dokumentu.
  • Meklēt līgumos, kur atbilde atkarīga no tā, kurš līgums piemērojams, nevis no formulējumu līdzības.
  • Meklēt tehniskajā dokumentācijā, kur vajadzīgais fragments ir tabula vai shēmas paraksts.
  • Pārbūvēt esošu asistentu, kas atbild ticami, bet kļūdās pietiekami bieži, lai zaudētu uzticību.

Kā mēs strādājam

Kā mēs strādājam

  1. Formulēšana

    Pārvērst pieprasījumu uzdevumā: kas lieto, kas ir pareiza atbilde, kas lemj.

  2. Pamatošana

    Savienošana ar saturu un sistēmām, kurās ir atbildes, saglabājot esošās tiesības.

  3. Novērtēšana

    Novērtējums pret marķētu kopu no jūsu pašu gadījumiem, pirms to redz kāds no malas.

  4. Izlaišana un ekspluatācija

    Pakāpeniska izlaišana ar uzraudzību, izmaksu kontroli un regresijas kopu, kas sargā kvalitāti.

Tehnoloģijas

Tehnoloģijas

  • OpenAI
  • Anthropic
  • Azure OpenAI
  • pgvector
  • Elasticsearch
  • Microsoft 365
  • SharePoint
  • Confluence
  • Salesforce

Drošība un pārvaldība

Drošība un pārvaldība

Atbildes ir pamatotas ar jūsu pašu saturu un satur atsauces, tāpēc lasītājs var tās pārbaudīt. Izgūšana ievēro tiesības, kas jau noteiktas avotā, kas nozīmē, ka lietotājs caur lietotni nekad neredzēs to, ko neredzētu tieši. Uzvednes, iegūtais konteksts un atbildes tiek reģistrētas auditam, un novērtēšana notiek nepārtraukti, nevis vienu reizi palaišanas brīdī.

Sadarbības modeļi

Sadarbības modeļi

MI projekts

Uzņemamies atbildību par definēta MI risinājuma projektēšanu un piegādi.

Veltīta MI komanda

Ilgtermiņa veltīta inženierijas jauda, veidota ap jūsu tehnoloģijām un piegādes modeli.

Pārvaldīts MI

Mēs ekspluatējam, uzraugām un nepārtraukti uzlabojam ražošanas MI sistēmas.

Kāpēc TeamExtension.ai

Mērām pirms regulēšanas

Darbs ar izgūšanu parasti notiek pēc nojautas: mainīt fragmenta izmēru, izlasīt dažas atbildes, izlemt, ka kļuvis labāk. Mēs vispirms veidojam marķētu kopu, un tas ir neefektīgi un veido visu atšķirību starp regulēšanu un minēšanu. Turklāt jums paliek regresijas kopa, tāpēc modeļa atjauninājums pēc pusgada nevarēs klusi pasliktināt kvalitāti.

Atlasītie klienti

Biežāk uzdotie jautājumi

Biežāk uzdotie jautājumi

Kā jūs mērāt izgūšanas kvalitāti?
Pēc marķētas reālu jautājumu kopas, sapārotas ar fragmentiem, kas patiešām uz tiem atbild. Ziņojam, vai vajadzīgais fragments vispār tika izgūts un kurā vietā tas nonāca. Atbildes kvalitāte tiek vērtēta atsevišķi, jo laba atbilde no nepareiza avota tik un tā ir kļūme.
Vai mums vajadzīga vektoru datubāze?
Bieži nē. pgvector esošā PostgreSQL instancē tiek galā ar ļoti daudzām uzņēmuma slodzēm, nepievienojot ekspluatējamu infrastruktūru. Atsevišķu vektoru krātuvi iesakām, kad to attaisno mērogs vai prasības, nevis pēc noklusējuma.
Kas ir GraphRAG un vai mums tas vajadzīgs?
Tas meklē objektu un saikņu grafā, nevis atsevišķos fragmentos. Papildu sarežģītība attaisnojas, kad atbildes atkarīgas no saiknēm starp dokumentiem, piemēram, no īpašumtiesību ķēdēm vai atkarību struktūrām. Lielākajai daļai atbilžu no saistīta teksta hibrīdmeklēšana ar pārkārtošanu darbojas labāk un ar mazākām pūlēm.
Vai varat uzlabot sistēmu, ko jau esam izveidojuši?
Jā, un tas ir ierasti. Sākam ar novērtēšanas kopas izveidi un tā, kas ir, izmērīšanu. Parasti tas precīzi lokalizē kļūmi, un labojums bieži izrādās šaurāks par pārbūvi.
Kā tas paliek precīzs, mainoties saturam?
Indeksēšana seko avotam pēc grafika vai paziņojuma par izmaiņām, un novērtēšanas kopa tiek izpildīta nepārtraukti, nevis vienu reizi. Izgūšanas kvalitāte tiek uzraudzīta kā jebkurš cits ražošanas rādītājs.

Pārrunājiet savu MI iniciatīvu

Izgūšanas sistēmas, kas pamato atbildes ar jūsu pašu saturu, ar atsaucēm un izmērāmu precizitāti.