Rozwój systemów RAG

Czym się zajmujemy

Zbudować wyszukiwanie, a potem to udowodnić

Zaczynamy od zbudowania zbioru ewaluacyjnego z prawdziwych pytań i znanych poprawnych źródeł, bo nie da się dostroić czegoś, czego nie da się ocenić. Potem pracujemy nad potokiem: podział na fragmenty respektujący strukturę dokumentu, wyszukiwanie hybrydowe łączące słowa kluczowe i wektory, filtry metadanych dla aktualności i mocy wiążącej oraz ponowne uszeregowanie krótkiej listy. Tam, gdzie relacje między obiektami liczą się bardziej niż podobieństwo fragmentów, używamy grafu zamiast udawać, że wektory wystarczą. Każda zmiana jest oceniana na tym samym zbiorze, więc poprawa jest wykazana, a nie deklarowana.

Typowe zastosowania

Typowe zastosowania

• Osadzenie asystenta dla klientów tak, aby każde jego twierdzenie dało się prześledzić do opublikowanego dokumentu.
• Wyszukiwanie w umowach, gdzie odpowiedź zależy od tego, która umowa obowiązuje, a nie od podobieństwa sformułowań.
• Przeszukiwanie dokumentacji technicznej, gdzie właściwym fragmentem jest tabela lub podpis rysunku.
• Przebudowa istniejącego asystenta, który odpowiada wiarygodnie, ale myli się na tyle często, że stracił zaufanie.

Bezpieczeństwo i nadzór

Bezpieczeństwo i ład

Odpowiedzi są osadzone w Państwa własnych treściach i zawierają odwołania do źródeł, więc czytelnik może je sprawdzić. Wyszukiwanie respektuje uprawnienia ustawione już na źródle, co oznacza, że użytkownik nigdy nie zobaczy przez aplikację tego, czego nie mógłby zobaczyć bezpośrednio. Zapytania, pobrany kontekst i odpowiedzi są rejestrowane na potrzeby audytu, a ewaluacja działa w sposób ciągły, a nie jednorazowo przy starcie.

Dlaczego TeamExtension.ai

Najpierw mierzymy, potem dostrajamy

Większość prac nad wyszukiwaniem opiera się na intuicji: zmienić rozmiar fragmentu, przeczytać kilka odpowiedzi, uznać, że jest lepiej. My najpierw budujemy oznaczony zbiór, co jest nieefektowne i stanowi całą różnicę między dostrajaniem a zgadywaniem. Zostawia to również zestaw testów regresji, więc aktualizacja modelu za pół roku nie pogorszy po cichu jakości bez niczyjej wiedzy.

Najczęstsze pytania

Najczęstsze pytania