Застосунки ШІ та знання

Розробка пошуку та генерації

Мовна модель гарна рівно настільки, наскільки гарне те, що ви їй подаєте. Більшість розчарувальних відповідей ШІ — це провали пошуку, перевдягнені у провали моделі: потрібний фрагмент існував і не був знайдений. Ми будуємо й налаштовуємо шар пошуку, а потім вимірюємо його, щоб модель міркувала на правильних доказах.

Обговорити вашу ініціативу у сфері ШІ Послуги

Бізнес-задача

Демонстрація працювала, бо корпус був малий

Наївний векторний пошук добрий на кількох сотнях документів і помітно деградує за межами кількох сотень тисяч. Поділ на фрагменти відриває таблицю від її заголовка. Змістовно близькі фрагменти витісняють той, що справді є авторитетним. Свіжість програє релевантності, тож скасована політика опиняється вище чинної. Нічого з цього не видно без вимірювань, тож команди випускають систему, отримують правдоподібні відповіді й дізнаються частку помилок лише тоді, коли хтось діє за хибною.

Чим ми займаємося

Побудувати пошук і довести його якість

Ми починаємо з оцінювального набору з реальних питань і відомих правильних джерел, бо не можна налаштовувати те, що не вимірюється. Далі працюємо з конвеєром: поділ із урахуванням структури документа, гібридний пошук за ключовими словами й векторами, фільтри за метаданими для свіжості й авторитетності, переранжування короткого списку. Там, де зв'язки між сутностями важливіші за схожість фрагментів, ми використовуємо граф, а не вдаємо, що векторів досить. Кожна зміна оцінюється за тим самим набором, тож поліпшення доводиться, а не заявляється.

Розробка пошуку та генерації

Компетенції

Корпоративний пошук і генерація
Просунутий пошук і генерація
Пошук за графом
Гібридний пошук
Векторний пошук
Оптимізація пошуку
Оцінювання пошуку

Типові сценарії застосування

Обґрунтувати клієнтського асистента так, щоб кожне його твердження вело до опублікованого документа.
Шукати за договорами, де відповідь залежить від того, яка угода застосовна, а не від схожості формулювань.
Шукати в технічній документації, де потрібний фрагмент — таблиця або підпис до схеми.
Перебудувати наявного асистента, який відповідає правдоподібно, але помиляється досить часто, щоб втратити довіру.

Як ми працюємо

Формулювання

Перетворити запит на завдання: хто користується, що є правильною відповіддю, хто вирішує.
Обґрунтування

Під'єднання до вмісту та систем, де лежать відповіді, зі збереженням наявних прав.
Оцінювання

Оцінка за розміченим набором із ваших власних випадків, перш ніж це побачить хтось ззовні.
Випуск та експлуатація

Поетапний випуск зі спостереженням, контролем витрат і регресійним набором, що охороняє якість.

Технології

OpenAI
Anthropic
Azure OpenAI
pgvector
Elasticsearch
Microsoft 365
SharePoint
Confluence
Salesforce

Безпека та врядування

Безпека та урядування

Відповіді обґрунтовані вашим власним вмістом і мають посилання, тож читач може їх перевірити. Пошук враховує права, уже задані на джерелі, а отже користувач ніколи не побачить через застосунок того, чого не побачив би напряму. Підказки, отриманий контекст і відповіді записуються для аудиту, а оцінювання виконується безперервно, а не одноразово під час запуску.

Моделі співпраці

Проєкт зі ШІ

Ми беремо на себе відповідальність за проєктування та постачання визначеного рішення зі ШІ.

Виділена команда зі ШІ

Довгострокова виділена інженерна потужність, побудована навколо ваших технологій і моделі постачання.

Керований ШІ

Ми експлуатуємо, відстежуємо та безперервно вдосконалюємо продуктивні системи зі ШІ.

Чому TeamExtension.ai

Ми вимірюємо до налаштування

Робота над пошуком зазвичай ведеться за інтуїцією: змінити розмір фрагмента, прочитати кілька відповідей, вирішити, що стало краще. Ми спершу будуємо розмічений набір — це неефектно і становить усю різницю між налаштуванням і вгадуванням. Крім того, у вас лишається регресійний набір, тож оновлення моделі за пів року не зможе тихо погіршити якість.

Обрані клієнти

Поширені запитання

Як ви вимірюєте якість пошуку?

За розміченим набором реальних питань у парі з фрагментами, які справді на них відповідають. Ми повідомляємо, чи був потрібний фрагмент знайдений узагалі і на якому місці він опинився. Якість відповіді оцінюється окремо, бо добра відповідь із хибного джерела все одно є провалом.

Чи потрібна нам векторна база даних?

Часто ні. pgvector усередині наявного примірника PostgreSQL дає раду дуже багатьом корпоративним навантаженням, не додаючи інфраструктури в експлуатацію. Окреме векторне сховище ми радимо, коли це виправдано масштабом чи вимогами, а не за замовчуванням.

Що таке GraphRAG і чи потрібен він нам?

Він шукає за графом сутностей і зв'язків, а не за окремими фрагментами. Додаткова складність виправдана, коли відповіді залежать від зв'язків між документами, наприклад від ланцюгів власності чи структур залежностей. Для більшості відповідей за зв'язним текстом гібридний пошук із переранжуванням працює краще за менших зусиль.

Чи можете ви поліпшити систему, яку ми вже побудували?

Так, і це звична річ. Ми починаємо з побудови оцінювального набору та вимірювання того, що є. Зазвичай це точно локалізує збій, і виправлення часто виявляється вужчим за перебудову.

Як це лишається точним при зміні вмісту?

Індексація слідує за джерелом за розкладом або за повідомленням про зміну, а оцінювальний набір виконується безперервно, а не одноразово. Якість пошуку відстежується як будь-який інший продуктивний показник.

Суміжні компетенції

Застосунки ШІ та знання

Корпоративні знання зі ШІ

Перетворіть розрізнені внутрішні знання на безпечну допомогу, що дотримується наявних прав.

Дізнатися більше

Дані та моделі ШІ

Інженерія даних для ШІ

Конвеєри, контроль якості та векторні сховища, від яких залежить правильність систем зі ШІ.

Дізнатися більше

Дані та моделі ШІ

Інженерія моделей

Донавчання, векторні подання, оптимізація та обслуговування, включно з відкритими та самостійно розміщеними моделями.

Дізнатися більше

Обговорити вашу ініціативу у сфері ШІ

Системи пошуку, що обґрунтовують відповіді вашим власним вмістом, із посиланнями та вимірною точністю.

Поговорити з експертом із ШІ Розпочати оцінювання ШІ