Ứng dụng AI và Tri thức

Phát triển RAG

Một mô hình ngôn ngữ chỉ tốt bằng thứ bạn đặt trước mặt nó. Phần lớn câu trả lời AI gây thất vọng thực ra là lỗi truy xuất khoác áo mô hình: đoạn văn đúng vẫn ở đó và đã không bao giờ được lấy ra. Chúng tôi xây và tinh chỉnh lớp truy xuất, rồi đo nó, để mô hình lập luận từ đúng bằng chứng.

Trao đổi về sáng kiến AI của bạn Dịch vụ

Bài toán kinh doanh

Bản demo chạy được vì kho tài liệu còn nhỏ

Tìm kiếm vector đơn thuần chạy tốt trên vài trăm tài liệu và xuống cấp nặng khi vượt vài trăm nghìn. Việc cắt khối tách bảng ra khỏi tiêu đề của nó. Những đoạn gần nghĩa chen mất đoạn thực sự có thẩm quyền. Tính mới thua tính liên quan, nên một quy định đã bị thay thế lại xếp trên quy định hiện hành. Không đo thì chẳng thấy gì trong số đó, nên các nhóm cứ ra mắt, nhận những câu trả lời nghe hợp lý, và chỉ phát hiện tỷ lệ lỗi khi có người hành động theo một câu sai.

Chúng tôi làm gì

Xây phần truy xuất, rồi chứng minh nó

Chúng tôi bắt đầu bằng việc dựng một tập đánh giá từ các câu hỏi thật và các nguồn đã biết là đúng, vì không chấm điểm được thì không tinh chỉnh được. Rồi chúng tôi làm việc trên toàn đường ống: cắt khối tôn trọng cấu trúc tài liệu, tìm kiếm lai kết hợp từ khóa và vector, bộ lọc siêu dữ liệu theo tính mới và thẩm quyền, và xếp hạng lại trên danh sách rút gọn. Nơi quan hệ giữa các thực thể quan trọng hơn độ giống nhau của đoạn văn, chúng tôi dùng đồ thị thay vì giả vờ rằng vector là đủ. Mọi thay đổi đều được chấm trên cùng một tập, nên cải thiện là thứ được chứng minh chứ không phải được tuyên bố.

Phát triển RAG

Năng lực

RAG doanh nghiệp
RAG nâng cao
GraphRAG
Tìm kiếm lai
Tìm kiếm vector
Tối ưu truy xuất
Đánh giá RAG

Các tình huống sử dụng phổ biến

Neo một trợ lý hướng tới khách hàng để mọi khẳng định của nó đều truy về một tài liệu đã công bố.
Truy xuất trên nhiều hợp đồng, nơi câu trả lời phụ thuộc vào thỏa thuận nào chi phối chứ không vào độ giống câu chữ.
Tìm trong tài liệu kỹ thuật nơi đoạn đúng lại là một bảng biểu hay một dòng chú thích hình.
Dựng lại một trợ lý trả lời nghe hợp lý nhưng sai đủ thường xuyên để đánh mất niềm tin.

Cách chúng tôi triển khai

Định hình

Biến yêu cầu thành đặc tả: ai dùng, thế nào là câu trả lời đúng, ai quyết định.
Neo vào nguồn

Kết nối tới nội dung và hệ thống nắm câu trả lời, tôn trọng các quyền đã được thiết lập.
Đánh giá

Chấm điểm trên tập gán nhãn dựng từ chính các trường hợp của bạn, trước khi ai bên ngoài nhìn thấy.
Ra mắt và vận hành

Phát hành theo giai đoạn, kèm giám sát, kiểm soát chi phí và bộ kiểm thử hồi quy giữ chất lượng.

Công nghệ

OpenAI
Anthropic
Azure OpenAI
pgvector
Elasticsearch
Microsoft 365
SharePoint
Confluence
Salesforce

Bảo mật và quản trị

An ninh và quản trị

Câu trả lời được neo vào chính nội dung của bạn và có trích dẫn, nên người đọc kiểm chứng được. Việc truy xuất tôn trọng các quyền đã thiết lập ở nguồn, nghĩa là qua ứng dụng người dùng không bao giờ nhìn thấy thứ mà lẽ ra họ không thấy được. Câu lệnh, bối cảnh truy xuất và phản hồi đều được ghi nhật ký để kiểm toán, và việc đánh giá chạy liên tục chứ không phải chỉ một lần lúc ra mắt.

Mô hình hợp tác

Dự án AI

Chúng tôi chịu trách nhiệm thiết kế và bàn giao một giải pháp AI đã được xác định.

Đội AI chuyên trách

Năng lực kỹ thuật chuyên trách dài hạn, xây dựng quanh nền tảng công nghệ và mô hình bàn giao của bạn.

AI vận hành trọn gói

Chúng tôi vận hành, giám sát và liên tục cải tiến các hệ thống AI đang chạy thật.

Vì sao chọn TeamExtension.ai

Chúng tôi đo trước khi tinh chỉnh

Phần lớn công việc truy xuất được làm bằng trực giác: đổi kích thước khối, đọc vài câu trả lời, thấy có vẻ khá hơn. Chúng tôi dựng tập gán nhãn trước, việc này chẳng hào nhoáng gì và chính là toàn bộ khác biệt giữa tinh chỉnh và phỏng đoán. Nó cũng để lại cho bạn một bộ kiểm thử hồi quy, nên một lần nâng cấp mô hình sáu tháng nữa không thể âm thầm làm tụt chất lượng mà không ai hay.

Khách hàng tiêu biểu

Câu hỏi thường gặp

Các anh đo chất lượng truy xuất bằng cách nào?

Trên một tập câu hỏi thật đã gán nhãn, ghép với những đoạn văn thực sự trả lời được chúng. Chúng tôi báo cáo đoạn đúng có được lấy ra hay không, và nó xếp thứ mấy. Chất lượng câu trả lời được chấm riêng, vì một câu trả lời hay từ nguồn sai vẫn là một thất bại.

Chúng tôi có cần cơ sở dữ liệu vector không?

Thường thì không. pgvector bên trong một PostgreSQL sẵn có xử lý được rất nhiều tải doanh nghiệp mà không phải thêm hạ tầng để vận hành. Chúng tôi khuyên dùng kho vector riêng khi quy mô hoặc yêu cầu tính năng biện minh được cho nó, chứ không phải theo mặc định.

GraphRAG là gì và chúng tôi có cần không?

Nó truy xuất trên một đồ thị thực thể và quan hệ thay vì trên các đoạn văn rời rạc. Nó xứng với phần phức tạp thêm vào khi câu trả lời phụ thuộc vào các liên kết xuyên tài liệu, ví dụ chuỗi sở hữu hay cấu trúc phụ thuộc. Với phần lớn hỏi đáp trên văn xuôi, tìm kiếm lai cộng xếp hạng lại cho kết quả tốt hơn với ít công sức hơn.

Các anh có cải thiện được hệ thống chúng tôi đã xây không?

Có, và đó là chuyện thường gặp. Chúng tôi bắt đầu bằng việc dựng tập đánh giá và đo thứ bạn đang có. Việc đó thường khoanh đúng chỗ hỏng, và cách sửa hay hẹp hơn nhiều so với xây lại.

Làm sao giữ được độ chính xác khi nội dung thay đổi?

Việc lập chỉ mục bám theo nguồn theo lịch hoặc theo thông báo thay đổi, và tập đánh giá chạy liên tục chứ không chỉ một lần. Chất lượng truy xuất được giám sát y như bất kỳ chỉ số chạy thật nào khác.

Năng lực liên quan

Ứng dụng AI và Tri thức

AI tri thức doanh nghiệp

Biến tri thức nội bộ rải rác thành trợ giúp an toàn, tôn trọng các quyền đã có.

Tìm hiểu thêm

Dữ liệu và Mô hình AI

Nền tảng dữ liệu cho AI

Các đường ống, biện pháp kiểm soát chất lượng và kho vector mà hệ thống AI dựa vào để làm đúng.

Tìm hiểu thêm

Dữ liệu và Mô hình AI

Kỹ thuật mô hình

Tinh chỉnh, nhúng vector, tối ưu và phục vụ, bao gồm cả mô hình mã nguồn mở và tự vận hành.

Tìm hiểu thêm

Trao đổi về sáng kiến AI của bạn

Hệ thống truy xuất neo câu trả lời vào chính nội dung của bạn, có trích dẫn và độ chính xác đo được.

Trao đổi với chuyên gia AI Bắt đầu đánh giá AI