יישומי בינה מלאכותית וידע

פיתוח RAG

מודל שפה טוב רק כמו מה שמניחים לפניו. רוב התשובות המאכזבות הן כשלי אחזור בתחפושת של כשלי מודל: הקטע הנכון היה קיים ומעולם לא נשלף. אנחנו בונים ומכווננים את שכבת האחזור, ואז מודדים אותה, כדי שהמודל יטען מתוך הראיות הנכונות.

האתגר העסקי

ההדגמה עבדה כי אוסף המסמכים היה קטן

חיפוש וקטורי נאיבי מצליח על כמה מאות מסמכים ומתדרדר קשות מעבר לכמה מאות אלפים. חלוקה לקטעים מנתקת טבלה מהכותרת שלה. קטעים דומים סמנטית דוחקים את הקטע שבאמת קובע. עדכניות מפסידה לרלוונטיות, ולכן נוהל מבוטל מדורג מעל הנוהל בתוקף. שום דבר מזה אינו נראה בלי מדידה, ולכן צוותים משיקים, מקבלים תשובות סבירות, ומגלים את שיעור השגיאה רק כשמישהו פועל לפי תשובה שגויה.

מה אנחנו עושים

בנו את האחזור, ואז הוכיחו אותו

אנחנו מתחילים בבניית מערך הערכה משאלות אמיתיות וממקורות שידוע שהם נכונים, כי אי אפשר לכוון את מה שאי אפשר לנקד. אחר כך אנחנו עובדים על הצינור: חלוקה לקטעים שמכבדת את מבנה המסמך, חיפוש היברידי שמשלב מילות מפתח ווקטורים, מסנני מטא־נתונים לעדכניות ולסמכות, ודירוג מחדש של הרשימה הקצרה. במקום שקשרים בין ישויות חשובים יותר מדמיון בין קטעים, אנחנו משתמשים בגרף במקום להעמיד פנים שווקטורים מספיקים. כל שינוי מנוקד מול אותו מערך, כדי שהשיפור יוכח ולא ייטען.

פיתוח RAG

יכולות

  • RAG ארגוני

  • RAG מתקדם

  • GraphRAG

  • חיפוש היברידי

  • חיפוש וקטורי

  • אופטימיזציית אחזור

  • הערכת RAG

מקרי שימוש נפוצים

מקרי שימוש נפוצים

  • עיגון עוזר פונה־לקוח כך שכל טענה תהיה ניתנת למעקב עד מסמך שפורסם.
  • אחזור בין חוזים שבו התשובה תלויה באיזה הסכם חל, ולא בדמיון בניסוח.
  • חיפוש בתיעוד טכני שבו הקטע הנכון הוא טבלה או כיתוב של תרשים.
  • בנייה מחדש של עוזר קיים שמשיב באופן סביר אך טועה מספיק כדי לאבד אמון.

איך אנחנו מספקים

איך אנחנו מספקים

  1. עיצוב

    הפיכת הבקשה למפרט: מי משתמש, מהי תשובה נכונה, מי מחליט.

  2. עיגון

    חיבור לתוכן ולמערכות שמחזיקות את התשובות, תוך כיבוד ההרשאות הקיימות.

  3. הערכה

    ניקוד מול מערך מתויג שנבנה מהמקרים שלכם, לפני שמישהו מבחוץ רואה זאת.

  4. השקה ותפעול

    שחרור מדורג עם ניטור, בקרת עלויות וערכת בדיקות רגרסיה ששומרת על האיכות.

טכנולוגיה

טכנולוגיה

  • OpenAI
  • Anthropic
  • Azure OpenAI
  • pgvector
  • Elasticsearch
  • Microsoft 365
  • SharePoint
  • Confluence
  • Salesforce

אבטחה וממשל

אבטחה וממשל

התשובות מעוגנות בתוכן שלכם ונושאות ציטוטים, כך שהקורא יכול לבדוק במקום להאמין. האחזור מכבד את ההרשאות שכבר הוגדרו במקור, כלומר משתמש לעולם לא יראה דרך היישום מה שלא היה רואה ישירות. ההנחיות, ההקשר שאוחזר והתשובות נרשמים לביקורת, וההערכה רצה באופן מתמשך ולא פעם אחת בהשקה.

מודלי שיתוף פעולה

מודלי שיתוף פעולה

פרויקט

אנחנו לוקחים אחריות לתכנן ולספק פתרון מוגדר.

צוות ייעודי

קיבולת הנדסית ייעודית לטווח ארוך שנבנית סביב הטכנולוגיה ומודל האספקה שלכם.

שירות מנוהל

אנחנו מפעילים, מנטרים ומשפרים באופן מתמשך מערכות בייצור.

למה TeamExtension.ai

אנחנו מודדים לפני שאנחנו מכווננים

רוב עבודת האחזור נעשית מתוך אינטואיציה: שנו את גודל הקטע, קראו כמה תשובות, החליטו שזה מרגיש טוב יותר. אנחנו בונים קודם את המערך המתויג, עבודה חסרת זוהר שהיא כל ההבדל בין כיוונון לניחוש. היא גם משאירה לכם ערכת רגרסיה, כך ששדרוג מודל בעוד חצי שנה לא יוריד את האיכות בשקט.

לקוחות נבחרים

שאלות נפוצות

שאלות נפוצות

איך מודדים אם האחזור טוב?
מול מערך מתויג של שאלות אמיתיות בצמידות לקטעים שבאמת עונים עליהן. אנחנו מדווחים אם הקטע הנכון נשלף בכלל ובאיזה מקום דורג. איכות התשובה מנוקדת בנפרד, כי תשובה טובה מהמקור הלא נכון היא עדיין כשל.
האם אנחנו צריכים מסד נתונים וקטורי?
לעיתים קרובות לא. pgvector בתוך מופע PostgreSQL קיים מטפל בהמון עומסים ארגוניים בלי להוסיף תשתית לתפעול. אנחנו ממליצים על מאגר וקטורי ייעודי כשקנה המידה או דרישות היכולת מצדיקים זאת, לא כברירת מחדל.
מה זה GraphRAG והאם אנחנו צריכים אותו?
הוא מאחזר מעל גרף של ישויות וקשרים ולא מעל קטעים מבודדים. הוא מצדיק את המורכבות הנוספת כשהתשובות תלויות בקשרים בין מסמכים, כמו שרשראות בעלות או מבני תלות. לרוב השאלות על טקסט רץ, חיפוש היברידי עם דירוג מחדש עדיף במאמץ נמוך יותר.
האם תוכלו לשפר מערכת שכבר בנינו?
כן, וזה נפוץ. אנחנו מתחילים בבניית מערך ההערכה ובמדידת מה שיש לכם. זה בדרך כלל מאתר את הכשל במדויק, והתיקון לרוב צר יותר מבנייה מחדש.
איך זה נשאר מדויק כשהתוכן משתנה?
האינדוקס עוקב אחרי המקור לפי לוח זמנים או בהתראת שינוי, ומערך ההערכה רץ ברציפות ולא פעם אחת. איכות האחזור מנוטרת כמו כל מדד ייצור אחר.

בואו נדבר על יוזמת הבינה המלאכותית שלכם

מערכות אחזור שמעגנות תשובות בתוכן שלכם, עם ציטוטים ודיוק מדיד.