ה-LLM שבהם GETS עובדת ולמה ארכיטקטורה אג׳נטית רב-LLM

מודלי השפה הגדולים (LLM)של היום הם המנוע של הבינה המלאכותית החדשה: הם מבינים מה אתם כותבים או אומרים, מסיקים מסקנות מתוך מידע ועונים בשפה טבעית. הם כמו מוח דיגיטלי שנבנה על שבב, המסוגל לקרוא, לסכם, לכתוב, לתכנת ולקבל החלטות פשוטות בתוך שניות. ב-GETS אנחנו משתמשים בהם מדי יום כדי לבנות סוכנים שמוכרים, משרתים לקוחות, גובים תשלומים ומפעילים את המערכות של הלקוחות שלנו.

מהו LLM ולמה הוא חשוב לעסק שלכם?

LLM למד מכמויות עצומות של טקסט לחזות ולבנות תשובות קוהרנטיות. מה שחשוב לעסק אינו התיאוריה, אלא מה שהוא מאפשר:

• שירות לקוחות 24/7דרך WhatsApp, אתר, קול או Telegram, בשפה של כל לקוח.
• הבנת מסמכים: חשבוניות, חוזים, קטלוגים ואימיילים, תוך חילוץ הנתונים החשובים.
• התחברות למערכות שלכם(ERP, CRM, חשבוניות, תשלומים) כדי לשלוף מידע ולבצע פעולות, ולא רק לשוחח.
• כתיבה וסקירה של קוד, שמאיצות פיתוח תוכנה איכותי.

ה-LLM שבהם GETS עובדת

אנחנו לא תלויים במודל יחיד. אנחנו בוחרים את המתאים לכל משימה:

• GETS AI:המוח הראשי שלנו לחשיבה מורכבת, לסוכנים ולפיתוח תוכנה.
• GPT:כתיבה ומשימות כלליות.
• Gemini:משימות רב-מודליות וקריאת מסמכים ותמונות.
• Llama ו-Mistral:מודלים פתוחים שאפשר להריץ בענן פרטי כשהמידע אסור שיצא מהחברה.
• מודלים מהירים וזולים:לסיווג, סיכום וניתוב הודעות בהיקף גבוה.

ארכיטקטורה אג׳נטית רב-LLM: איך אנחנו מתכננים אותה

סוכןהוא LLM שלא רק עונה: הוא מתכנן שלבים ומשתמש בכלים. בארכיטקטורה אג׳נטית רב-LLM, סוכן מתזמר מקבל כל בקשה ומחליט באיזה מודל ובאיזה כלי להשתמש בכל שלב.

1. ערוצים:הלקוח כותב או מתקשר דרך WhatsApp, האתר, קול/מרכזיה, Telegram או מתוך ה-CRM/ERP.
2. סוכן מתזמר (GETS AI):מבין את הכוונה ומתכנן את השלבים, עם זיכרון הקשר ומעקות בטיחותלאבטחה.
3. נתב מודלים:שולח כל שלב למודל שמאזן בצורה הטובה ביותר בין איכות, מהירות, עלות ופרטיות.
4. כלים דרך MCP ו-API:הסוכן שולף מידע ומבצע פעולות ב-GETS ERP, בחשבונית האלקטרונית של DIAN, בתשלומים, בתיאום פגישות ובמאגר הידע (RAG).
5. מענה ובקרה:הלקוח מקבל את התשובה בשפתו ובערוץ שלו; מקרים רגישים עוברים פיקוח אנושי, והכול נמדד.

למה כמה מודלים ולא רק אחד?

• איכות טובה יותר:כל מודל עושה את מה שהוא עושה הכי טוב; חשיבה מורכבת עוברת למודל החזק ביותר ומשימות פשוטות למהיר ביותר.
• עלות נמוכה יותר:לא משלמים על המודל היקר ביותר כדי לסווג ברכה או לסכם הודעה.
• המשכיות:אם ספק נכשל או משנה את התמחור או התנאים שלו, הנתב מחליף מודל בלי להפריע לשירות.
• פרטיות:אפשר לעבד מידע רגיש באמצעות מודלים פתוחים בענן פרטי.
• התפתחות מתמדת:כשיוצא מודל טוב יותר, הוא מתווסף בלי לבנות מחדש את כל המערכת.

אבטחה וממשל של AI

ארכיטקטורה אג׳נטית רצינית לא משאירה הכול בידי המודל. אנחנו מגדירים לאילו משאבים כל סוכן יכול לגשת ומה הוא רשאי לעשות, מגינים על מידע אישי בהתאם לחוק 1581 משנת 2012 של קולומביה, מתעדים כל פעולה לצורכי ביקורת ושומרים על אישור אנושי למקרים רגישים. כך ה-AI מאיץ את הפעילות בלי לאבד שליטה.

רוצים לראות את הסוכנים האלה בפעולה? הציצו ב סוכני בינה מלאכותית, ה אזור GETS AI או בקשו סוכן בהתאמה אישית לעסק שלכם.

שאלות נפוצות

מה פירוש הקיצור LLM?

Large Language Model (מודל שפה גדול): בינה מלאכותית שאומנה על כמויות עצומות של טקסט ומבינה ומייצרת שפה טבעית.

מהי ארכיטקטורה אג׳נטית?

תכנון שבו ה-AI לא רק עונה: הוא מתכנן שלבים ומשתמש בכלים (ERP, תשלומים, תיאום פגישות, מסמכים) כדי להשלים משימות מההתחלה ועד הסוף.

למה להשתמש בכמה LLM?

כי כל מודל טוב במשהו אחר. שילוב ביניהם משפר את האיכות, מוריד עלויות ומונע תלות בספק יחיד.

האם המידע שלי מאובטח?

כן. אנחנו מגדירים הרשאות לכל סוכן, פועלים בהתאם לחוק 1581 משנת 2012 של קולומביה, וכשצריך משתמשים במודלים פתוחים בענן פרטי כדי שהמידע לא יצא לעולם מהחברה שלכם.