Die LLMs, mit denen GETS arbeitet, und warum eine agentische Multi-LLM-Architektur

Die heutigengroßen Sprachmodelle (LLMs)sind der Motor der neuen künstlichen Intelligenz: Sie verstehen, was Sie schreiben oder sagen, denken über Informationen nach und antworten in natürlicher Sprache. Sie sind wie ein digitales Gehirn auf einem Chip, das in Sekunden lesen, zusammenfassen, schreiben, programmieren und einfache Entscheidungen treffen kann. Bei GETS nutzen wir sie täglich, um Agenten zu bauen, die verkaufen, Kunden betreuen, Zahlungen einziehen und die Systeme unserer Kunden betreiben.

Was ist ein LLM und warum ist es für Ihr Unternehmen wichtig?

Ein LLM hat aus riesigen Textmengen gelernt, kohärente Antworten vorherzusagen und zu formulieren. Für ein Unternehmen zählt nicht die Theorie, sondern was es ermöglicht:

• Kundenservice rund um die Uhrüber WhatsApp, Web, Sprache oder Telegram, in der Sprache jedes Kunden.
• Dokumente verstehen: Rechnungen, Verträge, Kataloge und E-Mails, mit Extraktion der relevanten Daten.
• Anbindung an Ihre Systeme(ERP, CRM, Rechnungsstellung, Zahlungen), um Informationen abzurufen und Aktionen auszuführen, nicht nur um zu chatten.
• Code schreiben und prüfen, was die Entwicklung hochwertiger Software beschleunigt.

Die LLMs, mit denen GETS arbeitet

Wir sind nicht von einem einzigen Modell abhängig. Wir wählen für jede Aufgabe das passende:

• GETS AI:unser zentrales Gehirn für komplexes Schlussfolgern, Agenten und Softwareentwicklung.
• GPT:Texterstellung und allgemeine Aufgaben.
• Gemini:multimodale Aufgaben sowie das Lesen von Dokumenten und Bildern.
• Llama und Mistral:offene Modelle, die wir in einer privaten Cloud betreiben können, wenn Daten das Unternehmen nicht verlassen dürfen.
• Schnelle, kostengünstige Modelle:zum Klassifizieren, Zusammenfassen und Weiterleiten von Nachrichten in großen Mengen.

Agentische Multi-LLM-Architektur: So gestalten wir sie

EinAgentist ein LLM, das nicht nur antwortet: Es plant Schritte und nutzt Werkzeuge. In eineragentischen Multi-LLM-Architekturnimmt ein Orchestrator-Agent jede Anfrage entgegen und entscheidet bei jedem Schritt, welches Modell und welches Werkzeug zum Einsatz kommt.

1. Kanäle:Der Kunde schreibt oder ruft an über WhatsApp, die Website, Sprache/Telefonanlage, Telegram oder aus dem CRM/ERP.
2. Orchestrator-Agent (GETS AI):versteht die Absicht und plant die Schritte, mit Kontextgedächtnis undGuardrailsfür die Sicherheit.
3. Modell-Router:leitet jeden Schritt an das Modell weiter, das Qualität, Geschwindigkeit, Kosten und Datenschutz am besten ausbalanciert.
4. Werkzeuge über MCP und API:Der Agent ruft Informationen ab und führt Aktionen aus in GETS ERP, DIAN-E-Rechnung, Zahlungen, Terminplanung und der Wissensdatenbank (RAG).
5. Antwort und Kontrolle:Der Kunde erhält die Antwort in seiner Sprache und auf seinem Kanal; sensible Fälle durchlaufen eine menschliche Kontrolle, und alles wird gemessen.

Warum mehrere Modelle statt nur eines?

• Bessere Qualität:Jedes Modell übernimmt, was es am besten kann; anspruchsvolles Schlussfolgern geht an das leistungsfähigste, einfache Aufgaben an das schnellste.
• Geringere Kosten:Sie zahlen nicht für das teuerste Modell, um eine Begrüßung zu klassifizieren oder eine Nachricht zusammenzufassen.
• Kontinuität:Fällt ein Anbieter aus oder ändert er Preise oder Bedingungen, wechselt der Router das Modell, ohne den Service zu unterbrechen.
• Datenschutz:Sensible Informationen können mit offenen Modellen in einer privaten Cloud verarbeitet werden.
• Ständige Weiterentwicklung:Sobald ein besseres Modell erscheint, wird es hinzugefügt, ohne das gesamte System neu aufzubauen.

KI-Sicherheit und Governance

Eine seriöse agentische Architektur überlässt nicht alles dem Modell. Wir legen fest, worauf jeder Agent zugreifen und was er tun darf, schützen personenbezogene Daten gemäß dem kolumbianischen Gesetz 1581 von 2012, protokollieren jede Aktion für Audits und behalten die menschliche Freigabe für sensible Fälle bei. So beschleunigt KI die Abläufe, ohne die Kontrolle zu verlieren.

Möchten Sie diese Agenten in Aktion sehen? Besuchen Sie unseren Agenten der künstlichen Intelligenz, das GETS AI Bereich oder fordern Sie einen individuellen Agenten für Ihr Unternehmen.

Häufig gestellte Fragen

Wofür steht LLM?

Large Language Model (großes Sprachmodell): eine KI, die mit riesigen Textmengen trainiert wurde und natürliche Sprache versteht und erzeugt.

Was ist eine agentische Architektur?

Ein Konzept, bei dem die KI nicht nur antwortet: Sie plant Schritte und nutzt Werkzeuge (ERP, Zahlungen, Terminplanung, Dokumente), um Aufgaben von Anfang bis Ende zu erledigen.

Warum mehrere LLMs einsetzen?

Weil jedes Modell in etwas anderem besser ist. Ihre Kombination verbessert die Qualität, senkt die Kosten und vermeidet die Abhängigkeit von einem einzigen Anbieter.

Sind meine Daten sicher?

Ja. Wir legen Berechtigungen pro Agent fest, halten das kolumbianische Gesetz 1581 von 2012 ein und setzen bei Bedarf offene Modelle in einer privaten Cloud ein, damit Informationen Ihr Unternehmen nie verlassen.