Mittelstandspresse
01.03.2024
RAG Modelle: AI & LLMs für Entscheidungsträger
Sursee, 01.03.2024 (PresseBox) - Grosse Sprachmodelle finden vielfältige Anwendungen. Das RAG-Modell stellt dabei nicht ein neues AI-Modell dar, sondern eine Methode, wie man ein grosses Sprachmodell geschickt in eine Gesamtarchitektur integriert. Microsoft M365 Copilot ist ein Beispiel, das auf einem solchen RAG-Modell aufbaut.
Let's dive in...
Das RAG-Modell (Retrieval-Augmented Generation) in der AI ist ein hybrider Ansatz, der die Leistungsfähigkeit grosser Sprachmodelle mit der Fähigkeit kombiniert, Informationen aus einer Datenbank abzurufen. Dazu werden zunächst relevante Dokumente oder Daten aus einer Wissensquelle abgerufen und dann mithilfe eines LLM Antworten erstellt, die sowohl auf der Eingabeanfrage als auch auf den abgerufenen Informationen basieren. Dieser Ansatz verbessert die Fähigkeit des Modells, genauere, sachkundigere und kontextrelevante Antworten zu geben.
Microsoft Copilot M365 verwendet ein RAG-Modell (Retrieval-Augmented Generation), das sowohl intelligente Suchtechnologien als auch Datenschutz effektiv integriert. Das System beginnt mit einer intelligenten Suche im eigenen Tenant, um die Anfrage oder den Prompt zu erweitern. Diese angereicherten Informationen werden dann an GPT-4 gesendet, um eine Antwort zu generieren, die wiederum im eigenen Tenant empfangen wird.
Dieser Ansatz ist aus technischer Sicht besonders vorteilhaft für den Datenschutz, da die Suche ausschliesslich innerhalb des eigenen Tenants und basierend auf den Berechtigungen des jeweiligen Benutzers stattfindet. Die Ergebnisse, die auch der Benutzer selbst hätte finden können, verlassen nie die eigene Umgebung. Die relevanten und wichtigen Suchergebnisse werden verschlüsselt an GPT-4 von Microsoft übermittelt, und die Antwort wird ebenfalls verschlüsselt zurückgesendet. Vorausgesetzt, dass Microsoft die Eingabe- und Ausgabedaten jeweils löscht, sollten aus technischer Sicht datenschutzrechtlich keine Bedenken bestehen. Aus juristischer Sicht müssen natürlich die nötigen Verträge vorhanden sein.
Ein sehr guter Blog über dieses Thema findet man bei den Vischer Anwälten.
Hier geht es zum gesamten Artikel: RAG Modelle: AI & LLMs für Entscheidungsträger
Ansprechpartner
Roland Marti
+41 (58) 2260838
Zuständigkeitsbereich: Head of Marketing
Über BitHawk AG:
Die BitHawk AG beschäftigt rund 230 Mitarbeitende. Der Hauptsitz von BitHawk ist in Sursee, weitere Standorte befinden sich in Basel und Winterthur.
Die Kernkompetenzen der BitHawk liegen in den Bereichen Consulting, Engineering und Operations von IT-Infrastrukturen sowie in IT- und Enterprise Service Management Lösungen. Das Lösungsportfolio umfasst die Themen Netzwerk, Unified Communications und Collaboration, Unified Computing, Workplace und Public- Hybrid und Privat Clouds . Speziallösungen wie IT- Security und Digital Signage Solution runden das Portfolio ab. Qualifizierte Spezialisten beraten Kunden im Hinblick auf eine langfristig sinnvolle und anpassungsfähige IT-Umgebung. Ein umfassender Service Desk, ein eigenes Rechenzentrum und Repair Center garantieren höchste Verfügbarkeit und schnelle Reaktionszeiten.
Datei-Anlagen:
(916 kB)
1450454.attachment
Blog AI
- Mehr Infos zu dieser Meldung unter www.pressebox.de
- zurück zur Übersicht
