Retrieval-Augmented Generation (RAG) ist eine Technik, die generative Sprachmodelle (LLMs) mit Dokumentenabrufsystemen kombiniert.
Während der Generierung fragt das Modell eine Wissensdatenbank außerhalb des LLMs ab, um relevante Informationen in Echtzeit abzurufen.
Diese Informationen werden dann in die Antwort integriert, um die Richtigkeit und Aktualität des Inhalts zu gewährleisten.
RAG ist in Kontexten nützlich, in denen es notwendig ist, mit aktuellen oder speziellen Daten zu antworten, die im LLM-Modell, das die Kommunikation mit dem Benutzer verwaltet, nicht vorhanden sind.
GAIA ist insbesondere mit einer speziellen Umgebung für das Hochladen von Dokumenten zur Unterstützung der RAG ausgestattet. Diese Umgebung ermöglicht es, die Dokumentendatenbanken je nach Art der Anfrage zu spezialisieren (z. B. Marketing, Technik, Vorschriften usw.), um relevante und genaue Antworten zu geben. Mit GAIA können die Originaltexte auch hinter jeder Antwort abgerufen werden, so dass sie bei Bedarf sofort überprüft werden können.

Der modulare Aufbau von GAIA ermöglicht eine flexible Implementierung auf der Grundlage verschiedener Large Language Models (LMM).
Die Standardimplementierung verwendet ChatGPT und profitiert so von der kontinuierlichen Freigabe neuer Funktionen sowie von der immensen Rechenleistung, die von Full-Web-Modellen geboten wird.
Man bedenke nur, dass ChatGPT 4 vermutlich auf acht spezialisierten Modellen basiert, von denen jedes etwa 200 Milliarden Parameter (Gewichte) umfasst.
GAIA kann zudem im „Full Edge“-Modus implementiert werden, d. h. ausschließlich mit den Ressourcen einer SPS oder eines Industrie-PCs, ohne Zugang zum Web.
Diese Architektur basiert auf Sprachmodellen aus der LLaMA-Familie (Large Language Model Meta AI), die auch auf Rechnern ohne eigene Grafikeinheit laufen können. Zum Vergleich: Ein LLaMA-Modell mit einer Milliarde Gewichten belegt einen lokalen Speicher in der Größenordnung von 1 GB.
Darüber hinaus ist es notwendig, den für die Umsetzung der RAG vor Ort erforderlichen Raum zu schaffen.
Das bedeutet, dass eine Full-Edge-Implementierung von GAIA auf eine bestimmte Aufgabe ausgerichtet sein muss, um eine mit der Web-Version vergleichbare Leistungsfähigkeit und Effektivität zu erreichen (z. B. technische Unterstützung bei der Behebung von Maschinenstillständen, einschließlich technischer Dokumentation der Maschine und einer historischen Datenbank mit Wartungstickets im RAG).
Der modulare Charakter von GAIA erlaubt es jedoch, Cloud- und Full-Edge-Chatbots nebeneinander zu verwenden, je nach Art der Anfrage und der Notwendigkeit, offline nutzbar zu sein.

Die G-Mation-Plattform ist besonders gut geeignet, um die Implementierung von GAIA sowohl im Cloud- als auch im Full-Edge-Modus zu unterstützen.
Zunächst einmal ermöglicht die Docker-Architektur die einfache Implementierung und Aktualisierung der gedockten Anwendungen von GAIA, auch auf bereits im Einsatz befindlichen Maschinen.
Darüber hinaus ermöglicht die Webserver-Architektur von G-Mation dank der NGINX-Technologie die Verwaltung zusätzlicher Backends – neben der in die SPS für die Maschinensteuerung und -konfiguration integrierten.
Insbesondere das im GAIA-Docker enthaltene Backend ermöglicht es, die Anwendung direkt auf dem G-Mation-Bedienfeld auf Basis der Webtechnologie aufzurufen. Es ist ganz einfach – wie das Öffnen eines neuen Fensters im Browser Ihres PCs.
Was die Cloud-basierte Implementierung betrifft, so ermöglicht die Verfügbarkeit eines dockerisierten VPNs direkt auf der G-Mation-SPS den sicheren Zugriff auf die GAIA-Cloud-Plattform, ohne dass zusätzliche Gateways verwendet werden müssen.
Was die Full-Edge-Implementierung anbelangt, so können dank des 8 GB großen Speichers und der Multicore-Architektur der CPU viele Aufgaben zur Unterstützung des Bedieners durchgeführt werden, ohne die Maschinensteuerung in irgendeiner Weise zu beeinträchtigen.