Retrieval-Augmented Generation, kurz RAG – kaum ein Thema bewegt die GenAI-Community aktuell mehr. Doch wie wird aus einem spannenden Konzept ein reales Produkt für den Unternehmensalltag? In einer neuen Folge des „AI & Data Podcasts“ spricht Host Larissa Haas mit Data Scientist Johann Zapf über die sovanta Lösung GenAI DocumentChat, die Architektur auf der SAP BTP und die Frage: Was kann RAG im SAP-Kontext in der Praxis wirklich leisten?

"Zwei Probleme löst RAG besonders gut: Halluzinationen und fehlender Zugriff auf interne Daten." (Johann Zapf, Data Scientist, sovanta)

Host Larissa Haas und ihr Gast Johann Zapf lassen in dieser Episode des AI & Data Podcasts die Entstehungsgeschichte zum sovanta GenAI DocumentChat Revue passieren. Alles beginnt mit einer simplen Idee: Ein kleines Tool, das Paragraphen aus dem BGB findet. Daraus entstand innerhalb weniger Monate eine RAG-Lösung auf Enterprise-Niveau, der sovanta GenAI DocumentChat. Das Produkt läuft vollständig auf der SAP Business Technology Platform. Zwei zentrale Komponenten machen das möglich:

• SAP HANA Vector Engine: als performante Vektor-Datenbank mit eingebautem Embedding-Service.
• Generative AI Hub: für den Zugriff auf SAP-gehostete Open Source Sprachmodelle – datenschutzkonform und direkt integrierbar.

Larissa und Johann widmen sich in dieser Folge vielen spannenden Fragen rund um den sovanta GenAI DocumentChat: Was macht RAG so stark? Wie wird der Zugriff auf aktuelle, unternehmensspezifische Inhalte möglich – ohne, dass sie im Sprachmodell selbst verankert sein müssen? Und wie funktioniert der Wechsel z.B. zwischen Mistral, Gemma oder GPT-4, ohne die Architektur zu verändern? Function Calling, Joule Integration und Co. – Was steht alles auf der Roadmap?

sovanta GenAI DocumentChat zeigt, dass RAG im SAP-Kontext nicht nur denkbar, sondern praktisch einsetzbar ist. Die SAP BTP bietet dafür alle nötigen Komponenten. Und sovanta bringt sie zusammen – zu einer Lösung, die verständlich, sicher und anwendungsnah ist.

Jetzt reinhören – und erfahren, wie Unternehmen mit unserem DocumentChat Wissen wirklich nutzbar machen. Und mehr zum sovanta GenAI DocumentChat gibt es hier.

Johann Zapf ist Teil des AI & Data-Teams bei sovanta. Sein Fokus liegt darauf, Tools mit Generativer Künstlicher Intelligenz für die SAP Business Technology Platform zu entwickeln, um die Arbeitsabläufe unserer Kunden zu verbessern.