Ein DevBlog-Eintrag von Microsoft zeigt, wie generative KI in Verbindung mit maßgeschneiderten Datensätzen zu einzigartigen Anwendungen führt.
Generative AI markiert nicht nur einen technologischen Fortschritt, sondern stellt einen Paradigmenwechsel dar, der die Art und Weise der Kundeninteraktion neu definiert. Azure SQL Database nutzt das für neue Möglichkeiten, Daten zur Erstellung moderner Anwendungen zu nutzen.
Das Stichwort heißt: Retrieval Augmented Generation (RAG). Durch die Erstellung von Vektor-Einbettungen aus vorhandenen Daten und die Verwendung von Ähnlichkeitssuchen, gepaart mit den Schlussfolgerungsfähigkeiten eines Large Language Models (LLM), lassen sich Features schaffen, die den Kundenbedürfnissen entsprechen.
Ein Einkaufsprozess beispielsweise wird durch einfache Suchanfragen erleichtert, die durch KI unterstützt werden. Doch was ist erforderlich, um eine solche Anwendung zu erstellen? Der Versuch, mit Hilfe von T-SQL und einem LLM eine Anfrage wie „help me plan a graduation party“ zu bewältigen, zeigt die grundlegenden Schritte.
Microsoft hat dazu ein Beispiel auf seiner DevBlog-Seite veröffentlicht. Hier werden Azure Open AI Deployment für die Completions API (GPT-4o) und gespeicherte Prozeduren verwendet, um das Modell aufzurufen.
Das LLM liefert generische Antworten, was jedoch nicht ausreichend ist. Die wahre Stärke eines Einzelhändlers liegt in den spezifischen Produktdaten. Das Ziel ist es, relevante Produkte zu identifizieren und ein LLM zu verwenden, um über diese Daten nachzudenken und eine maßgeschneiderte Antwort zu liefern.
Dies erfolgt in drei Schritten:
1. Produktdaten erfassen
2. Relevante Produkte mittels Vektorähnlichkeitssuchen identifizieren
3. Mit den Daten arbeiten und sie zu einer Antwort zusammenfassen
Durch den Einsatz von Azure SQL Database und der neuen Vektorfunktionen können diese Schritte direkt im operativen Datenspeicher durchgeführt werden, ohne Daten zwischen verschiedenen Systemen bewegen zu müssen.