Neue Möglichkeiten des Wissensmanagements – ChatGPT verarbeitet Unternehmensdaten mit Azure OpenAI und Cognitive Search
By Autor In Allgemein On 17. Mai 2023
Millionen von Menschen haben mittlerweile mit ChatGPT experimentiert und erstaunliche Erfahrungen mit den Möglichkeiten gemacht. Wer sehr aktuelle Daten oder Daten, die nicht öffentlich sind (wie die eigenen Unternehmensdaten) verwenden will, stößt jedoch schnell an Grenzen. Das ist schade, denn gerade die eigenen Daten sind essentiell, um fundierte Entscheidungen zu treffen und die eigenen Unternehmensziele schneller zu erreichen.
Aber es gibt eine Lösung! In Kombination mit Azure OpenAI und Cognitive Search kann dieses Problem auf verschiedene Arten gelöst werden.
Datenmanagement mit ChatGPT leicht gemacht
Aus privaten Dokumenten kann mit etwas Datenaufbereitung ein sogenannter Index erstellt werden, der von ChatGPT genutzt werden kann. Einige OpenSource-Projekte wie LangChain oder LlamaIndex bieten die Möglichkeit, mit Tools wie LLama Hub die Daten für solche Indizes aufzubereiten. Etwas komfortabler geht es mit einem Azure Cognitive Search Index. Diese Art von Index kann verschiedene Datenformate verarbeiten und sogar Bilder und Videos auswerten.
Mit der folgenden Architektur können Daten aus verschiedenen Unternehmensdatenquellen mit ChatGPT abgefragt werden:
Quelle: https://github.com/Azure-Samples/azure-search-openai-demo
Praxisbeispiel – so funktioniert’s mit eigenen Daten
Das nachfolgende Beispiel zeigt Ansätze zur Erstellung von ChatGPT-ähnlichen Erfahrungen mit eigenen Daten unter Verwendung eines sogenannten Retrieval Augmented Generation-Musters. Es nutzt Azure OpenAI Service für den Zugriff auf das ChatGPT-Modell (gpt-35-turbo) und Azure Cognitive Search für die Indizierung und den Abruf der Daten.
Für den nachfolgend beschriebenen Test wurden fünf PDF-Dateien der FernUniversität Hagen aus dem Fach „Management von Dienstleistungsprozessen“ im Studiengang Wirtschaftswissenschaften verwendet. Diese fünf PDF-Dateien mit jeweils rund 100 DIN-A4-Seiten dienen als Grundlage für die Beantwortung der Übungsfragen. ChatGPT beantwortet Fragen zum Inhalt korrekt und zeigt auch an, auf welche Textstelle in welchem PDF-Dokument Bezug genommen wird. Dies leistet ChatGPT nicht, wenn er mit vortrainierten Daten antwortet. Neben den inhaltlichen Fragen ist ChatGPT auch in der Lage, die sogenannte „Transferleistung“ zu erbringen, d.h. theoretische Inhalte auf neue Sachverhalte zu übertragen.
ChatGPT arbeitet mehrsprachig
Was passiert, wenn die Quellinformationen in einer Sprache verfasst sind, die man selbst nicht beherrscht? Auch das ist kein Problem, denn ChatGPT kann beispielsweise Fragen in englischer Sprache verstehen und beantworten, selbst, wenn alle Fakten in deutscher Sprache verfasst wurden.
Fazit: Diese Beispiele zeigen, dass mit ChatGPT und eigenen Daten gänzlich neue Möglichkeiten des Wissensmanagements erschlossen werden können. Unternehmenswissen, das in digitaler Form vorliegt, kann in einfacher Form punktgenau und situationsgerecht in vielen verschiedenen Sprachen abgerufen werden. Und es hilft, dass Sie Ihre Unternehmensziele schneller erreichen und fundierte Entscheidungen treffen.
Sie möchten Ihre Unternehmensdaten mit Hilfe von KI effizienter nutzen? Dann zögern Sie nicht, mich zu kontaktieren. Ich analysiere Prozessstrukturen, unterstütze Sie bei der Optimierung von Abläufen und finde Wege, aktuelle Techniken der Digitalisierung nutzenbringend für Ihr Unternehmen einzusetzen.
Alle Produktnamen sind geschützte Marken und Markennamen der jeweiligen Hersteller.