Prozessberatung & Entwicklung eines Chat-Bot (GenAI)

Start: 15.09.2024
Dauer: bis 31.12.2024 (mit Option auf zweimalige Verlängerung um jeweils 6 Monate)
Auslastung: Vollzeit
Lokation: Remote

Projektbeschreibung:
Wir suchen einen erfahrenen Prozessberater (m/w/d) oder Entwickler (m/w/d) zur Unterstützung der Entwicklung eines Chat-Bots für Energienetz-Monteure auf Basis generativer KI (GenAI). Das Ziel ist es, Monteuren automatisierte Antworten auf technische Fragen zu ermöglichen. Der Chat-Bot wird in Teilkomponenten entwickelt und in die bestehende Lösung integriert.

Aufgaben:
Verbesserung der RAG-Architektur für die Dokumentenverwaltung:

* Analyse und Optimierung der bestehenden RAG-Architektur (Retrieval-Augmented Generation)

* Experimentieren mit verschiedenen Optimierungsmethoden zur Steigerung der Leistungsfähigkeit

* Integration erfolgreicher Ansätze in die bestehende Lösung und kontinuierliche Überwachung der Ergebnisse
* Etablierung eines Monitoring-Prozesses zur Identifikation und Behebung von Problemen sowie iterative Verbesserung der Ansätze basierend auf Nutzerfeedback

KI-gestützte Auswertung von Bildern und Videos:

* Entwicklung von Konzepten zur Nutzung von GenAI für die Analyse von Bild- und Videodaten

* Testen und Bewerten verschiedener Ansätze zur automatisierten Interpretation von Bild- und Tondaten
* Integration von Knowledge Graphen zur Erstellung einer integrierten Informationsbasis für die Kombination von Bild-, Video- und Textdaten

Etablierung einer Validierungsstrecke:

* Entwicklung einer Testumgebung zur Simulation und Validierung von Produktionsprozessen

* Implementierung eines Monitoring-Systems zur Datenerfassung und -analyse während der Validierungsphasen
* Erstellung eines detaillierten Dokumentationspakets zur Einrichtung, Nutzung und Wartung der Validierungsstrecke

Integration neuer Features in die Anwender-App:

* Entwicklung einer Schnittstelle zur Anbindung der optimierten Prozesse an die bestehende App.

* Durchführung von Tests zur Sicherstellung der Funktionalität, inklusive Implementierung von Sicherheitsmechanismen
* Planung und Bereitstellung regelmäßiger Updates sowie Nutzer-Support

Friendly-User Test und Umsetzung von Verbesserungen:

* Durchführung von Tests zur Bewertung der Nutzererfahrung

* Sammlung von qualitativem und quantitativem Feedback zur Ableitung von Verbesserungsvorschlägen.
* Priorisierung und Implementierung von drei ausgewählten Verbesserungsvorschlägen zur Optimierung der App-Funktionalitäten basierend auf den Ergebnissen des Friendly-User Tests.

Anforderungen:
Umfangreiche Erfahrung mit RAG-Projekten:

* Der Dienstleister (m/w/d) sollte über nachweisbare Erfahrung in der erfolgreichen Implementierung von mehr als 20 RAG-Projekten verfügen, insbesondere auf dem Azure-Stack

Technologische Expertise:

* Fundierte Kenntnisse in Large Language Model (LLM) Frameworks wie LangChain, Llama-Index, und AutoGen
* Erfahrung mit Vektor-Datenbanken wie Azure AI-Search, Weaviate, Qdrant und Chroma

Spezialisierung auf Azure:

* Der Dienstleister (m/w/d) sollte Microsoft Certified Partner sein und eine nachweisbare Spezialisierung im Bereich Analytics on Azure besitzen

* Erfahrung mit LangFuse und VideoRAG

* Praxisnachweis der Arbeit mit LangFuse in mindestens fünf Projekten
* Flexibilität bei der Nutzung von VideoRAG und LanceDB, idealerweise durch interne Projekte erprobt

Erfolgreiche Implementierung von LLM Use-Cases:

* Bereits seit Ende 2022 sollten LLM Use-Cases erfolgreich bei Kunden implementiert worden sein Referenzen und Fallstudien sind wünschenswert

Flexibilität in der App-Erweiterung und Integration:

* Der Dienstleister sollte in der Lage sein, die App um neue Funktionen zu erweitern und Sicherheitsmechanismen sowie Datenschutzrichtlinien zu implementieren

Erfahrung in der Durchführung von Tests und Verbesserungen

* Der Dienstleister muss Erfahrung in der Durchführung von Friendly-User Tests haben und auf Basis des Feedbacks systematisch Optimierungen implementieren können