Vor wenigen Tagen habe ich einen innovativen Chatbot entwickelt und erfolgreich auf www.pitschek.com / pitschek.consulting implementiert (siehe LinkedIn-Beitrag unter https://lnkd.in/d-RCDats). Dieser Chatbot wurde mit spezifischen Informationen unseres Unternehmens programmiert, die jedoch nicht im OpenAI-Universum gespeichert sind. Laut den Statistiken von OpenAI (basierend auf der Anzahl der gelieferten Tokens usw.) wurde unser Chatbot bereits intensiv genutzt und „getestet“.
Hier ist ein kurzes Update zu meinen Erfahrungen und Erkenntnissen:
– Ich habe rund 30 Dateien mit jeweils 2.000-3.000 Zeichen erstellt und als „Lernmaterial“ für den Chatbot bereitgestellt. Diese Dateien enthalten Informationen über die Dienstleistungen und Services von Pitschek.Consulting, Fachwissen zu ECM, BPM und AI, sowie persönliche Informationen über mich. Dies war mit Abstand der aufwendigste Teil des Projekts!
– Insgesamt wurden etwa 250 Vektoren (mit 1.536 Dimensionen) in der qrant Vektor-Datenbank (in der Cloud) gespeichert.
– Nach etwa 40 Lernzyklen (basierend auf den bereitgestellten Daten) konnte ich eine signifikante Verbesserung der Ergebnisse feststellen.
– Die Antworten des Chatbots sind nun umfangreicher und berücksichtigen mehrere Dimensionen (z.B. Dienstleistungen und Fachthemen).
– Die Gesamtkosten für dieses Projekt belaufen sich bisher auf etwa 150€, was deutlich unter meinen ursprünglichen Erwartungen liegt.
– Die Kosten entstehen hauptsächlich durch die Nutzung der OpenAI API, der qdrant Vektor-Datenbank und des Render Cloud-Services (Flowise Runtime).