Diesmal gibt es unser Kurzformat „Wissen macht Zukunft“ in Form von drei kurzen Videos. Das Thema: Chatbots in Unternehmen: Welche Bot passt für uns?“
Das erste Video zeigt Ihnen, welche Bots es gibt, im zweiten Video bekommen Sie Einblicke und Tipps zum Datenschutz und im dritten Video geht es um die Frage „Welchen Chatbot sollen wir nun nehmen?“.
Die Transkripte finden Sie unter den jeweiligen Videos.
Herzlich Willkommen beim Format „Wissen macht Zukunft“ des Regionalen Zukunftszentrums Süd.
Diesmal in Form von Videos, nicht unser Mittags-Webinar. Wir beschäftigen uns mit Chatbots im Unternehmen. „Welcher Bot passt für uns?“ und in diesem Video „Welche Bots gibt es eigentlich?“ und wie funktionieren die? Ich habe mal zwei große Bereiche rausgesucht, die man kennen sollte. Das eine sind mal regelbasierte Bots, die einem festen Gesprächsschema folgen und KI-Sprachmodelle, die Gespräche in natürlicher Sprache führen können.
Ja, was kann man sich darunter vorstellen? Ich erkläre jetzt kurz in zwei Slides, wie das funktioniert. Regelbasierte Bots kennen wir eigentlich schon lange. Die haben zum Beispiel Fluggesellschaften. Mittlerweile schon der Friseur, um den Termin auszumachen. Oder, ich nehme jetzt hier das Beispiel Arzt-Webseite. Kann es sein, dass rechts unten auf der Webseite so ein Gesprächsfenster aufgeht, dann kann ich zum Beispiel eintippen, ich brauche einen Termin. Ich möchte mich untersuchen lassen. Und dann prüft dieser Bot folgendes. Er checkt jetzt auf bestimmte Wörter, ob die in der Anfrage enthalten sind. In dem Fall steht Termin drin. Der ist vorhanden, dieser Begriff, also kann mir der Bot zum Beispiel Terminvorschläge geben, die ich dann anklicke und dann bekomme ich eine Bestätigungsmail. Zum Beispiel nachdem meine Mailadresse abgefragt wurde. Kann auch sein, dass ich nach einem Rezept frage. Dann gehe ich da in diesen Zweig rein. Wird vielleicht der Name gefragt. Also das ist alles hier fiktiv, nur dass man es sich vorstellen kann. Geht auch eine Krankmeldung und alles Weitere, das ist ziemlich starr und es ist ziemlich einfach umzusetzen. Mittlerweile gibt es Portale, die das anbieten, da klicke ich mir diese Abläufe nur noch zusammen und brauche nicht mal Programmieren können.
Dahingehend, gibt es eben KI-Sprachmodelle für die Öffentlichkeit und mit denen kann ich ganz natürlich chatten, wie auch mit allen anderen Menschen, das sieht dann tatsächlich ziemlich natürlich aus. Dem kann ich auch Dateien hochladen und also Sachen fragen, wie „Fasse dieses PDF zusammen“, dann macht dieser Chatbot Folgendes. Das ist eine ziemliche Magie, die da fast dahinter steckt. Das sind sogenannte neuronale Netze, riesengroß, die brauchen einen Server, um die zu betreiben, da reicht dann kein Notebook. Was die machen, ist zunächst mal ein Textverständnis generieren. Was bedeutet dieser Text hier vorne in Form von Zahlen? Und diese Zahlen werden dann umgewandelt in die Wahrscheinlichkeit des nächsten Wortes. Welches Wort kommt mit höchster Wahrscheinlichkeit als nächstes nach diesem Text als Antwort. Und was er dann macht: Er startet vielleicht mit dem Wort „In“ und macht dann weiter – Wort für Wort – „In diesem PDF geht es um die detaillierte Beschreibung von …“ und so weiter.
Wir haben auch ein kostenfreies Weiterbildungsangebot Generative KI, in dem diese Abläufe genauer erläutert werden, wenn Sie Interesse haben. Ja und um mal einen kurzen Überblick zu geben: Es gibt eine ganze Reihe an Chatbots. Ich habe hier mal die Größten rausgesucht und dann noch aufgestellt, was die kosten und ob man sie frei verwenden kann oder ob man die nur beim Hersteller verwenden kann. Ich starte mal hier mit ChatGPT, das die meisten wohl kennen. Hier haben wir ein Abo-Modell für die Pro-Variante, um dann eben mehrere Anfragen zu stellen oder auch komplexere Sachen zu machen, Bilder generieren zu lassen. Das ist eben kostpflichtig. Da muss ich was zahlen dafür und es ist auch proprietär. Ich kann das nur über die Server von OpenAI betreiben und ich kann auch nicht dieses Modell herunterladen. Da hingegen kam jetzt vor einer Weile DeepSeek aus China raus, das ist an sich eigentlich kostenfrei aber ja der Vertreiber hat auch eine UI, ein User Interface oder Webseite. Da muss man zahlen, wenn man komplexe Sachen machen möchte. Aber auf der anderen Seite ist es Open-Source. Man kann es einfach herunterladen und im eigenen Unternehmen betreiben. Da braucht man auch kein Internet dafür. Aber so gehen auch keine Unternehmensdaten verloren. Dazu auch im nächsten Video zum Thema Datenschutz noch weiteres.
Eine Besonderheit hier, Microsoft Copilot, das können alle nutzen, die Microsoft 365 haben. Es ist halt auch wieder proprietär. Dann gibt es zweitens Meta Llama, also vom Facebook-Konzern. Kostenfreie Open-Source-Variante und auch Hugging-Chat ist kostenfrei und Open-Source. Grok haben vielleicht schon einige gehört, das ist vom X-Konzern, kann innerhalb X, aber auch in einer eigenen Oberfläche benutzt werden.
Ja, noch kurz eine Info: Dieses Projekt Zukunftszentrum Süd ist öffentlich gefördert. Das heißt, alle unsere Angebote werden durch EU, Bund und Länder Baden-Württemberg und Bayern finanziert. Das heißt, alle unsere Beratungsangebote und Weiterbildungen sind für Sie kostenfrei. Wir beraten eben kleine und mittlere Unternehmen und können bei der Weiterbildung auch größere Unternehmen unterstützen.
Es würde mich freuen, wenn Ihnen dieses Video gefallen hat. Stellen Sie sicher, dass Sie die nächsten beiden Videos auch noch anschauen und ich wünsche Ihnen noch einen schönen Tag. Dankeschön!
Herzlich willkommen zum Format „Wissen macht Zukunft“ des Zukunftszentrums Süd.
Diesmal in Form von Videos, nicht als Mittags-Webinar. Ja, wir beschäftigen uns dieses Mal mit Chatbots im Unternehmen. Welcher Bot passt für uns? In diesem Video sorge ich, was man beim Datenschutz beachten sollte.
Beim Datenschutz, wir wissen es alle, müssen personenbezogene Daten geschützt werden. Auf der linken Seite habe ich ein paar Beispiele dafür gezeigt. Diese Daten sollte man kennen, da sie eine Person direkt oder indirekt identifizieren können. Direkte Identifikation ist natürlich sowas wie Name, Anschrift usw. Da weiß ich gleich, um welche Person es sich handelt. Aber es gibt auch indirekte Daten. Das ist dann sowas wie Haarfarbe, wohnt in München, ist weiblich, ist in diesem Alter und so weiter. Dann kann ich irgendwann auf eine Person schließen. Wenn ich diese Daten im Unternehmen verarbeite, brauche ich eine Datenschutzvereinbarung.
Dann gibt es noch besonders sensible personenbezogene Daten. Das sind zum Beispiel Gesundheitsdaten, ethnische Herkunft, sexuelle Orientierung und so weiter, die besonders geschützt werden müssen und die die ausdrückliche Einwilligung der Person benötigen. Natürlich muss ich mit diesen Daten sicher umgehen, auch in einem Chatbot. Was passieren kann, wenn diese Daten geleakt werden, zum Beispiel, wenn ich Gesundheitsinformationen eines Patienten bei einem Chatbot wie ChatGPT eingebe, der in den USA betrieben wird, dann kann ich der Gefahr laufen, ein Bußgeld zu zahlen. Das ist hier so ein Wert, den man im Bußgeld-Katalog der DSGVO, also Datenschutz-Grundverordnung, findet. Es gibt auch Freiheitsstrafen, aber es ist wirklich abhängig vom konkreten Verstoß, von der Unternehmensgröße und ob es überhaupt aufkommt. Dennoch, ich würde hier das wirklich vermeiden, da es zu einem großen Reputationsverlust kommen kann.
Das hört sich jetzt alles böse an. Wir haben natürlich Empfehlungen dazu. Eines, was ich gleich mal zeigen kann, ist Folgendes: Welche Chatbots sind jetzt DSGVO-konform, wo kann ich einigermaßen sicher sein, wo sollte ich aufpassen? Bei ChatGPT, ich habe es schon gesagt, der läuft in den USA. Es ist geplant, hier noch datenschutzkonforme Server in der EU einzuführen. DeepSeek zum Beispiel ist ein Chatbot aus China. Die Gratis-Version, die ich herunterladen kann, kann ich lokal betreiben, das ist mal kein Problem. Da kann ich den Stecker vom Internet ziehen, dann bin ich da sicher. Aber wenn ich die Pro-Variante benutze, die Bezahlvariante, dann gehen meine Daten nach China. Die ganzen, die sind alle in Europa gehostet. Grok ist auch vom Twitter oder X-Konzern, auch wieder in den USA.
Die beachten die europäische Datenschutz-Grundverordnung. Da gibt es noch eine andere Überlegung. Ich betreibe den Chatbot lokal, in meinem Unternehmensnetzwerk, getrennt vom Internet. ChatGPT wird ja in den USA betrieben, das kann ich auch nicht herunterladen, ist nicht Open Source, geht also nicht im Unternehmen. DeepSeek wie gesagt schon, das passt, da bin ich dann sicherer unterwegs. Natürlich noch eingeschränkt, warum sage ich das Beispiel Microsoft Copilot. Das ist in MS 365 enthalten und Microsoft stellt da Server bereit, die in der EU betrieben werden. Natürlich habe ich es dann zum Beispiel im Teams drin, im Microsoft Teams. Es läuft also so halb lokal, deswegen eben eingeschränkt.
Wir haben jedenfalls Tipps dabei für Anfänger und auch schon Fortgeschrittene, die man einfach beachten sollte. Super wichtig. Das erste, was ich gleich mal sagen kann: einfach keine personenbezogenen Daten in einen Chatbot eingeben, sofern der nicht lokal läuft und vom Internet getrennt ist. Wenn ich mir zum Beispiel eine E-Mail umschreiben lasse, dann mache ich das selber, tausche Namen, Unternehmensnamen und so weiter durch Pseudonyme oder Akronyme aus oder einfach Platzhalter wie ein X oder sowas. Dann bin ich da relativ sicher und lasse vielleicht Sätze raus, die unternehmensinterne Infos enthalten.
Was dann noch empfehlbar ist: Chatbots aus der EU verwenden und dann auch die Datenschutzrichtlinien lesen. Werden die Daten in einem Drittland verarbeitet und so weiter, was geschieht mit den Daten? Wenn ich solche EU-internen Chatbots verwende, sollte ich da auch aufpassen. Wenn da steht, diese Daten gehen dann noch ins EU-Ausland, dann ist das ein No-Go, würde ich einfach lassen. Und natürlich, falls es möglich ist, einen lokalen Chatbot betreiben. Für die, die nicht aus der IT stammen, habe ich im nächsten Video ein Beispiel dabei, wie man das lokal mit dem eigenen Notebook machen kann. Man braucht vielleicht ein bisschen stärkeres Notebook, aber das geht dann ohne Programmieren ganz einfach. Und natürlich weiterer Tipp: Mitarbeitende sensibilisieren. Die einfachsten Fehler beim Datenschutz können passieren, wenn man einfach nicht weiß, was man nicht machen soll.
Wir haben da kostenfreie Angebote zur Weiterbildung, weil unser Projekt gefördert ist von EU, Bund und Ländern, Bayern, Baden-Württemberg. Dadurch können wir KMU und große Unternehmen weiterbilden, gerne Beschäftigte genauso wie Führungskräfte und können die Unternehmen natürlich auch beraten.
Ich würde mich freuen, wenn Ihnen dieses Video gefallen hat. Schauen Sie sich das nächste Video an und ich wünsche Ihnen einen schönen Tag.
Herzlich willkommen zum Format „Wissen macht Zukunft“ des Zukunftszentrums Süd. Diesmal in Form von Videos, nicht als Mittagswebinar.
Wir befassen uns mit dem Thema Chatbots in Unternehmen und mit der Frage, welcher Bot passt für uns? Und nun final im dritten Video habe ich Ihnen ein paar Informationen dabei mitgenommen, und zwar zur Beantwortung der Frage, welchen Chatbot sollen wir nun nehmen? Es gibt ja so viele. Welcher passt zu uns? Und da habe ich ein paar Tipps für Sie.
Im ersten Video habe ich verschiedene Bottypen vorgestellt. Es gibt regelbasierte Bots, die einfach nur Wörter abfragen, die in einer Anfrage drin stehen, oder KI-Sprachmodelle, die Textverständnis haben. Da gibt es erstmal ein paar einfache Fragen, die man sich stellen kann. Soll es einfach und günstig sein für eine Terminwahl? Vielleicht, um einfache Fragen zu beantworten? Dann reicht ein regelbasierter Chatbot, den ich mir zusammenklicken kann. Wie ich schon gesagt habe, einen Terminwahl-Bot auf einer Webseite oder ein interner HR-Bot zu Vertragsfragen.
Soll dieser Bot ziemlich viel Dialog können und Wissen haben, dann wäre das ein KI-Sprachmodell. Das wäre eine Frage, zum Beispiel, um Kundenservice mit einem FAQ zu betreiben und maßgeschneiderte Antworten zu liefern. Dann vielleicht noch eine interessante Frage: Soll es datenschutzkritisch sein oder vielleicht mit internem Wissen des Unternehmens umgehen können, ohne dass diese Daten rausgehen? Dann sollte ich vielleicht einen lokalen Chatbot verwenden, ein lokales KI-Sprachmodell. Da gibt es ein paar Anwendungsbereiche, Rechts-Chatbots zum Beispiel. Ich habe schon mit Juristen gesprochen, da ist es auch schon ein Thema oder Chatbots mit Wissen über Intellectual Property, also geheimes Unternehmenswissen. Das sollte ich natürlich auf gar keinen Fall rausgeben. Da kann ich meinem Unternehmen schaden, wenn diese Daten geleakt werden.
Da habe ich schon ein paar Tipps dabei auf dieser Folie. Was wir immer empfehlen bei der Implementierung einer Software, eines Prototypen, einer KI oder so: Starten Sie zunächst mal klein, wenn das neu für Sie im Unternehmen ist. Gründen Sie am besten ein kleines Projektteam, das sich damit beschäftigt. Und natürlich, nutzen Sie unser Angebot. Wir sind öffentlich gefördert und unterstützen Sie durch Beratung oder Weiterbildung kostenfrei.
Ein weiteres Thema ist natürlich Datenschutz prüfen. Schauen Sie sich die Datenschutzerklärungen dieser Bots an, wenn Sie fremdgehostete verwenden. Wo gehen die Daten hin? Bleiben die in der EU? Am besten in Deutschland oder wandern die in ein Drittland ab? Da kann ich gegebenenfalls bei personenbezogenen Daten straffähig werden. Dann natürlich kritisch hinterfragen, jederzeit, was passiert hier eigentlich. Nicht blind der KI vertrauen und zuletzt noch ausprobieren und lernen. Gucken, was gibt es Neues und einfach mal ausprobieren, sofern es nicht zu viel kostet. So erweitert man sein Wissen und die Erfahrung natürlich.
Ich zeige jetzt gleich noch eine Demo, eine Software, die man nutzen kann, um ganz einfach und problemfrei auf dem eigenen Notebook einen Chatbot einzurichten, der dann lokal läuft. Es gibt hier beispielsweise die Software GPT4All. Die kann man sich herunterladen und Chatbots auf dem eigenen Computer verwenden. Ich führe Sie mal ganz kurz durch diese Software. Sie haben hier links dieses Fenster „Chats“ mit vorherigen Besprechungen oder Diskussionen mit Chatbots und ein Chatfenster. Dann noch ein Fenster „Modelle“. Da kann man sich Modelle holen, herunterladen und installieren und noch eigene Dokumente einbinden. Ich gehe mal direkt zu den Modellen und zeige, wie man ein Modell hinzufügt. Das geht über „Add Model“ zum Beispiel. Dann kann ich hier durchscrollen und Modelle herunterladen und entfernen. Man sieht dann immer, was die Größe ist. Das sind hier zum Beispiel 4,14 Gigabyte. Das ist schon einiges und ich brauche auch Gigabyte Arbeitsspeicher.
Anschließend kann ich auf einen Chat gehen und mir ein Modell aussuchen. Da habe ich zum Beispiel Meta-Llama heruntergeladen. Das kann ich auswählen. Wird dann geladen und ich kann dann etwas eingeben wie „Hallo“. Und dann antwortet er schon. Macht er jetzt auf Englisch, da könnte man dann noch hinschreiben „Antworte bitte auf Deutsch“. Was dann natürlich auch noch geht: Ich kann lokale Dokumente in dieses GPT4All laden. Ich habe mir einfach einen Ordner unter meinen Dokumenten angelegt. Da liegen drei PDFs drin, in dem Fall einfach mit Rezepten. Was man dann machen muss, ist quasi hier auf diese Seite gehen. Wenn da nichts passiert, muss man hier auf „Rebuild“ gehen oder so, weil diese PDFs dann in Textverständnis umgewandelt werden. Wenn Sie mehr dazu wissen wollen, schreiben Sie uns einfach an, wir geben Ihnen dann Hinweise, wie das geht.
Unter „Chats“ kann ich jetzt hergehen und in meinen Chat diese Dokumente hinzufügen, also diese „Local Docs“. Dann kann ich mal fragen: „Welche Zutaten brauche ich für Waffeln?“ „Antworte auf Deutsch.“ Ich habe ein paar Rechtschreibfehler drin. Das macht eigentlich gar nichts. Und er antwortet mir bereits mit einer Rezeptliste und die hat er auch zum Beispiel hier aus diesen Honigwaffeln gefunden. Wenn ich das aufmache, sieht man auch gleich, diese Rezeptliste stimmt überein. Also er hat es auch wirklich aus dem Dokument gefunden. Weshalb er die Pizza hier auch listet, naja, das kann eben mal ein Fehler sein. Man sollte wissen, dass solche Chatbots halluzinieren.
Ja, dieses Video ist quasi gesponsert, da das Zukunftszentrum Süd öffentlich gefördert ist, eben durch Bund, EU und Länder. Wir haben verschiedene Beratungs- und Weiterbildungsangebote für kleine und mittlere Unternehmen und können auch größere Unternehmen und deren Mitarbeiter weiterbilden.
Ich hoffe, Ihnen hat dieses Video gefallen. Wenn Sie Interesse an unserem Angebot haben, kommen Sie einfach auf uns zu. Sie erreichen uns zum Beispiel über diese Kontakt-Infos und wenn Sie dieses Video in LinkedIn sehen, über unseren LinkedIn-Kanal. Ich danke Ihnen fürs Zusehen und wünsche Ihnen noch einen schönen Tag. Bis zum nächsten Mal.
Markus Eider, Berater im Zukunftszentrum Süd, Technische Hochschule Deggendorf
Das Projekt „Zukunftszentrum Süd“ wird im Rahmen des Programms „Zukunftszentren“ durch das Bundesministerium für Arbeit und Soziales und die Europäische Union über den Europäischen Sozialfonds Plus (ESF Plus) sowie anteilig durch die jeweiligen Landesministerien für Wirtschaft in Bayern und Baden-Württemberg gefördert.
Projektpartner sind:
