3.9 Kritisches zu Chatbots

Bei der Nutzung gilt es jedoch stets zu beachten, dass Chatbots zwar als nützliches Werkzeug eingesetzt werden, aber meist keine perfekte Lösung präsentieren können. Chatbots sind in ihren Antworten bisher noch recht limitiert, da die Antworten aus einer vorgegebenen Menge an Antwortoptionen bestehen. Der Kontext eines umfangreichen Gesprächs kann bisher nicht verarbeitet werden, sodass es zu unpassenden Antworten kommen kann. Ebenfalls ist anzunehmen, dass Chatbots nicht auf Sarkasmus bzw. Humor reagieren können (vgl. Kalla/Smith 2023). Da Chatbots ihre Informationen aus Trainingsdaten erhalten, also von Menschen eingespeiste Datensätze (bspw. auf Plattformen wie Reddit etc.), ist anzunehmen, dass Informationen zu unterrepräsentierten Themen nicht dargestellt werden können. Die Qualität der Ergebnisse hängt somit stark von der Qualität der Trainingsdaten ab. Nutzer*innen sollten sich daher nicht einfach auf die Informationen und Formulierung von Chatbots im Allgemeinen und ChatGPT im Speziellen verlassen, sondern diese gewissenhaft nachprüfen und den Chatbot in Verbindung mit anderen Tools, Techniken und dem eigenen Knowhow verwenden (vgl. Ebd.).

Aufgaben

Bearbeiten Sie die folgenden Aufgaben:

Take Home Messages
  • Künstliche Intelligenz wird eingesetzt, um Prozesse effektiver zu gestalten und zu optimieren. Man unterscheidet in schwache KI und starke KI. Sie wird bereits vielfältig in unterschiedlichen Bereichen und Kontexten eingesetzt wie Unternehmen, Hochschulen, Schulen, Polizei usw. Sinn dieses Einsatzes ist vor allem, Prozesse zu optimieren und effektiver zu gestalten.
  • Das Maschinelle Lernen wird als Teilgebiet von Künstlicher Intelligenz und häufig als Sammelbegriff für unterschiedliche statistische Analysemethoden verwendet. Das maschinelle Lernen beschreibt Verfahren zur Erkennung von Mustern innerhalb eines Datensatzes, um eigene Entscheidungen zu treffen. Da diese Datensätze meist große Datenmengen (Big Data) beinhalten, müssen sie in ihrer Komplexität mittels Algorithmen reduziert werden.
  • Algorithmen sind Werkzeuge, um die Komplexität von großen Datenmengen zu reduzieren und sie nutzbar zu machen. Es gibt unterschiedliche Algorithmen: Die bekanntesten sind das Überwachte Lernen, das Unüberwachte Lernen und das Bestärkende Lernen. Algorithmen werden darauf trainiert, Muster in Datensätzen zu erkennen, Entscheidungen eigenständig zu treffen und sich weiter zu verbessern.
  • Deep Learning zählt zu den Teilbereichen des maschinellen Lernens und Künstlicher Intelligenz. Das Deep Learning verwendet künstliche neuronale Netzwerke für die Analyse großer Datenmengen. Die Informationsverarbeitung ermöglicht es einem System, eigene Entscheidungen zu treffen. Die Deep-Learning-Algorithmen können durch die Verwendung der neuronalen Netzwerke auch in unstrukturierten Informationen Merkmale erkennen. Anwendungsfelder liegen u.a. im Bereich der Bild- und Spracherkennung und der Sprachmodelle. Diese Innovationen bergen jedoch auch Gefahren, indem Bilder verändert, Stimmen geklont werden und Sprachmodelle Vorurteile aufweisen können.
  • Chatbots sind Programme mit Künstlicher Intelligenz, um z.B. Serviceleistungen, die sonst durch Menschen durchgeführt werden, zu ersetzen. Diese lernen aus Unterhaltungen mit Menschen, um Gespräche und z.B. Serviceleistungen stetig zu verbessern.
Literatur- und Web-Tipps

Unter folgenden Seiten können einige Chatbots ausprobiert werden:

Um mehr Informationen zur Nutzung von ChatGPT und anderen Sprachmodellen zu erhalten, empfehlen wir folgende Publikationen: