Anwendungsgebiete und Einschränkungen von Chatbots – Tutorial zu ChatGPT

Nachdem wir gerade gelernt haben, was ein GPT-Modell ist und wie es im Kern funktioniert, möchten wir nun kurz darüber sprechen, für welche Zwecke sich ChatGPT gut eignet und bei welchen Anwendungen Vorsicht geboten ist. Um dies zu verstehen, erinnern wir uns noch einmal daran, wie ein Generative pre-trained transformer Antworten generiert. Durch das Training mit umfangreichen Datensätzen werden immer fortschrittlichere Modelle entwickelt, die äußerst geschickt darin sind, Wörter auf sinnvolle Weise aneinander zu reihen. Allerdings sollten wir beachten: Wie wir bereits in unserem einfachen Beispiel festgestellt haben, versteht die KI im Grunde genommen nichts von dem, was sie verfasst. Die Texte entstehen lediglich durch das Anwenden von Regeln, die auf der Erkennung und Einhaltung von Sprachmustern basieren. Daraus ergeben sich Anwendungsbereiche, in denen die KI hervorragende Ergebnisse liefert, aber auch Grenzen und Bereiche, in denen man die von den GPT-Modellen erzeugten Ergebnisse nicht bedingungslos akzeptieren sollte. Die vermutlich beeindruckendste Eigenschaft von ChatGPT und zweifellos der Hauptgrund für seine rasche Beliebtheit ist die Fähigkeit, Texte zu erstellen, die sich menschlich anfühlen oder anhören. Genau dies ist eben auch eine Stärke von diesen GPT-Modellen. Man hat nicht das Gefühl, mit einem Computer zu sprechen, sondern die Kommunikation ist so menschlich, dass es fast so wirkt, als würde man mit einer echten anderen Person chatten. Daher ist diese Art von KI am besten in einem Kontext einsetzbar, in dem der Verlauf vorangegangener Nachrichten berücksichtigt wird und man sich auf natürliche Weise unterhalten kann. Diese Fähigkeit bietet zahlreiche Anwendungsmöglichkeiten von der Erstellung, Überarbeitung, Kürzung oder Umformulierungen von Texten bis hin zur Klassifizierung oder Übersetzung. Viel davon werden wir auch in den Beispielen in diesem Kurs gemeinsam sehen. Und wie bereits zu Beginn des Videos angedeutet, gibt es einige Anwendungen, für die die GPT-Modelle nicht wirklich geeignet sind. Und darauf möchten wir jetzt noch kurz einmal eingehen. Ganz allgemein ist zu beachten, und dies sollte man immer im Hinterkopf behalten, selbst wenn man mit ChatGPT vermeintlich gute Ergebnisse erzielt, die Modelle wissen eigentlich nicht, wovon sie sprechen. GPT erzeugt Texte auf der Grundlage von erlernten Mustern und Vorhersagen über die nächsten Wörter, basierend auf Wahrscheinlichkeiten. Das bedeutet, dass GPT absolut falsche Informationen als Fakten darstellen kann. Wenn man sich in einer Unterhaltung mit GPT befindet, sieht man deshalb immer den folgenden Hinweis: "ChatGPT may produce inaccurate information about people, places or facts." Also ChatGPT kann ungenaue Informationen über Personen, Orte oder Fakten produzieren. Das ist noch recht freundlich formuliert. Tatsächlich können wir sagen, dass man 'ungenau' problemlos durch 'falsch' ersetzen kann, da es schon oft vorgekommen ist, dass der Chatbot völlig unsinnige Behauptungen als wahr dargestellt hat. Wenn so etwas geschieht, spricht man im Kontext von KIs auch von Halluzination. Daher ist es noch einmal zu betonen und unerlässlich, dass wir immer im Hinterkopf behalten, dass die KI zwar eine wertvolle Unterstützung sein kann, jedoch weder allwissend noch unfehlbar ist. Des Weiteren muss man verstehen, dass ein GPT-Modell ausschließlich auf Grundlage der Daten trainiert wurde, die ihm zur Verfügung standen. Alles, was außerhalb dieses Datensatzes liegt, ist der KI nicht bekannt. Es gibt mittlerweile Lösungen, wie zum Beispiel bestimmte Plugins für ChatGPT Plus, bei denen der Chatbot die Möglichkeit hat, das Internet nach aktuelleren Informationen zu durchsuchen. Dennoch verfügt das Modell in der Regel über ein begrenztes Wissensspektrum. Abgesehen von dieser zeitlichen Begrenzung, die noch relativ gut planbar ist, gibt es auch thematische Einschränkungen. Obwohl die aktuellen Modelle aufgrund ihres Trainings mit umfangreichen Datensätzen über eigentlich ein breites Allgemeinwissen verfügen, werden sie bei sehr spezifischen Fragen, wie beispielsweise der Wirkung eines bestimmten Medikaments für einen speziellen Patienten, keine präzisen Antworten liefern können. Einige Chatbots gestehen dies ein und geben zu, dass sie keine genaue Antwort geben können, während andere versuchen, einfach eine Antwort aus vorhandenem Wissen zusammenzusetzen. In solchen Fällen ist jedoch zu bedenken, dass die Informationen möglicherweise unvollständig oder sogar völlig falsch sein können. Je nach den Daten, mit denen das Modell trainiert wurde, ist es auch möglich, dass es voreingenommen ist oder Vorurteile aufweist, was im Englischen oft als 'Bias' bezeichnet wird. Dies geschieht häufig bei KI-Tools, die Bilder generieren und dort regelmäßig Stereotypen bedienen. Diese Einschränkungen können insbesondere bei sensiblen oder kontroversen Themen dazu führen, dass keine neutralen oder angemessenen Antworten gegeben werden. Das liegt wieder an der Tatsache, dass das Modell lediglich auf sein eigenes Training angewiesen ist und keine empathischen Meinungen entwickeln kann. Im Verlauf dieses Kurses werden wir zahlreiche Beispiele gemeinsam durchgehen, in denen man die positiven und sinnvollen Aspekte von ChatGPT optimal nutzen kann. Dennoch halten wir es auch für wichtig, über die Grenzen und Einschränkungen nachzudenken und die Ergebnisse immer differenziert und objektiv zu bewerten. Im Zweifelsfall ist es ratsam, selbst noch einmal nachzudenken oder zu recherchieren, wenn einem eine Antwort etwas seltsam erscheint.