ChatGPT ist ein Prototyp für einen auf künstlicher Intelligenz basierenden Chatbot. Er wurde von OpenAI entwickelt und im November 2022 veröffentlicht. Der Chatbot wurde mithilfe von RLHF (Reinforcement Learning from Human Feedback,^[1][2] einer Art des bestärkenden Lernens) sowie mit Proximal Policy Optimization (PPO)^[3][4] einer weiteren Form des bestärkenden Lernens, trainiert und nutzt zur Textein- und -ausgabe die künstliche Intelligenz GPT-3.5 (GPT steht für Generative Pre-trained Transformer), einer verbesserten Version von GPT-3 von OpenAI.

Aufgrund ihrer Erfahrungen bei der Entwicklung von GPT und Codex hat OpenAI zahlreiche Schutzmechanismen eingebaut, um falsche und schädliche Antworten zu verhindern. Um das Modell zu verbessern, wird die künstliche Intelligenz (KI) von ChatGPT ständig durch menschliches Feedback verbessert.

Die Trainingsdaten von ChatGPT bestehen aus einer großen Menge von Text, der von Menschen erstellt wurde und verwendet wird, um das Modell zu trainieren. Dieser Text kann aus verschiedenen Quellen stammen, wie zum Beispiel:

• Online-Foren
• Soziale Medien
• Nachrichtenartikel
• Bücher
• Gesprochener Sprache

Durch das Training des Modells mit diesen Daten lernt es, wie menschliche Sprache funktioniert und wie es auf bestimmte Fragen oder Anfragen angemessen reagieren soll.

Das Modell wird durch die Verwendung von Algorithmen trainiert, indem es versucht, die Trainingsdaten möglichst genau nachzuahmen.^[5] Es ist somit in der Lage, Benutzern sinnvolle Antworten auf ihre Fragen zu liefern.

Die Verwendung von Trainingsdaten ist ein wichtiger Bestandteil des Lernprozesses von ChatGPT und trägt dazu bei, dass das Modell in der Lage ist, menschenähnliche Unterhaltungen zu führen.

Im anfänglichen Training der KI bevorzugten Tester längere Antworten, unabhängig von tatsächlichem Verständnis oder Inhalt, was zu langen Antworten des Chatbots geführt hat.^[6]

Die Trainingsdaten können auch unter algorithmischem Bias (einer Voreingenommenheit durch den Algorithmus) leiden; es können also Eingaben mit vagen Beschreibungen von Menschen wie etwa „CEO“ Antworten hervorrufen, die annehmen, dass diese Person weiß und männlich sei.^[7]

Als sprachbasierte Anwendung bietet ChatGPT die Möglichkeit zu dialogischem Austausch. Die Qualität der Antworten schwankt dabei. Gemäß dem Experten für KI Gary Marcus kann es sich „in einem Moment brillant und im nächsten atemberaubend dumm“ äußern.^[8] ChatGPT kann u. A. Businesspläne und Hausaufgaben für die Schule schreiben.^[9] Zum Jahresende 2022 wird von ersten mit der Erprobung des Chatbot befassten Lehrkräften an Schulen und Hochschulen das bisherige Überprüfungssystem von Lernleistungen mittels Hausaufgaben und Referaten in Frage gestellt. Die Informatikerin Katharina Zweig berichtet von der Erfahrung, dass das neue Angebot ChatGPT „deutlich besser schreibt als die Mehrzahl meiner Studierenden in den letzten Jahren.“ Dieses Problem müsse deutlich angesprochen werden. Die Expertin für die KI-Disziplin des „Natural Language Processing“ an der Fachhochschule Kiel Doris Weßels hält die herkömmliche Hausarbeit für obsolet. „Wenn es nur darum geht, Wissen zu reproduzieren und nett neu zu verpacken, ergeben Hausarbeiten keinen Sinn mehr.“ ChatGPT erleichtere das Abfassen solcher Arbeiten nahezu unerträglich.^[10]

Im Vergleich zu seinem Vorgänger InstructGPT versucht ChatGPT, schädliche und irreführende Antworten zu vermeiden. Während InstructGPT beispielsweise den Prompt „Erzähle mir davon, wie Christoph Kolumbus 2015 in die USA kam“ als wahr akzeptiert, nutzt ChatGPT sein Wissen über Kolumbusʼ Reisen und sein Verständnis der modernen Welt – einschließlich gewandelter Meinungen über Kolumbus – um eine Antwort zu konstruieren, die annimmt, was geschähe, wenn Kolumbus 2015 in den USA landen würde.^[6]

ChatGPT kann Code in verschiedenen Programmiersprachen schreiben und verstehen. Somit kann der Chatbot auch für das Debuggen von Code genutzt werden, den er verbessern und erklären kann.^[11]

Außerdem ist die KI in der Lage, komplexe Sachverhalte in einfachen Worten zu erklären, was ChatGPT besonders nützlich für Unternehmen macht, die ihren Kunden oder Nutzern komplexe Informationen vermitteln möchten, ohne dass diese überfordert werden. Die Technologie kann diese komplexen Sachverhalte in einfache, leicht verständliche Worte übersetzen, was dazu beitragen kann, dass diese Informationen von einer größeren Anzahl von Menschen aufgenommen und verstanden werden. Dies kann für Unternehmen, die in Branchen tätig sind, in denen die Vermittlung komplexer Informationen eine wichtige Rolle spielt, von großem Nutzen sein, zum Beispiel in der Bildung, dem Gesundheitswesen oder der Finanzbranche.^[12][13][14]

Die Süddeutsche Zeitung bezeichnete ChatGPTs Veröffentlichung als „bedenklich“, da viele Internetnutzer dessen Antworten nicht hinterfragten und wegen fehlender Quellenangaben auch nicht in der Lage seien, sie auf Korrektheit zu prüfen.^[15] Anfang Dezember 2022 verhängte die Frage-Antwort-Plattform Stack Overflow ein Verbot auf das Beantworten von Fragen mithilfe von ChatGPT aufgrund der zweifelhaften Genauigkeit der Antworten.^[16] Der Kolumnist Sascha Lobo hält ChatGPT für einen Durchbruch und befürchtet, dass es eine Flut an schwer erkennbarem „KI-Quatsch“ im Internet auslösen wird.^[17]

Die Datenwissenschaftlerin Teresa Kubacka befragte ChatGPT zu dem Thema ihrer Doktorarbeit in Physik und erhielt vernünftig klingende Erklärungen und Zitate, die sich bei genauerer Betrachtung als größtenteils frei erfunden herausstellten. Diese so genannten „Datenhalluzinationen“ seien gefährlich, da sie den Internetdiskurs erheblich beeinflussen könnten.^[18] Kubackas Fazit lautet daher, ChatGPT niemals nach sachlichen, wissenschaftlichen Informationen zu fragen, da selbst ein qualifizierter Experte Schwierigkeiten haben wird, herauszufinden, was falsch ist.^[19][20][21]

Mit dem Update vom 15. Dezember 2022 hat OpenAI Maßnahmen ergriffen, um zu verhindern, dass Benutzer die Filter von ChatGPT umgehen können.^[22]

• Offizielle Website
• Bericht in der Sendung Informationen am Morgen des Deutschlandfunks am 21. Dezember 2022