Ist ChatGPT der nächste Schritt zur Entmündigung des Online-Nutzers?

Ein Programm, das kleine und große Texte verfassen kann, das übersetzen, Texte zusammenfassen, Recherchen durchführen und sogar in einem gewissen Umfang Codes erstellen kann – klingt das nicht herrlich? Sind künftig Texter, Journalisten und auch Entwickler unnötig? Können sogar die meisten Anwaltsaufgaben in einer Kanzlei an eine KI abgegeben werden? Nun. Das sei einmal dahingestellt. Da mein Hauptberuf selbst im textbezogenen Marketing angesiedelt ist, hoffe ich das nicht. Und ganz ehrlich: Ich denke nicht, dass eine künstliche Intelligenz so schnell die menschliche Kreativität und das emotionale Lernen ersetzen kann. Nichts desto trotz sehe ich auf dem ersten Blick durchaus Nutzen für mich – sowohl im Beruf (um mir Standardaufgaben wie Keywordrecherchen abzunehmen) als auch privat (warum nicht die Kosten für ein Lektorat ersparen und mein Manuskript durch den Bot prüfen lassen?). Ja. Ich könnte durchaus einige positive Effekte gewinnen, um mir so einige Arbeiten zu vereinfachen. Darum geht es mir aber in diesem Beitrag nicht. Es geht mir an dieser Stelle nicht um den beruflichen Nutzen und auch nicht um die Frage, ob man die Fehlerquote bei ChatGPT und anderen Dialogsystemen maximal senken kann. Meine größere Sorge liegt eher darin, dass moderne Chatbots ein Mittel sein können, um Eigenverantwortung und kritischen Quellenvergleich immer mehr aushebeln können.

Künstliche Intelligenz trifft Suchmaschine

OpenAI, der Entwickler von ChatGPT befindet sich nun unter der direkten Verwaltung von Microsoft, die die KI für ihre Suchmaschine Bing nutzen möchten, um damit Google Konkurrenz zu machen. Der Suchmaschinen-Marktführer reagierte kurzerhand darauf und stellte seinen eigenen Dialogbot vor: Bard. Das Debüt war mehr als mäßig, da das System bereits bei der Vorstellung gravierende Falschinformationen verbreitete. Aber Fehler können behoben werden.

Was heißt das, wenn die entsprechende KI tatsächlich irgendwann mit Suchmaschinen kombiniert werden können? Es gab bereits schon mal einen Versuch mit einem Dialogsystem durch Twitter: Tay. Der Bot sollte lernen, wie junge Menschen im Netz reden und gab letztendlich rassistische und beleidigende Antworten von sich, sodass das Projekt eingestellt werden musste. Stellen wir uns die Frage, wie das Ganze aussehen könnte in entgegengesetzter Richtung.

Die Gefahr der ideologischen Selektierung

Nachdem Rassismus in der modernen Gesellschaft ja eine ewigwährende Gefahr ist, die nur mit maximalen Progressivismus bekämpft werden kann (und was man als solch einen erachtet), muss man durchaus den Gedanken aufwerfen, was denn Entwickler der Technik sowie ausgewählte und im Diskurs bevorzugte User davon abhalten sollte, ChatGPT und Co. mit ihrer Gedankenwelt zu füttern? Wenn es Microsofts Idee es ist, dass die Suchmaschine durch KI nicht mehr verschiedene Suchergebnisse ausspuckt, sondern sofort eine Antwort ausgibt, die für den User vermeintlich von Nutzen ist, gibt es dann eine Garantie, dass diese Antwort auf Basis eines offenen Diskurses inklusive Kontroverse basiert oder besteht doch die Gefahr, dass selektiv die Thesen aus einer Richtung ausgegeben werden? Wenn jemand zum Beispiel googelt: „Ist J.K Rowling transphob?“ Im aktuellen Stand der SEO-Technik kann der User durch die SERPs navigieren, verschiedene Seiten aufsuchen und unterschiedliche Standpunkte rezipieren. Was ist jedoch, wenn die künstliche Intelligenz sofort eine Antwort unter Berücksichtigung einer ideologischen Ausrichtung gibt? Wenn die Suchmaschine nicht mehr Hilfestellung ist, sondern ein Führer, der die Suchenden an die Hand nimmt und in eine Richtung führt?

J.K Rowling ist nur ein Beispiel. Denken wir zurück an die Hochzeit der Pandemie-Politik, zu der Influencer wie Mailab mit Vorschlägen daherkamen, dass es Zertifizierungen braucht für Wissenschaftlicher, um Qualitätsprädikate für Standpunkte zu verteilen. Es ist ein Leichtes, eine KI dann darauf zu konditionieren, einen vorbestimmten Konsens zu übernehmen und diesen für die Aufarbeitung seiner Antworten zu nutzen. So wie ich es sehe, ermöglicht es ChatGPT, den Weg der Postmoderne in die digitale Welt zu übertragen. Wie es schon Herbert Marcuse aus Foucaults Diskurstheorie abstrahierte: Bestimmte Meinungen müssen für einen vorgeblichen Fortschritt unterdrückt werden. In diesem Fall muss man diese Meinungen jedoch nicht mehr mit Gewalt unterdrücken. Man lässt die KI einfach nur nicht alle Meinungen anzeigen getreu dem Motto: Jeder darf etwas verfassen, aber nicht alle haben das Recht auf Verbreitung.

Die Eigenverantwortung schwindet

Eine der großen Errungenschaften des weltweiten Netzes war es doch gerade eben, dass Menschen auf globale Informationen zugreifen können – und zwar auf viele unterschiedliche Gedanken aller Weltanschauungen und gemäß des offenen Diskurses. Es widerspricht doch dieser Grundidee der weltweiten Vernetzung, wenn im Internet uns ein Bot nur mit Informationen versorgt, die wir auch innerhalb eines regionalen Umfeldes abgreifen können, uns aber dann keine Alternative bietet. Es ist doch der Reiz im Internet, viele unterschiedliche Quellen und Infos zu betrachten, diese eigenständig zu vergleichen und daraus Schlüsse für sich selbst zu ziehen – und das alles auf Basis von Gedankenvielfalt, die uns offen steht. Sollte ChatGPT derartig mit Suchmaschinen vernetzt werden, dass sie wirklich mit jedem Suchenden direkt bei der Suchanfrage auf der Suchmaschine in Kontakt treten, so sehe ich die große Gefahr einer weiteren geistigen Abstumpfung. Die User konsumieren nur noch, geben jede Eigenverantwortung bei der Hinterfragung von Quellen ab sowie bei der Bewertung von Content. Wenn KI als Hilfe dient, um Standardaufgaben schneller zu erledigen, dann spricht meiner Ansicht nach nichts gegen deren Einsatz. Wenn sie jedoch zum Vorwand wird, um den Kopf abzuschalten und Technokraten einen Grund für betreute Informationsversorgung gibt, dann sollten wir diese Entwicklung durchaus kritisch hinterfragen.