GPT-4 und Co.: Google macht auch KI-generierte Bücher schnell auffindbar

Mit Large Language Models lassen sich nicht nur Dokumente umschreiben oder um Textstellen erweitern. KI-Systeme wie OpenAI GPT-4, Google Gemini oder Meta LlaMA können ganze Geschichten oder Bücher schreiben. Entsprechend sind automatisch generierte Bücher bereits auf Verkaufsplattformen wie Amazon zu finden. Auch wissenschaftliche Arbeiten und Artikel sind teilweise ausschließlich KI-generiert und – ein großes Problem für viele Branchen.

Der Blog 404 Media hat auch herausgefunden, dass der Google-Crawler solche Bücher auch indiziert. Diese sind also – wie von Menschen geschriebene Bücher auch – im Internet und speziell im großen Onlinebuchhandel Google Play Bücher leicht zu finden. 404 Media gibt mehrere solcher Beispiele, die wohl teilweise relativ einfach als KI-generiert erkennbar sind.

Von ChatGPT geschriebene Bücher können über den Suchstring "As of my last knowledge update" schnell gefunden werden. Das LLM integriert diese Aussage, wenn es Leser über dessen aktuellen Wissensstand aufklären will. OpenAI aktualisiert die KI nämlich regelmäßig mit neuen Informationen aus dem Internet, damit sie auch bei aktuellen Themen möglichst genau sein kann.

Auf Kundenfang mit KI-Müll

So wurde auch das Buch "Bears, Bulls, and Wolves: Stock Trading for the Twenty-Year-Old" von ChatGPT geschrieben. Der Titel suggeriert bereits: Hier sollen junge Käufergruppen angesprochen werden, die für gewöhnlich wenig bis keine Erfahrung mit dem Thema haben und auf der Suche nach Lektüre sind.

Die KI informiert in einem Abschnitt des Buches deutlich über ihren Kenntnisstand mit dem englischsprachigen Satz: "As of my last knowledge update in January 2022, Facebook had evolved into Meta Platforms." Das Buch selbst scheint zudem nur oberflächliche Informationen zu enthalten, die so auch auf Wikipedia und auf anderen Onlineportalen gefunden werden können.

"Unsere automatisierten Systeme zielen darauf ab, hochqualitative Bücher für eine gegebene Suche hervorzuheben", sagt Google dem Blog 404 Media. "Die besagten Bücher sind für eine ungewöhnliche und spezifische Suchanfrage erschienen." Das Unternehmen scheint aktuell noch keine Sperren für KI-generierte Bücher verbaut zu haben. "Wir werden weiterhin unsere Herangehensweise evaluieren, während sich die Welt der Bücherpublikationen stets verändert", sagt Google.

Speziell für die Büchersuchmaschine Google Ngram Viewer, die im akademischen Kontext gern als Quellensuche genutzt wird, könnte das Folgen haben. "Der Viewer ist bereits ein ziemlich rauschendes Signal für Dinge, die Linguisten und Sozialforscher interessieren. Wahrscheinlich wird er in ein paar Jahren komplett unbenutzbar sein", sagt Alex Hanna, Forschungsleiter am Distributed AI Research Institute.