OpenAI hat es auf deine Orgasmen abgesehen. Und wir sollten uns Sorgen machen.
Ich dachte, das wäre ein Witz. Aber es ist ernst. Aber es ist offiziell. ChatGPT bekommt einen „Pervers-Modus”. CEO Sam Altman hat gestern bekannt gegeben, dass OpenAI ChatGPT um einen Erotik-Modus erweitern wird. Es klang wie Satire. War es aber nicht. Ab Dezember 2025 plant OpenAI, „nicht jugendfreie Inhalte” für verifizierte erwachsene Nutzer zuzulassen.
Von Musk oder Zuckerberg würde ich das erwarten, da es in ihren KI-Systemen bereits viel um Intimität geht. Aber nicht von dem stilvollen OpenAI. Doch Big Tech befindet sich offiziell in einem Krieg um die Vorherrschaft in der Welt der künstlichen Intelligenz. Und jeder Teil dieses Marktes ist profitabel.
Hier geht es um eine weitere persönliche Grenze.
Nachdem OpenAI bereits unseren Suchverlauf, unsere Einkaufsvorlieben, unsere Gedanken und unsere sozialen Netzwerke erfasst hat, nimmt das Unternehmen nun unsere intimsten Bereiche ins Visier. Altmans Aussage war ein Klassiker: „Wir wollen Erwachsene wie Erwachsene behandeln.” Und so überschreitet die KI einfach so eine weitere Grenze: vom Verfassen von Lebensläufen bis hin zum Flüstern „unartiger Wünsche” an ihre Nutzer. Doch während diese Updates eingeführt werden, hinkt die Gesetzgebung furchtbar hinterher.
Diese Funktion hat mich wirklich überrascht. Klar, das Angebot folgt der Nachfrage. Anscheinend leben wir in einer Welt, in der sich Menschen nach intimen Beziehungen zu einem Computer sehnen. Aber um ehrlich zu sein: Wir sollten uns alle einmal realistisch fragen, ob das wirklich in Ordnung ist. Wir vertrauen diesen kommerziellen Unternehmen so viele persönliche Daten an und sind gleichzeitig online exponiert.
Realitätscheck: Daten werden bereits versehentlich weitergegeben.
Es gab bereits schwerwiegende Datenlecks mit hochsensiblen persönlichen Informationen. Letzte Woche bestätigte Cybernews, dass mehr als 43 Millionen intime Nachrichten sowie über 600.000 Fotos und Videos aus den KI-Begleiter-Apps Chattee Chat und GiMe Chat versehentlich online veröffentlicht wurden. Und nichts davon war arbeitsplatztauglich.
Zu den durchgesickerten Nachrichten zählten vollständige Geständnisse, erotische Fantasien und sogar emotionale Zusammenbrüche, die digitalen Liebhabern anvertraut wurden.
Von der Verletzung waren schätzungsweise 400.000 Nutzer und ihre privaten Unterhaltungen betroffen. Explizite, romantische, herzzerreißend menschliche. Die durchgesickerten Nachrichten enthielten vollständige Geständnisse, erotische Fantasien und sogar emotionale Zusammenbrüche, die digitalen Liebhabern anvertraut wurden. Das sollte also Alarmglocken läuten lassen, oder? Denn durchgesickerte explizite Inhalte können leicht von Betrügern oder böswilligen Hackern genutzt werden, um Ihre Intimität für finanzielle Gewinne auszunutzen.
Ich weiß, dass die Sicherheitsinfrastruktur von OpenAI auf einem ganz anderen Niveau ist. Trotzdem hat CEO Sam Altman diesen Sommer gesagt, dass Gespräche mit ChatGPT keine rechtliche Vertraulichkeit genießen. Das heißt, intime Chat-Protokolle können vor Gericht als Beweismittel herangezogen werden.
Was passiert aber, wenn diese Verifizierungsdatensätze jemals gehackt werden oder mit Chat-Verläufen und Fantasien verknüpft werden?
Das würde jede Illusion von Privatsphäre zerstören. Nutzer müssen sich daher dringend bewusst sein, dass die Behandlung einer KI als digitaler Vertrauter oder sexuelles Ventil das Risiko der öffentlichen Offenlegung ihrer privatesten Wünsche birgt.
Wie werden sie Ihr Alter überprüfen?
Wovon reden wir hier genau? Am 14. Oktober hat OpenAI bestätigt, dass verifizierte Erwachsene bald Zugang zu nicht jugendfreien und erotischen Inhalten haben werden. Gleichzeitig entwickelt das Unternehmen Kindersicherungen, mit denen Erziehungsberechtigte Sitzungen einfrieren oder Funktionen blockieren können. Dabei können Eltern jedoch keine privaten Transkripte von Teenagern einsehen. Grundsätzlich lädt uns OpenAI also zu einer neuen Art von Intimität ein, behält aber die Kontrolle über alle Daten. Ich habe so viele Fragen dazu.
Um das legal zu gestalten, muss OpenAI das Alter der Nutzenden überprüfen. Aber wie? Das Hochladen von Ausweisdokumenten, Kreditkartenüberprüfungen oder die Nutzung von Gesichtserkennung bedeuten alle die Weitergabe hochsensibler Informationen. Was aber, wenn diese Verifizierungsdaten jemals gehackt werden oder mit Chat-Verläufen und Fantasien verknüpft werden?
„Mach mich zu einer Muschi.“
Stell dir zum Beispiel Folgendes vor: Du überprüfst dein Alter, ChatGPT bleibt angemeldet und dein Kind kommt vorbei und gibt ein paar unschuldige Wörter wie „Muschi im Sandkasten“ ein. Der Ausdruck ist so zweideutig, dass das Modell ihn falsch interpretiert und schon entsteht ein ganz anderes Bild von dieser „Muschi“.
Wer bemerkt das? Kann die KI erkennen, dass der Nutzer gewechselt hat? Und wenn der explizite Inhalt angezeigt wird – wer ist dann verantwortlich: du, OpenAI oder das Gesetz selbst?
Wenn nicht, gilt das als Gefährdung, Fahrlässigkeit oder Konstruktionsfehler? Nach den meisten Kinderschutzgesetzen kommt es nicht auf die Absicht, sondern auf den Zugang an. Doch diese Systeme können nicht erkennen, wer tatsächlich hinter der Tastatur sitzt, oder?
Wenn du deine Fantasien in eine KI einspeist, lernt das System deine Wünsche kennen. Das ist eine Goldgrube für Verhaltensdaten.
Das neue KI-Gesetz der EU versucht, die Dinge einfach zu halten. Wenn ein KI-System Menschen ernsthaft schaden könnte, gelten strengere Regeln. Wenn die Risiken gering erscheinen, gelten weniger strenge Beschränkungen. Auf dem Papier klingt das fair.
Aber hier liegt das Problem: KI verhält sich nicht wie eine normale Maschine. Es ist keine Kaffeemaschine oder kein Automotor, die bzw. den man ein paar Mal testen kann und dann genau weiß, wie sie bzw. er funktioniert. Diese Systeme lernen aus Millionen von Beispielen, verändern sich mit neuen Daten und können je nach Einsatzort und -weise unterschiedlich reagieren.
Was passiert also mit Erotika? Das sind die intimsten Daten überhaupt. Wenn du deine Fantasien in eine KI einspeist, lernt das System deine Wünsche kennen. Das ist eine Goldgrube für das Verhalten: perfekt für Marketing, Targeting und sogar subtile Verführung. Wer überprüft jedoch diese Millionen von GPT-Chats, um zu sehen, ob es Anzeichen für „emotionale Manipulation” gibt?
Rechtliche Grauzone
Das Gesetz verbietet KI-Systeme nicht aufgrund von Inhaltskategorien (wie erotische Inhalte). Wie sieht es also mit der Gesetzgebung aus? Nun, das EU-Gesetz über künstliche Intelligenz unterteilt Systeme in „Risikokategorien”. Doch wie werden Erotik-Bots geprüft?
Es lässt viel Spielraum für die Auslegung von „manipulativen und verletzlichen” Klauseln, wenn sie auf erotische Inhalte angewendet werden. Diese Klauseln beziehen sich nämlich auf Methoden und Schäden, nicht auf Inhalte. Inhaltskategorien (wie erotische Inhalte) bleiben somit in einer rechtlichen Grauzone, es sei denn, sie verwenden unzulässige Methoden oder Effekte.
Denk zum Beispiel an das Schild im Supermarkt, das du wahrscheinlich vergessen hast: „Sie werden gefilmt”. Es gibt es nur, weil sich mal jemand um deine Privatsphäre gekümmert hat.
Die Regulierung von Inhalten (Pornografiegesetz) ist jedoch oft national, sodass das Problem über Grenzen hinweg besteht: In Amsterdam ist Erotik legal, in Riad verboten und in Kalifornien nicht eindeutig geregelt. Wie soll eine globale KI all diese Gesetze gleichzeitig einhalten?
Ist das nicht die Illusion von Rechten? Du denkst, du bist geschützt, aber wir geben unser ganzes Leben an Computer weiter, ohne rechtlichen Schutz zu haben. Denk nur an das Schild im Supermarkt, das du wahrscheinlich vergessen hast: „Sie werden gefilmt.“ Es gibt es nur, weil sich irgendwann einmal jemand um deine Privatsphäre gekümmert hat.
Aber stell dir vor, dass es Tausende Videos von dir gibt, die in Archiven lagern. Dieser kleine Hinweis oder die Schaltfläche „Akzeptieren & Zustimmen“ auf einer Website ändern nichts daran, dass wir überall beobachtet werden. Du wirst gefilmt, und deine Daten werden jahrelang gespeichert und analysiert. Wie sieht es bei der Datenspeicherung durch KI aus?
Wie sind wir geschützt?
Die meisten KI-Gesetze, einschließlich des europäischen KI-Gesetzes, klingen vielleicht beruhigend: „Du hast das Recht zu wissen, wann du mit KI zu tun hast.“ Oder: „Du darfst nicht manipuliert werden.” Doch KI-Transparenz funktioniert ähnlich wie das kleine Schild im Supermarkt.
Forscher:innen bezeichnen dies als die Illusion einer rechtsbasierten Regulierung: Sprache über Rechte, die Vertrauen schaffen soll. Rechtliche Analysen des EU-KI-Gesetzes zeigen jedoch, dass es nicht nur auf Menschenrechten, sondern auch auf Verwaltungskontrolle und Risikomanagement basiert.
Schauen wir uns die Fakten an: Wer hat das Geld, das Wissen oder die Zeit, um beispielsweise die KI-Schulungsrichtlinien von Meta infrage zu stellen? Was passiert außerdem, wenn dein „Widerspruch“ von einem selbst nicht erklärbaren Algorithmus bearbeitet wird? Das Kernproblem ist: Rechte haben nur dann einen Wert, wenn sie durchgesetzt werden können.
Wem gehören deine Wünsche für die Zukunft?
Ein KI-Chatbot ist nicht nur ein Begleiter, sondern ein Spiegel, der sich erinnert. Und denk mal darüber nach: Wem gehört dieses Spiegelbild – dir oder der Infrastruktur dahinter? Wenn der Algorithmus anfängt, deine Bedürfnisse zu antizipieren und dich zu längeren, emotionaleren Gesprächen verleitet, hat Zustimmung dann noch dieselbe Bedeutung wie früher?
Bei der erotischen Expansion von OpenAI geht es nicht wirklich um Pornografie. Es geht um Macht. Wer kontrolliert diesen großen, profitablen Internetraum? Wer legt die Grenzen und Gesetze für KI fest? Denn es scheint mir, als würde Big Tech die ethischen Standards für seine eigene erotische KI festlegen. Und die Gesetze hinken hinterher …
Nun, hier hast du viel Stoff zum Nachdenken für diese Woche!
Und in der Zwischenzeit?
Viel Spaß beim Prompten!
