KI-Unternehmen lesen deine privaten Chats – Was du dagegen tun kannst

Es ist nicht schwer zu erkennen, warum KI-Chatbots so anziehend wirken. Sie reagieren prompt, und sie haben Zugriff auf Informationen, die Menschen in deinem Umfeld vielleicht nicht besitzen. Ich habe mit allen in diesem Artikel erwähnten KI-Chatbots gesprochen und war überrascht, wie viele von ihnen Gespräche offen gestalten und mich dazu einladen, sie öfter zu nutzen. Das Gefühl ist sofort intim — manchmal geradezu beunruhigend intim. Und das hat Folgen.

In einer jüngsten Umfrage von DuckDuckGo unter fast 2.000 Amerikanern gaben 32% der Befragten an, einem KI-Chatbot etwas erzählt zu haben, das sie den engsten Bezugspersonen gegenüber verschwiegen hatten. Laut OpenAI fragen wöchentlich über 230 Millionen Menschen gesundheitliche Fragen an ChatGPT.

Zu den meistgenutzten Chatbots gehören Claude von Anthropic, Gemini von Google und ChatGPT von OpenAI. Sie regen entweder implizit oder explizit dazu an, persönliche Informationen zu teilen, damit sie deine Anweisungen umsetzen können. Wenn du KI zum Planen einer Reise nutzt, ist sie umso nützlicher, je genauer du angibst, wie viele Personen reisen, ob Kinder dabei sind, welche Flughäfen für dich günstig liegen und so weiter.

(Hinweis: Die New York Times hat OpenAI, den Eigentümer von ChatGPT, und Microsoft wegen Urheberrechtsverletzungen an Nachrichteninhalten im Zusammenhang mit KI-Systemen verklagt. Die beiden Unternehmen haben diese Vorwürfe bestritten.)

Gleichzeitig enthalten alle drei großen KI-Firmen Formulierungen in ihrer Dokumentation, die davon abraten, persönliche Informationen zu teilen. Googles Formulierung ist dabei am deutlichsten: „Bitte geben Sie keine vertraulichen Informationen ein, die Sie nicht möchten, dass ein Prüfer sieht oder die Google nutzen könnte, um unsere Dienste zu verbessern, einschließlich Technologien des maschinellen Lernens.“

Im Allgemeinen gilt: Wenn du einen Chatbot von Anthropic, Google oder OpenAI nutzt, kann das Unternehmen sehen, was du sagst und wie der Bot darauf reagiert. Zudem sammeln Unternehmen eine Vielzahl von Informationen über dein Gerät, die dich identifizieren könnten; das verschafft ihnen tiefe Einblicke in dich und deine Gewohnheiten, die sie auf unterschiedliche Weise nutzen können. Meta, das gerade seinen Muse-Agenten eingeführt hat, behauptet, der Bot arbeite mit „einem sicheren Computer“, der sicher Zugriff auf deine privatesten Daten habe — deinen Kalender, dein E-Mail-Postfach, Passwörter und Ähnliches. Doch auch Meta kann sehen, was du Muse mitteilst und wie Muse reagiert.

Menschen könnten deine Chats lesen. Nur weil du mit einem Chatbot sprichst, bedeutet das nicht, dass dein Gespräch bei einer Maschine bleibt. OpenAI und Anthropic setzen möglicherweise menschliche Prüfer ein, um die Antworten ihrer Assistenten zu bewerten, was auch größere Teile des Gesprächs umfassen kann. Google nutzt ebenfalls menschliche Prüfer. In der Regel werden in solchen Chats identifizierende Informationen entfernt, doch absolut anonym sind sie womöglich nicht. Meta gibt an, dass Menschen deine Interaktionen mit seinen KI-Produkten einsehen können.

Unternehmen können deine Informationen für Werbung verwenden. Einige KI-Firmen, etwa Anthropic, betreiben kein Werbegeschäft. Andere, wie OpenAI, schon. OpenAI erlaubt dir zwar, die Werbung anzupassen zu deaktivieren, doch das limitiert lediglich die Informationen, die für die Zielwerbung im aktuellen Chat genutzt werden. Um Werbung in ChatGPT vollständig zu deaktivieren, musst du einen kostenpflichtigen werbefreien Tarif wählen oder einen kostenfreien Tarif mit strengeren Nutzungsbeschränkungen verwenden.

Aufgrund der weiten Ausrichtung von Googles Geschäftstätigkeit ist nicht immer sofort klar, welche Interaktionen mit den Produkten des Unternehmens zur Werbung herangezogen werden. Beispielsweise werden Gemini-Chats nicht für Werbung genutzt, doch wenn du Gemini verwendest, um mit Google Wallet einen Kauf abzuschließen, könnten diese Daten für Werbezwecke genutzt werden.

Und auch wenn Werbung in KI-Chats noch in den Anfängen steckt, warnt Eric Null, Direktor des Privacy- und Data-Programms am Center for Democracy and Technology, vor möglichen Gefahren. Er schilderte ein hypothetisches Szenario, in dem Unternehmen KI dazu nutzen könnten, Rückschlüsse nicht nur auf Vorlieben, sondern auch auf den aktuellen Gemütszustand von Menschen zu ziehen.

Unternehmen trainieren ihre KI-Modelle mit deinen Daten. Die großen Sprachmodelle, die KI-Chatbots antreiben, werden auf riesigen Datenmengen aus unterschiedlichen Quellen aufgebaut und feinabgestimmt, wobei oft auch deine Gespräche als Trainingsmaterial dienen.

„Du fütterst die Maschine nur“, sagte Chester Wisniewski, Sicherheitsexperte des digitalen Sicherheitsunternehmens Sophos. „Alles, was du ihr sagst, wird auch dazu genutzt, sie zu trainieren.“

Null erklärte, dass es nur wenige gesetzliche Vorgaben gebe, die festlegen, wie ein Unternehmen Daten verwendet: „In ihrer Datenschutzerklärung können sie einfach festhalten, ‚Wir sammeln Daten zum Zweck der Schulung unserer KI-Systeme.‘– und Verbraucher lesen solche Klauseln bekanntermaßen selten.“

„Man braucht diese Formulierung in der Datenschutzerklärung nur, um die Massensammlung jeglicher Daten zu rechtfertigen“, sagte Null.

KI-Unternehmen können deine Chats an Strafverfolgungsbehörden weitergeben. Jedes Unternehmen ist verpflichtet, auf rechtliche Anfragen der Strafverfolgung zu reagieren, und KI-Unternehmen bilden da keine Ausnahme. Tatsächlich haben KI-Chatprotokolle in einigen Fällen bereits eine Rolle gespielt.

In einem Fall wurden die ChatGPT-Gespräche einer Person, der vorgeworfen wird, den Palisades-Waldbrand verursacht zu haben, als Beweismittel gegen ihn verwendet. In einem anderen Fall wurde OpenAI verklagt, weil das Unternehmen nicht proaktiv mit den Strafverfolgungsbehörden kooperiert habe, als eine Person zuvor störende ChatGPT-Interaktionen zeigte, bevor sie eine Schulleitung verursachten Gewalttaten beging.

Null sagte, dass Menschen an bestimmte Informationen gewöhnt seien — etwa medizinische Vorgeschichte, die sie mit einem Arzt teilen, oder Rechtsberatung von einem Anwalt — und davon ausgingen, dass solche Daten vor der Strafverfolgung geschützt seien. „Aber wenn du dieselben Informationen deinem Chatbot gibst und die Behörden klopfen an, gibt es kaum etwas, das das Unternehmen daran hindern würde, diese Informationen weiterzugeben“, fügte er hinzu.

Gesundheitsdaten sind nur wenig geschützt. Manche Menschen nutzen KI-Chatbots, um medizinische Ratschläge zu erhalten, bevor sie sich in Behandlung begeben, doch diese Gespräche sind nicht so stark geschützt, wie man vermuten könnte.

Anthropic erklärt, dass es möglicherweise Gesundheitsinformationen an Strafverfolgungsbehörden weitergeben und aggregierte Gesundheitsdaten nutzen könnte, um seine Produkte zu entwickeln. OpenAI bietet ein spezielles Tool namens ChatGPT Health an, das sich mit Gesprächen über medizinische Informationen befasst; das Unternehmen sagt, es werde diese Daten nicht zum Training von Modellen verwenden, könne sie aber nutzen, um die Sicherheit seiner Modelle zu verbessern. OpenAI verwendet Gesundheitsdaten nicht für Werbung, kann jedoch Werbung für gesundheitsbezogene Produkte anzeigen und den Kontext deiner Chats berücksichtigen, um zu entscheiden, welche Anzeigen dir gezeigt werden.

Die Offenlegung von Gesundheitsdaten könnte unerwartete Folgen haben. Wisniewski gab das hypothetische Beispiel, dass jemand die KI um Rat bei der Beschaffung einer Abtreibung bittet, während er sich in einem US-Bundesstaat befindet, in dem solche Eingriffe illegal sind, was Gegenstand einer Strafverfolgungsuntersuchung werden könnte.

Sebastian Krämer

Sebastian Krämer

Ich bin Verbraucherjournalist mit Fokus auf Haushalt, Technik und nachhaltigen Konsum. Bei News und Tipps für Verbraucher teste ich Produkte und schreibe praxisnahe Ratgeber. Ehrlichkeit und Alltagstauglichkeit stehen für mich an erster Stelle.