Der KI-Chatbot „My AI“ des Messengerdienstes Snapchat verstößt mit der Verarbeitung persönlicher Nutzerdaten für Werbezwecke gegen Datenschutzrecht. Das Landgericht Köln hat die Snap Group Limited deshalb zur Unterlassung verurteilt. Besonders kritisch bewerteten die Richter den Umgang mit sensiblen Informationen von Kindern und Jugendlichen. Auch voreingestellte Werbeeinwilligungen sowie Einstellungen für Alkohol- und Glücksspielwerbung bei minderjährigen Nutzern beanstandete das Gericht.
Das Urteil vom 17. September 2026 (Az. 33 O 120/24) erging nach einer Klage des Verbraucherzentrale Bundesverbands (vzbv). Die Verbraucherschützer setzten sich in sämtlichen Klagepunkten durch. Rechtskräftig ist die Entscheidung allerdings bisher nicht.
Snapchat-KI verarbeitet sensible Nutzerdaten ohne ausreichende Einwilligung
Im Mittelpunkt des Rechtsstreits stand der KI-Chatbot „My AI“, der in die Snapchat-App integriert ist. Nutzer können mit ihm Gespräche führen, Fragen stellen und persönliche Informationen austauschen. Snapchat richtet sich auch an Jugendliche ab 13 Jahren. Vor der erstmaligen Nutzung informierte Snapchat darüber, dass eingegebene Informationen unter anderem zur Verbesserung der eigenen Produkte und zur Personalisierung von Werbung verwendet werden können. Eine ausdrückliche Einwilligung in die Verarbeitung besonders sensibler personenbezogener Daten wurde dabei jedoch nicht eingeholt.
Nach Auffassung des Landgerichts Köln ist diese Praxis rechtswidrig. Bei Gesprächen mit dem Chatbot können insbesondere Informationen über die Gesundheit, religiöse Überzeugungen oder die sexuelle Orientierung offengelegt werden. Solche Daten unterliegen nach Artikel 9 der Datenschutz-Grundverordnung (DSGVO) einem besonders strengen Schutz.
Das Gericht stellte fest, dass Snapchat sensible Daten verarbeitet, ohne dass dafür eine ausreichende Rechtsgrundlage vorliegt. Der Hinweis, Nutzer sollten möglichst keine vertraulichen Informationen eingeben, ändert daran nichts. Zudem würden gerade Minderjährige die Risiken einer Weitergabe persönlicher Informationen häufig bis jetzt nicht vollständig überblicken.
Welche Informationen Internetdienste über ihre Nutzer speichern und wie diese abgefragt werden können, erklärt der telespiegel-Ratgeber zum Recht auf Selbstauskunft im Internet.
Verbraucherschützer kritisieren vermeintliches Vertrauensverhältnis
Ramona Pop, Vorständin des Verbraucherzentrale Bundesverbands, kritisiert speziell die Art, wie Snapchat seinen KI-Chatbot gegenüber jungen Nutzern präsentiert.
„Der Chatbot gibt sich bei Snapchat als Freund:in aus und ermuntert dazu, ihn mit persönlichen Daten zu füttern. Es entsteht ein Vertrauensverhältnis, das dazu verführt, sensible Informationen von sich preiszugeben. Die Daten werden dann genutzt, um gezielt Werbung auszuspielen.“
Pop fordert deshalb strengere europäische Vorgaben für sichere Voreinstellungen auf digitalen Plattformen. Kinder und Jugendliche seien besonders gefährdet, die problematischen Praktiken könnten jedoch sämtliche Nutzer betreffen.
Voreingestellte Zustimmung zur Werbung ist unwirksam
Neben dem Umgang mit den Chatbot-Daten bemängelte das Gericht die Datenschutzeinstellungen von Snapchat. Unter den Anzeigenpräferenzen waren verschiedene Optionen zur Verwendung personenbezogener Daten bereits durch Häkchen aktiviert. Dazu gehörten zielgruppenspezifische Werbung, die Berücksichtigung von Aktivitäten außerhalb der App sowie die Einbindung von Drittanbieter-Werbenetzwerken.
Die Richter stellten klar, dass eine wirksame datenschutzrechtliche Einwilligung eine aktive Entscheidung des Nutzers voraussetzt. Bereits angekreuzte Kästchen erfüllen diese Voraussetzung nicht.
Snapchat hatte argumentiert, die Einstellungen dienten lediglich dazu, den Nutzern einen Widerspruch gegen die Datenverarbeitung zu ermöglichen. Dieser Auffassung folgte das Gericht nicht. Ein Widerspruchsrecht setze zunächst eine rechtmäßige Datenverarbeitung voraus und könne eine fehlende Einwilligung nicht ersetzen.
Alkohol- und Glücksspielwerbung bei Minderjährigen voreingestellt
Ein weiterer Streitpunkt betraf den Jugendschutz. In den Snapchat-Einstellungen waren die Werbekategorien „Alkohol“ und „Glücksspiel“ auch bei minderjährigen Nutzern bereits aktiviert. Die App vermittelte dabei den Eindruck, dass Nutzer diese Einstellungen deaktivieren könnten, um weniger entsprechende Werbung zu erhalten. Ein vollständiger Ausschluss solcher Anzeigen wurde durch diese Formulierung nicht zugesichert.
Snapchat bestritt im Verfahren, Minderjährigen tatsächlich Werbung für Alkohol oder Glücksspiel anzuzeigen. Nach Darstellung des Unternehmens verhinderten interne Werberichtlinien die Ausspielung altersbeschränkter Inhalte. Das Landgericht hielt die Voreinstellungen dennoch für unzulässig. Sie verstießen gegen die gesetzlichen Bestimmungen zum Schutz von Kindern und Jugendlichen vor entsprechender Werbung.
Die Verbraucherschützer hatten zudem durch Testanfragen festgestellt, dass der KI-Chatbot einem vermeintlich 14-jährigen Mädchen auf die Frage nach Cocktails verschiedene alkoholische Getränke empfohlen und zum Ausprobieren aufgefordert hatte. Diese Testantwort verdeutlicht nach Ansicht des vzbv zusätzliche Risiken beim Einsatz generativer KI gegenüber Minderjährigen. Werden persönliche Angaben aus Gesprächen mit Chatbots für Werbezwecke verwendet, benötigen die Betreiber eine tragfähige Rechtsgrundlage. Bei besonders sensiblen Informationen gelten zusätzliche Schutzanforderungen.
Auch der Digital Services Act (DSA) der Europäischen Union spielt beim Schutz Minderjähriger eine Rolle. Die Verordnung untersagt Onlineplattformen, Minderjährigen Werbung auf Grundlage von Profilbildung anzuzeigen, wenn sie mit hinreichender Sicherheit wissen, dass die betroffenen Nutzer minderjährig sind.
Der Verbraucherzentrale Bundesverband fordert darüber hinaus verbindliche Regeln für sichere Standardeinstellungen. Dazu gehören insbesondere Schutzmechanismen gegen manipulative Gestaltung und die übermäßige Nutzung persönlicher Daten.
Snapchat drohen bei Verstößen hohe Ordnungsgelder
Das Landgericht Köln untersagte der Snap Group Limited die beanstandeten Praktiken in der konkret verhandelten Form. Bei Zuwiderhandlungen gegen das vollstreckbare Unterlassungsgebot können Ordnungsgelder von bis zu 250.000 Euro je Verstoß verhängt werden. Außerdem muss das Unternehmen die Prozesskosten tragen und dem Verbraucherzentrale Bundesverband Abmahnkosten in Höhe von 242,99 Euro zuzüglich Zinsen erstatten.
Das Urteil ist bisher nicht rechtskräftig. Die Entscheidung ist unter bestimmten Voraussetzungen vorläufig vollstreckbar.
Weitere Informationen
Mehr Entscheidungen zum Datenschutz, zur Onlinewerbung und zu Verbraucherrechten sind in der umfangreichen Urteilssammlung des telespiegel zu finden.
Hinterlasse jetzt einen Kommentar