Verbraucher und Medienkonsumenten können durch Künstliche Intelligenz unbemerkt beim Einkaufen beeinflusst und desinformiert werden – etwa bei Flugbuchungen. Der NRW-Justizminister fordert Regeln.
Nordrhein-Westfalens Justizminister Benjamin Limbach sieht Handlungsbedarf, um intransparente Preisgestaltungen und gezielte Fehlinformationen durch Künstliche Intelligenz (KI) einzudämmen. „Viele merken oft gar nicht, dass es von ihrem Online-Verhalten abhängt, welche Werbung sie sehen oder wie viel sie zahlen“, sagte der Grünen-Politiker der Deutschen Presse-Agentur in Düsseldorf. „Deshalb brauchen wir im Online-Geschäftsverkehr mehr Offenheit, klare Regeln und verständliche Hinweise für Verbraucherinnen und Verbraucher.“
Nordrhein-Westfalen werde die Problematik zur Beratung in der nächsten Justizministerkonferenz anmelden und eine Länderarbeitsgruppe einrichten, die offene Fragen aus Sicht der Rechtspolitik fachkundig beantworten und Regelungsvorschläge unterbreiten soll.
Hohes Interesse – hohe Preise
Einige Fluggesellschaften, Hotelbuchungsplattformen und Online-Shopping-Plattformen nutzten den „Vorteil“ einer variablen Preisgestaltung, erläuterte der Minister. Unter KI-basierter Auswertung verschiedenster Daten – etwa Standort, Uhrzeit, Endgerät, ausgelesene Cookies – würden Preise individuell auf den jeweiligen Verbraucher abgestimmt.
„Kunden ist das häufig nicht bewusst“, stellte Limbach fest. „Sie werden in der Regel nicht angemessen darüber informiert, dass sie möglicherweise unterschiedliche Preise sehen – je nachdem, wie oft sie die Seite besucht oder welche Suchanfragen sie eingegeben haben.“ So würden Kunden zugunsten der Gewinnmaximierung des Händlers in eine Preisfalle gelockt.
Deepfakes: getarnte Täuschung
Erhebliches Missbrauchspotenzial berge darüber hinaus ein Transparenzdefizit bei sogenannten Deepfakes, kritisierte Limbach. Dabei werden mittels KI realistisch wirkende, aber verfälschte Medieninhalte erzeugt und verbreitet.
Wenn ein KI-System im Rahmen einer persönlichen, nicht beruflichen Tätigkeit verwendet werde, könnten derzeit auf privater Ebene objektiv falsche, reißerische und ehrverletzende Deepfake-Inhalte erstellt werden, die gezielt zur viralen Verbreitung von Desinformation oder Hass und Hetze genutzt werden könnten, kritisierte der Minister.
„Deepfakes sollten daher in sozialen Medien einer Kennzeichnungspflicht unterliegen – ohne Ausnahme“, forderte Limbach. „Nur so schützen wir Vertrauen, Meinungsfreiheit und die demokratische Willensbildung vor gezielter Täuschung.“
Warum nicht jeder dieselbe Werbung bekommt
Offene rechtliche Fragen gebe es darüber hinaus bei KI-generierter personalisierter Werbung. Vielen Verbrauchern sei nicht bewusst, dass sie gezielt mit Werbung konfrontiert würden, die auf Basis KI-generierter Auswertungen ihres Nutzerverhaltens und zuvor getroffener Kaufentscheidungen individuell erstellt worden sei.
