KI im Alltag: Verbraucherschutz hochhalten

Tabea Rößner, Bundestagsabgeordnete (Bündnis 90/Die Grünen) und Vorsitzende des Digitalausschusses

Ein Beitrag von Tabea Rößner, Bundestagsabgeordnete (Bündnis 90/Die Grünen) und Vorsitzende des Digitalausschusses

ChatGPT ist in aller Munde, und auch andere Sprachbots oder Grafik-Systeme wie Midjourney erfreuen sich großer Experimentierfreude. Die öffentliche Debatte rund um Künstliche Intelligenz hat ordentlich an Fahrt aufgenommen. Zurecht, denn neben der großen Faszinationskraft von unendlichen Anwendungsmöglichkeiten müssen wir den gesellschaftlichen Umgang damit erst noch austarieren. Von „Datenlecks“ oder „Halluzinationen“ bei ChatGPT bis zu KI-Kunst-Bildern, die – unerkannt – prämiert werden, Fragen des Urheberrechts und der Nachhaltigkeit der Systeme: Es gibt einiges zu tun.

Bei all den prominenten Beispielen dürfen wir den Einsatz von KI im Verbraucheralltag aber nicht aus dem Blick verlieren. Denn unser schon jetzt stark digitalisierter Alltag wird zunehmend immer stärker von KI und Algorithmen bestimmt. Auch hier ist das Manipulations- und Diskriminierungspotenzial überaus hoch. Wenn die Zahlungsfähigkeit von Verbraucher:innen durch KI bewertet wird, kann dies erhebliche Schäden bis zur Gefährdung der persönlichen Existenz bedeuten. Wir müssen daher sehr genau hinschauen, denn KI-Systeme haben großen Einfluss auf unser Konsumverhalten und auf Kaufentscheidungen.

KI-Systeme helfen, Prozesse zu beschleunigen oder zu verbessern. Unternehmen bestimmen mithilfe von KI passgenaue Angebote für Verbraucher:innen. Der Handel verspricht durch passgenaue Angebote und kundenorientierte Suchoptimierung ein attraktiveres und einfacheres Einkaufen, um zielgenau auf Bedürfnisse der Kund:innen einzugehen.

Andererseits können automatisierte Entscheidungen Verbraucher:innen - häufig intransparent - benachteiligen, wenn etwa einzelne Kund:innen aufgrund ihres Suchverlaufs oder durch ausgewertete Standort- und Gerätedaten einen individuell höheren Preis erhalten. Und wenn KI Kundenrezensionen algorithmenbasiert filtert, können diese zum Nachteil der Verbraucher:innen gewichtet und so irreführend sein. Dabei agieren KI-Systeme oft im Dunkeln, und es ist nicht nachvollziehbar, wie Entscheidungen getroffen werden.

Beim Einsatz von KI müssen daher grundlegende Rechte und Pflichten des Verbraucherschutzes eingehalten werden. Das betrifft insbesondere das Verbot von Diskriminierung und Irreführung von Kund:innen sowie Transparenz- und Informationspflichten, um Entscheidungen von KI überprüf- und nachvollziehbar zu machen. Zudem müssen Verbraucher:innen die Möglichkeit zur Beschwerde haben, Verstöße müssen verfolgt werden. Für die Einhaltung umfassender Qualitätsanforderungen an die Systeme und ihre Anwendung bedarf es einer schlagkräftigen und unabhängigen Aufsicht.

Als Grundlage muss ein einheitlicher Rechtsrahmen geschaffen werden, der Rechtssicherheit schafft und zukünftige technische Entwicklungen umfasst. Mit der aktuell auf EU-Ebene verhandelten KI-Verordnung, die KI-Systeme – sinnvollerweise – risikobasiert einteilt und reguliert sowie Transparenz- und Kennzeichnungspflichten einführt, sind wir dabei auf einem guten Weg. Es gibt aber noch Verbesserungsbedarf. Was im aktuellen Entwurf viel zu kurz kommt, sind starke Betroffenenrechte und deren konsequente Durchsetzung. Das umfasst insbesondere strenge Informationsrechte für Verbraucher:innen. Auf welcher Daten- und Eingabebasis KI entscheidet, muss einsehbar und vor allem lesbar sein. So sollen auch Behörden nachvollziehen können, ob die KI rechtskonform ist. Aber auch die Beschwerderechte sind bisher nicht ausreichend geregelt. Die Erweiterung der Verbandsklageliste würde Einspruch und Entschädigungsleistung vereinfachen. Um im Schadensfall ihre Rechte durchzusetzen, ist die Haftungsfrage für die Verbraucher:innen zentral. Wichtig ist dafür die ambitionierte Ausgestaltung der KI-Haftungs-Richtlinie, welche die KI-Verordnung ergänzen soll.

Es liegt an uns, die zukünftigen Entwicklungen von KI vertrauenswürdig und verbraucherorientiert zu gestalten. Verbraucherschutzaspekte und Wirtschaftsinteressen müssen in einen guten Ausgleich gebracht werden. Dafür muss in der KI-Regulierung aber noch nachgeschärft werden.

Auch das handelsjournal widmet sich in seiner Ausgabe 2/2023 dem Schwerpunkt künstliche Intelligenz.

Mehr Informationen zum Heft unter https://bit.ly/3OVizDi

 > Zur Übersicht über alle Blog-Artikel