Verbraucherschützer Pop glaubt, dass sich die Gesellschaft dank KI „radikal“ verändern wird. Im alltäglichen Konsum bestehe beispielsweise die „Gefahr von Manipulation, Betrug oder algorithmischer Diskriminierung“, sagte sie.

Was genau sind die Risiken – ein Überblick:

Bilderkennungssysteme mit künstlicher Intelligenz

KI-gesteuerte Gesichts- und Emotionserkennung kann beispielsweise in der Finanz- und Versicherungsbranche problematisch sein. „Anhand solcher Muster kann man erkennen, ob ich lüge, etwa wenn ich den Schaden an meinem Auto beschreiben muss“, erklärt Verbraucherschützer Pop. Das Problem sei, dass Sentiment-Analyse-Apps „oft unausgereift“ seien. „Die Daten werden falsch interpretiert und dann werden Annahmen über die Person getroffen, die ungenau sind und zu falschen Ergebnissen führen können.“

>> Lesen Sie auch: Warum KI-Unternehmen strengere Gesetze fordern und die Richtlinie nicht in Kraft ist

Produktbewertungen für KI-Roboter

Verbraucher erwarten, dass Online-Produktbewertungen nützliche Informationen für ihre Kaufentscheidung liefern. Allerdings können diese Bewertungen auch gekauft oder gefälscht werden. Pop spricht von „systematischen Risiken“ für Verbraucher, wenn KI-Bots in größerem Umfang eingesetzt würden.

Dann würden die rechtlichen Fragen noch dringlicher, sagte der Verbraucherschützer. „Wer ist wirklich verantwortlich für gefälschte oder gar falsche Produktbewertungen, die etwas suggerieren, was nicht der Wahrheit entspricht?“ Solche Fragen sollten in den Vorschriften klargestellt werden.

KI-gestützte Online-Preisgestaltung

Die Verärgerung der Verbraucher beginnt, wenn sich die Preise für dasselbe Produkt erheblich unterscheiden. Dies wird auch als „dynamische Preisgestaltung“ bezeichnet. Ausschlaggebend hierfür ist die KI-basierte Analyse von Faktoren wie Nachfrage, Angebot oder Wettbewerb. „Es kann manipulativ oder sogar betrügerisch sein“, sagt Verbraucherschützer Pope.

Laut Pop sollte klar definiert sein, was erlaubt ist und was nicht, damit der Verbraucher nicht außen vor bleibt. „Das Beste wäre, bei der Preisgestaltung so transparent wie möglich zu sein, damit die Nutzer verstehen, wie sich KI auf die Preisgestaltung auswirkt“, sagte sie.

Preisvergleicher

Auch hier kommen Algorithmen zum Einsatz. Verbraucherschützer haben bereits rechtliche Schritte gegen Vergleichsportale eingeleitet, wenn ihrer Meinung nach kein objektiver Preisvergleich stattgefunden hat. Es sei notwendig, sich auf die Zuverlässigkeit der Portale verlassen zu können, betonte Pops. Deshalb steht auch hier Transparenz auf der Agenda.

„Es muss verstanden werden, wie diese Plattformen ihre Empfehlungen formulieren und welche Auswirkungen beispielsweise die Provision von Produktanbietern auf die sichtbare Bewertung hat“, sagte der VZBV-Chef.

Personalisierte Werbung

Solche Werbung, die bereits heute mithilfe von Cookies erstellt werden kann, wird in Zukunft mit KI noch zielgerichteter ausgespielt. „Dadurch erhöht sich das Manipulationsrisiko“, sagt Pope beispielsweise, wenn das System anhand des Suchverlaufs feststellt, dass eine Person in bestimmten Situationen möglicherweise besonders gefährdet ist.

Dies kann beispielsweise passieren, wenn eine Person Medikamente gegen Gedächtnisprobleme einnimmt. Dann könnte sie plötzlich Angebote für ähnliche Gesundheitsprobleme bekommen, erklärte Pop.

Wie können Verbraucher vor Risiken im Zusammenhang mit künstlicher Intelligenz geschützt werden?

Gegen Betreiber von KI-Systemen seien „starke Verbraucherrechte“ nötig, sagte Pope. „Es muss Rechte auf Berichtigung und Löschung geben, damit Betroffene sich gegen Falschmeldungen oder Manipulationen durch KI wehren können.“

Das Thema KI solle „auch in den Anhang der europäischen Richtlinie zur kollektiven Rechtsdurchsetzung aufgenommen werden“, forderte der Verbraucherschützer. „Wir haben dann die Möglichkeit, im Namen der betroffenen Verbraucher rechtliche Schritte gegen bestimmte Anbieter einzuleiten und Schadensersatz zu fordern.“

>> Lesen Sie auch: Wenn sich herausstellt, dass KI ein Betrüger ist, müssen Sie diese Tipps kennen

Rafael Laguna de la Vera, Leiter der Agentur Leap Innovations (SprinD), hat sich gegen Vorschriften ausgesprochen, die zu einem Verbot der Technologie führen. „Es macht uns dümmer und damit anfälliger“, sagte er dem Handelsblatt. Er schlug vor, dass KI-Ergebnisse anhand ihrer Ergebnisse beurteilt werden können und ob sie unseren Werten und Gesetzen entsprechen.

Pop plädierte in diesem Zusammenhang für die Einrichtung einer KI-Kontrollbehörde. „Wir müssen eine Debatte darüber führen, wie die Regeln, Risiken und Herausforderungen der KI zu bewerten sind und welche Schlussfolgerungen daraus zu ziehen sind“, sagte sie. „Eine europäische Stelle könnte zusätzlich zur nationalen Aufsicht sinnvoll sein, um die Einhaltung zu überwachen.“ Dies muss schnell entschieden werden. Denn es ist auch wichtig für die öffentliche Akzeptanz dieser neuen Technologie.

Mehr: Angst vor den Deutschen vor künstlicher Intelligenz