KI kauft für Sie ein: Diese Risiken sollten Sie kennen

KI-gestützte Beratung per Chat ist beim Onlineshopping schon relativ häufig anzutreffen. Die Anbieter bauen ihre Agenten aber immer weiter aus, bis hin zum Recherchieren, Vergleichen und Bestellen - alles nach Vorgaben der Kunden, aber letztlich autonom.

Amazon ist beispielsweise mit Alexa for Shopping (vormals Rufus) auf dem Weg dorthin. Und Google hat gerade auf seiner Entwicklerkonferenz I/0 einen KI-Agenten angekündigt, der Produkte nicht nur plattformübergreifend in einem Einkaufskorb parken, sondern im Auftrag des Nutzers auch selbst bezahlen können soll.

Ist das alles überhaupt erlaubt?

Wenn KI-gesteuerte Softwareagenten aber eigenständig im Namen von Menschen oder Unternehmen handeln, Entscheidungen treffen
und sogar Käufe und Zahlungen abwickeln, wirft das eine Menge Fragen auf. Zum Beispiel: Ist das überhaupt erlaubt?

Auch wenn sich die ersten Pilotversuche zum vollständigen autonomen KI-Shoppen bis hin zur Bezahlung derzeit noch auf die USA beschränken: Rechtlich möglich sei sogenanntes Agentic Commerce in Deutschland wohl jetzt schon, trotz vieler noch offener und juristisch teils kniffliger Fragen rund um Haftung, Vertrags- und Verbraucherrecht oder Zahlungen, berichtet das IT-Fachmagazin „c’t“ (Heft 11/26).

Je mehr Rechte und Autonomie, desto problematischer

Fest stehe aber: Je mehr Rechte und Autonomie KI-Assistenten beim Einkaufen erhalten, desto problematischer werde die Nutzung. Deshalb forderten Kritiker, dass Entscheidungen immer beim Menschen verbleiben müssen.

Folgende 3 Gefahrenfelder identifizieren die „c’t“-Experten rund um KI-Shopping-Agenten:

1. Ungeklärte Rechtsfragen

Wer haftet, wenn die KI das falsche Produkt bestellt oder auf betrügerische Shops hereinfällt?

2. Manipulationsanfällige Technologie

Besonders problematisch sind die weitreichenden Berechtigungen, die Agenten benötigen, etwa den Zugriff auf E-Mails, Zahlungssysteme, Kalender oder Onlinespeicher. Sind die Berechtigungen zu weit gefasst, kann ein manipulierter Agent etwa durch ungewollte Einkäufe großen Schaden anrichten oder versteckten Kaufanweisungen auf präparierten Webseiten, etwa von Fake-Shops, folgen.

3. Datenschutzrechtliche Probleme

Um sinnvoll arbeiten zu können, benötigen KI-Agenten umfangreiche Informationen über Präferenzen, Kontext und Kaufhistorie. Damit lassen sich aber DSGVO-Prinzipien wie Datensparsamkeit, Transparenz und Zweckbindung schwer vereinbaren. Außerdem könnten Händler aus den Daten psychologische Nutzerprofile erstellen und diese zur Preisdiskriminierung nutzen.

KI kritisch beäugen und diese Grundsätze einhalten

Verbraucher sollten bei KI-Shopping-Assistenten kritisch bleiben und folgende Grundsätze befolgen, rät die „c’t“:

• Käufe stets manuell bestätigen.
• Niemals Vollzugriff auf Bankkonten gewähren.
• Ausgabenlimits festlegen.