Verbraucherschützer haben vor dem massenhaften Aufkommen mit künstlicher Intelligenz hergestellter gefälschter Rezensionen im Internet gewarnt. Die US-Verbraucherschutzbehörde FTC warne bereits vor der betrügerischen Nutzung von generativer KI, „um gefälschte Profile und gefälschte Kundenrezensionen zu erstellen“, sagte Michaela Schröder vom Verbraucherzentrale Bundesverband (vzbv) dem Redaktionsnetzwerk Deutschland (RND, Donnerstag). „Das sollten wir ernst nehmen.“

Das Problem solcher Rezension sei, dass sie wohl kaum von von echten Menschen verfassten Bewertungen zu unterscheiden seien. „Viele Plattformbetreiber nutzen Software, um in Kundenrezensionen nach auffälligen Sprachmustern zu suchen, die auf eine Fälschung hinweisen“, sagte Schröder. Bei ChatGPT und anderen KI-Programme funktioniere diese Mustererkennung möglicherweise nicht.

Das KI-Gesetz der Europäischen Union, auf das sich das EU-Parlament am Mittwoch verständigte, sehe zwar eine Kennzeichnungspflicht für mit KI hergestellte Inhalte vor. Betrüger werden sich aber wohl kaum daran halten, sagte Schröder. „Informationspflichten gegenüber Verbraucherinnen und Verbrauchern bieten daher nur einen eingeschränkten Schutz.“