Unser Förderpartner AlgorithmWatch ist mit dem Bundespreis Verbraucherschutz 2024 ausgezeichnet worden. Im Interview erklärt Matthias Spielkamp, Geschäftsführer der NGO, wo künstliche Intelligenz Menschen im Alltag benachteiligen kann - und weshalb die Marktmacht der großen Tech-Firmen gefährlich für die Demokratie werden kann.

Herr Spielkamp, Algorithmen schlagen vor, welchen Film wir als Nächstes anschauen könnten und welches der kürzeste Weg zur U-Bahn ist. Das finden viele Menschen vor allem bequem. Vor kurzem ist AlgorithmWatch mit dem Verbraucherschutzpreis ausgezeichnet worden. An welcher Stelle kann künstliche Intelligenz denn ein Problem für Verbraucher:innen werden?

Matthias Spielkamp: Der Einsatz von Algorithmen und KI in unserem Alltag kann für Verbraucher:innen zu echten Nachteilen führen. Jemand kann zum Beispiel mehr Zinsen für einen Kredit bezahlen, weil das automatisierte Berechnungssystem bei bestimmten Postleitzahl-Gebieten einen höheren Zinssatz veranschlagt. Manche Unternehmen versuchen, Kaufentscheidungen mithilfe von manipulativen Empfehlungsalgorithmen zu beeinflussen, das ist als »Deep Patterns« bekannt, also »dunkle Muster«, die man nicht sofort erkennt - wenn etwa gezeigt wird, dass »nur noch 1 Platz zu diesem Preis übrig ist«. Social-Media-Plattformen verbreiten Inhalte von Frauen eher, wenn sie mehr Haut zeigen. Die Grenze von Optimierung zu Diskriminierung ist schnell überschritten.

Weshalb sollte uns das als Gesellschaft Sorgen machen – und was lässt sich konkret dagegen tun?

Matthias Spielkamp: Die Geschäftsmodelle großer Tech-Unternehmen basieren darauf, möglichst viele Daten über Verbraucher:innen zu sammeln, etwa unsere Likes, wo wir leben oder mit wem wir häufig reden. Diese Überwachung läuft im Hintergrund, genauso wie die algorithmischen Entscheidungssysteme. Für viele Menschen ist das Thema daher sehr abstrakt - obwohl es sie direkt betrifft. Auch offline nimmt Überwachung zu. Sicherheitsbehörden setzen zunehmend biometrische Video-Analyse im öffentlichen Raum ein. Wir brauchen mehr gesellschaftliche Debatten über diese Rolle von Algorithmen und eine effektive Aufsicht, die Transparenz und Schutz vor Diskriminierung sicherstellt. Und je besser die Menschen Bescheid wissen, desto eher können wir Druck auf Unternehmen und Politik ausüben, um Veränderungen herbeizuführen.

Viele Menschen sorgen sich darum, dass künstliche Intelligenz Wahlentscheidungen beeinflusst – und damit unsere Demokratie. Wozu raten Sie mit Blick auf kommende Wahlen wie die Bundestagswahl 2025?

Matthias Spielkamp: Dass KI-generierte Bilder oder Videos so überzeugend sind, dass sie viele Wähler:innen umstimmen, ist eher unwahrscheinlich. Wer online Lügen verbreiten will, kann das auch ohne KI tun. Statt auf den Hype um einzelne Deepfake-Skandale aufzuspringen, sollten wir uns anschauen, wie die Tech-Industrie als Ganzes Meinungsbildung beeinflusst: Nur Tech-Giganten wie Microsoft, Google und Meta können es sich überhaupt leisten, KI-Modelle auf den Markt zu bringen. Diese gleichen Unternehmen besitzen die Social-Media-Plattformen und Suchmaschinen, auf die wir angewiesen sind, um an Informationen zu kommen und politische Debatten zu verfolgen. Zurzeit beobachten wir, wie Tech-Unternehmen KI-Features in immer mehr Produkte einbauen, obwohl sie immer noch nicht sicherstellen können, dass sie keine falschen Informationen über die Wahlen verbreiten. Diese Marktkonzentration ist gefährlich für die Demokratie und muss unterbunden werden.