Illustration: Frau am Computer, eine Aktion wird abgelehnt aufgrund von Algorithmen

Quelle: DMKZWO

Starker Schutz vor Benachteiligungen durch Algorithmen

Künstliche Intelligenz und algorithmische Systeme müssen transparent und durch unabhängige Kontrollen überprüfbar sein, um Verbraucher vor Fehlentscheidungen zu schützen. Außerdem muss ein gemeinsamer europäischer Rechtsrahmen für diese Technologie geschaffen werden.

52 Prozent der Verbraucherinnen und Verbraucher gehen davon aus, dass Firmen künstliche Intelligenz einsetzen, um Kaufentscheidungen zu beeinflussen.*

*Quelle: Repräsentative Umfrage von BEUC in neun EU-Staaten, Befragungszeitraum: zwischen November und Dezember 2019, https://www.vzbv.de/pressemitteilung/ki-jeder-zweite-befuerchtet-manipulation-bei-kaufentscheidungen

Vor welchem Problem stehen Verbraucher?

Algorithmische Systeme und Künstliche Intelligenz (KI) spielen in immer mehr Lebensbereichen eine entscheidende Rolle. Unternehmen bestimmen via Alexa und Co., welche Angebote Verbraucher erhalten. Versicherungen entscheiden mithilfe von algorithmischen Systemen die Höhe der Boni und Prämien, indem detaillierte Verhaltensdaten und Persönlichkeitsanalysen genutzt werden. Daten können auch ausschlaggebend dafür sein, wer Zugang zu bestimmten Diensten, beispielweise Vermietungsplattformen, oder Märkten erhält. So hält etwa AirBnB ein Patent zur Erstellung von Persönlichkeitsanalysen seiner Nutzer auf Grundlage von Social-Media-Daten, um deren Vertrauenswürdigkeit zu bestimmen. Schlussendlich kann damit entschieden werden, wer welche Angebote erhält. Unklar bleibt in den meisten Fällen, wie und warum Entscheidungen zustande kamen. Verbraucher können sich somit nicht gegen Benachteiligung wehren und Aufsichtsinstitutionen können bei Ungleichbehandlung und Diskriminierung nicht einschreiten.

So kann's gehen:

Die Bundesregierung muss einen horizontalen Rechtsrahmen für algorithmische Systeme und Künstliche Intelligenz auf europäischer Ebene vorantreiben. Unternehmen müssen dazu verpflichtet werden, Verbraucher transparent darüber zu informieren, warum und auf welcher (Daten-) Grundlage konkrete Entscheidungen über sie getroffen oder automatisiert vorbereitet wurden.

Die Bundesregierung muss ein bundesweites unabhängiges Kompetenzzentrum Algorithmische Systeme etablieren. Dieses soll bestehende Aufsichtsbehörden, wie beispielsweise die Bundesnetzagentur oder das Bundeskartellamt, mit methodisch-technischem Sachverstand bei der Aufsicht von Algorithmen und KI unterstützen. Zusätzlich müssen die bereits vorhandenen sektoralen Aufsichtsinstitutionen mit den erforderlichen Befugnissen ausgestattet werden, um algorithmische Systeme und Künstliche Intelligenz kontrollieren zu können.

#Wahlcheck

Das sagen die Parteien zu dieser Kernforderung

Bewertung des vzbv:

Die Vorschläge der Partei bieten nennenswerte Fortschritte für Verbraucher. Die Aussage der Partei entspricht weitgehend der Forderung des vzbv oder übererfüllt diese.

Das sagt die Partei:

Im Wahlprogramm von Bündnis90/Die Grünen steht:

Wir wollen daher Qualitätskriterien sowie die europäischen Anstrengungen für Transparenz, Überprüfbarkeit vorantreiben, damit algorithmische Entscheidungssysteme nicht diskriminierend wirken. Wir setzen uns ein für ein nach Risiken  abgestuften europäischen Ordnungsrahmen für den Einsatz automatischer Systeme, klare Regeln zur Nachvollziehbarkeit, zum Datenschutz [...] und zur Datenqualität, um Kontrolle und Haftung [...] zu ermöglichen. [...] Das bedeutet auch eine Modernisierung des Allgemeinen Gleichbehandlungsgesetzes sowie strenge Kriterien für den Einsatz von algorithmischen und automatischen Entscheidungen, insbesondere in der öffentlichen Verwaltung.

Bewertung des vzbv:

Die Vorschläge der Partei bieten nennenswerte Fortschritte für Verbraucher. Die Aussage der Partei entspricht weitgehend der Forderung des vzbv oder übererfüllt diese.

Das sagt die Partei:

Im Wahlprogramm von Die Linke steht:

Der Einsatz sogenannter künstlicher Intelligenz (KI) muss gesetzlich reguliert werden, um gemeinwohlorientierte Anwendung sicherzustellen.
Sämtliche für Entscheidungen eingesetzte Algorithmen müssen von unabhängigen Stellen auf Diskriminierungsfreiheit geprüft werden. Wir wollen ethische Richtlinien für die Schaffung von Algorithmen.
Bei Anwendung von KI auf personenbezogene Daten müssen demokratische Gestaltungsmöglichkeiten, weitgehender Datenschutz und freie Meinungsbildung in digitalen Medien gewährleistet sein. KI muss hierbei sozialer Spaltung, Monopolisierungstendenzen in der Wirtschaft durch wenige Technologiekonzerne und Überwachung entgegenwirken. Auf dieser Grundlage sollen Potenzial und Regulierungsansätze von KI weiter erforscht und genutzt werden. Entscheidungen beispielsweise über Sozialleistungsansprüche, Kreditwürdigkeit oder Prognosen über Straffälligkeit sind deshalb bis auf Weiteres abzulehnen.

Bewertung des vzbv:

Die Vorschläge der Partei bieten zwar Fortschritte für Verbraucher, die vzbv-Forderung wird aber nur teilweise aufgegriffen.

Das sagt die Partei:

Im Wahlprogramm der FDP steht:

Wir Freie Demokraten wollen eine KI-Roadmap für künstliche Intelligenz (KI). Jedes Ministerium soll  bis 2025 zehn konkrete KI-Anwendungsfälle in seiner fachlichen Zuständigkeit identifizieren und  umsetzen. Von Fördermitteln sollen auch Start-ups, kleine und mittlere Unternehmen sowie Gründerinnen und Gründer profitieren. Damit möglichst viele neue Technologien praktisch getestet  werden können, brauchen wir regulatorische Erprobungszonen – sogenannte „regulatory  sandboxes“, und eine schnelle gesetzliche Deregulierung. Um das Potential neuer Technologien wie KI, maschinelles Lernen und Robotik voll auszuschöpfen, ist ein europäischer Rechtsrahmen  notwendig, der im gesamten europäischen digitalen Binnenmarkt Rechtssicherheit gewährleistet.

In "Ergänzende Beschlüsse zum Bundestagswahlprogramm 2021" vom 7. Juni 2021 steht: 

Wir Freie Demokraten wollen bei der Regulierung von künstlicher Intelligenz mehr Transparenz und einen risikobasierten Ansatz für passgenaue Regeln auf europäischer Ebene. Algorithmische Entscheidungssysteme haben bereits heute einen starken Einfluss auf jede Einzelne und jeden Einzelnen sowie auf unsere Gesellschaft. Deshalb setzen wir uns dafür ein, in die Forschung von „Explainable Artificial Intelligence“ zu investieren und Entscheidungen von algorithmischen Entscheidungssystemen so für alle Betroffenen besser begreifbar zu machen.

Bewertung des vzbv:

Die Vorschläge der Partei bieten keine nennenswerten Fortschritte für Verbraucher oder würden die Situation der Verbraucher verschlechtern. Die Aussage entspricht nicht in ausreichendem Maße der Forderung des vzbv oder widerspricht dieser.

Das sagt die Partei:

Im Wahlprogramm der SPD steht:

Jeden Tag bekommen wir Dinge von Algorithmen vorgeschlagen: Neue Songs, Turnschuhe oder Routen von A nach B. Selbstlernende Systeme und Algorithmen treffen Entscheidungen für eine Vielzahl von Menschen. Sie können unser Leben und unseren Alltag erleichtern. Aber sie müssen transparent und diskriminierungsfrei angelegt werden. Die Zielsetzung einer algorithmischen Entscheidung muss klar und überprüfbar definiert sein. Hierfür brauchen wir eine stringente Regulierung und Aufsicht. [...] Wenn der Einsatz von Algorithmen, zum Beispiel bei der Personalrekrutierung, über das Leben oder die Chancen von Menschen mitentscheidet, dürfen sie niemals diskriminieren. Wir wollen verantwortungsvolle Künstliche Intelligenzen (KI) und Algorithmen, die vorurteilsfrei programmiert sind und auf diskriminierungsfreien Datenlagen basieren. Dies soll regelmäßig geprüft und zertifiziert werden.

Bewertung des vzbv:

Die Vorschläge der Partei bieten keine nennenswerten Fortschritte für Verbraucher oder würden die Situation der Verbraucher verschlechtern. Die Aussage entspricht nicht in ausreichendem Maße der Forderung des vzbv oder widerspricht dieser.

Das sagt die Partei:

Im Wahlprogramm von CDU/CSU steht:

Deutschland zur Hochburg für Künstliche Intelligenz und Blockchain-Technologie entwickeln. Mit der KI-Strategie haben wir die Grundlage geschaffen, um Deutschland und Europa an die Weltspitze der Forschung und Anwendung von Künstlicher Intelligenz zu bringen. Dazu fördern wir die Spitzenforschung in den KI-Kompetenzzentren und stärken die Entwicklung von KI auf zentralen Anwendungsfeldern, wie der Arbeits-, Mobilitäts- oder Gesundheitsforschung.

Den gesamten Wahlcheck zu allen vzbv-Kernforderungen finden Sie hier.

Weitere Kernforderungen des vzbv zur Bundestagswahl

Illustration: Mann berät Frau bei Vertragsabschluss

Quelle: DMKZWO

Starker Schutz vor Kostenfallen :

Eine Bestätigungslösung bei allen telefonisch angebahnten Verträgen über Dauerschuldverhältnisse, verkürzte Fristen für Kündigungen und kürzere Laufzeiten für Vertragsverlängerungen schützen Verbraucherinnen und Verbraucher vor ungewollten Verträgen.
Illustration: Frau berät Mann am Schalter

Quelle: DMKZWO

Starker Schutz auf Reisen :

Starke Passagierrechte und eine wirksame Absicherung bei Unternehmensinsolvenzen schützen Verbraucherinnen und Verbraucher und sichern einen fairen Wettbewerb auf dem Beförderungsmarkt. Die verbraucherunfreundliche Vorkasseregelung bei Flügen und Reisen muss verändert werden.
Illustration: Großvater spielt mit Enkelkind

Quelle: DMKZWO

Starke Altersvorsorge mit der Extrarente :

Ein öffentlich organisiertes Standardprodukt ergänzend zur gesetzlichen Rente ermöglicht Verbraucherinnen und Verbrauchern eine kostengünstige und renditestarke private Altersvorsorge.
Illustration: Frau steckt Stecker einer Lampe in die Steckdose

Quelle: DMKZWO

Starker Klimaschutz zu fairen Preisen :

Die Energiewende muss durch einen kostengünstigen Ausbau der erneuerbaren Energien, mehr Anstrengungen bei der Energieeffizienz und bessere Teilhabemöglichkeiten für Verbraucherinnen und Verbraucher vorangebracht werden. Der Strompreis für private Haushalte muss sinken.
Illustration: Zwei Köche in der Küche

Quelle: DMKZWO

Starke Standards für gesunde und nachhaltige Lebensmittel :

Mit einem Umbau der Landwirtschaft und der Lebensmittelproduktion können Verbraucherinnen und Verbraucher Lebensmittel nach hohen Tierhaltungs-, Umwelt- und Arbeitsschutzstandards zu fairen Preisen erhalten.
Illustration: Zwei Köche in der Küche

Quelle: DMKZWO

Starke Standards für gesunde und nachhaltige Lebensmittel :

Mit einem Umbau der Landwirtschaft und der Lebensmittelproduktion können Verbraucherinnen und Verbraucher Lebensmittel nach hohen Tierhaltungs-, Umwelt- und Arbeitsschutzstandards zu fairen Preisen erhalten.
Illustration: Frau Personen wartet an Bushaltestelle

Quelle: DMKZWO

Starker ÖPNV und neue Mobilitätsdienstleistungen :

Alle Haushalte in Deutschland müssen mit öffentlichen Verkehrsmitteln oder innovativen Mobilitätsangeboten wichtige Bedarfseinrichtungen erreichen sowie ihre Mobilität mit wenigen Klicks organisieren können.
Illustration: Zwei Personen bei Gericht

Quelle: DMKZWO

Starker Schadenersatz durch neue EU-Verbandsklage :

Die neue europäische Verbandsklagerichtlinie muss so umgesetzt werden, dass Verbraucherverbände Schadenersatz und andere Leistungen einklagen können. So kommen Verbraucherinnen und Verbraucher einfach zu ihrem Recht und zu ihrem Geld.
Illustration: Pfleger hilft altem Mann

Quelle: DMKZWO

Starke und bezahlbare Pflege :

Die Soziale Pflegeversicherung muss reformiert und ein dauerhafter Steuerzuschuss eingeführt werden, um die Beitragszahler zu entlasten. Gleichzeitig müssen die Leistungsätze für Pflegebedürftige regelgebunden und jährlich angepasst werden, damit Preissteigerungen ausgeglichen und so die steigenden Eigenanteile begrenzt werden.
Illustration: Lehrerin mit zwei Schüler:innen

Quelle: DMKZWO

Starke Kinder und Jugendliche durch Verbraucherbildung :

Verbraucherbildung muss bundesweit gefördert und in den Lehr- und Bildungsplänen aller Schulformen verankert werden, damit Kinder und Jugendliche fit für den Konsumalltag werden.