Was versteht man unter Künstlicher Intelligenz und mit welchen Risiken ist sie verbunden?

Da selbstlernende Algorithmen Daten mit einer Präzision und Geschwindigkeit jenseits des Menschenmöglichen verarbeiten können, werden Anwendungen, die mit Künstlicher Intelligenz (KI) arbeiten, zunehmend im Finanz-, Gesundheits- und Bildungswesen, in der Justiz und vielen anderen Bereichen eingesetzt. Sich gänzlich auf KI zu verlassen, birgt jedoch auch Risiken, insbesondere dann, wenn Entscheidungen getroffen werden, ohne dass die Ergebnisse von Menschen überprüft werden. Maschinelles Lernen beruht auf der Erkennung von Mustern innerhalb von Datensätzen. Probleme entstehen dann, wenn die Datenbasis keinen repräsentativen Querschnitt der Bevölkerung bildet und die Algorithmen verzerrt.

Künstliche Intelligenz in Entscheidungsfindungsprozessen

KI findet zunehmend in algorithmischen Entscheidungssystemen (ADM-Systeme) Anwendung. In vielen Fällen kann eine mit Hilfe solcher Systeme getroffene Entscheidung signifikanten Einfluss auf das Leben der Menschen haben, beispielsweise beim Zugang zu Krediten, Beschäftigung, medizinischer Versorgung oder bei gerichtlichen Entscheidungen. Automatisierte Entscheidungsfindung kann auf sozialen Ungleichheiten beruhen. So wurde bei manchen Algorithmen zur Auswahl von Bewerbern beispielsweise festgestellt, dass Frauen benachteiligt werden.

Verbraucherschutz im Zeitalter von KI

Die Entwicklung von KI und automatisierten Entscheidungsfindungsprozessen führt zu Herausforderungen hinsichtlich des Vertrauens und Wohlergehens der Verbraucher. Wenn Verbraucher mit derartigen Systemen interagieren, dann müssen sie zuvor auch über deren Funktionsweise aufgeklärt werden.

Welchen Standpunkt vertritt das Parlament?

Eine Entschließung, die am 23. Januar vom Ausschuss für Binnenmarkt und Verbraucherschutz angenommen wurde, fordert die Kommission dazu auf, zu untersuchen, ob zusätzliche Maßnahmen erforderlich sind, um in einer zunehmend von KI und automatisierter Entscheidungsfindung beeinflussten Welt Rechtssicherheit für die Verbraucher zu gewährleisten.

©Europäische Union