Verbraucherschützer fordern Zulassungspflicht für gefährliche Algorithmen.„Es muss unser Ziel sein, dass Mensch und Maschine geltendes Recht einhalten."
Der Verbraucherzentrale Bundesverband (vzbv) fordern strengere Kontrollen von Algorithmen. „Es muss unser Ziel sein, dass Mensch und Maschine geltendes Recht einhalten und unsere Rechte auch durchgesetzt werden“, sagt vzbv-Vorstand Klaus Müller der Wochenzeitung DIE ZEIT. „Das gilt umso mehr in einer Welt lernender Algorithmen.“ Software, die selbständig dazulerne und sich irgendwann nicht mehr an Gesetze halte, sei keine Science Fiction mehr. Lernende Maschinen könnten Entscheidungen eines Tages womöglich anhand unerwünschter oder verbotener Kriterien wie Geschlecht, Herkunft, Alter oder Vermögen treffen.
Der vzbv fordert daher, die Intensität der Regulierung an das Gefahrenpotenzial eines Algorithmus zu knüpfen. Die schärfste Regulierung sollte im Gesundheitsbereich gelten – beispielsweise für die Steuerungssoftware von Pflegerobotern. Weil diese nicht nur große Mengen sensibler Daten sammeln, sondern Patienten auch verletzen oder ihnen falsche Medikamente verabreichen können, soll ihre Software noch vor dem Einsatz geprüft und zugelassen werden. „Damit sollen schwere Schäden von Verbrauchern abgewendet werden“, so Müller.