Zum KI-Vorschlag der EU-Kommission: Warum Verbote allein nicht ausreichen

Heidelberg, 14. April 2021 – Die EU-Kommission will Künstliche Intelligenzen (KIs) in bestimmten Bereichen künftig verbieten, um negative Folgen für die Gesellschaft wie bspw. durch sog. Social Scoring zu vermeiden (FAZ und Politico berichteten). Warum Verbote allein zu kurz greifen, erklärt der KI-Experte Dr. Daniel Kondermann. Als ehemaliger Lead Data Analyst bei Apple, Privatdozent an der Uni Heidelberg im Bereich Machine Learning und Gründer sowie CEO des Annotations-Unternehmens Quality Match (www.quality-match.com) verfügt er über jahrelange Erfahrung in dieser Branche:

“Mit ihrem aktuellen Vorschlag möchte die EU-Kommission verhindern, dass sich in unserer Gesellschaft künftig schädliche KIs etablieren können. Um noch einen Schritt weiterzugehen, sollten wir jedoch auch Standards in der Daten-Analyse etablieren, um Probleme mit der zu trainierenden KI noch vor Start des kostenintensiven Trainingsprozesses zu identifizieren.

Denn ein Hauptproblem bei der Entwicklung von KIs ist die Qualität der Trainingsdaten, auf denen spätere Entscheidungen der Algorithmen basieren. Der Fehleranteil innerhalb dieser Daten liegt mitunter bei bis zu 20 Prozent. Das bedeutet, dass auch fortschrittliche Entwicklungen durch eine falsche Grundlage gefährliche Konsequenzen nach sich ziehen können. Um nur ein Beispiel zu nennen: Ein autonomes Fahrzeug kann bspw. nur dann einen Menschen erkennen und automatisch bremsen, wenn dieser entsprechend im Datensatz in allen Situationen richtig markiert wurde.

Mehr als ein Drittel der Entscheider:innen aus Unternehmen geben bei der Entwicklung von erfolgreichen KIs dieses Problem als größtes Hindernis an. Aktuell befindet sich die Annotationsbranche, welche die Datensätze aufbereitet, nämlich eher auf einem Fließband-Niveau – viele Daten, dafür mangelhaft. Bei Quality Match haben wir es uns daher zur Aufgabe gemacht, neue Qualitätsstandards zu etablieren, um eine erfolgreiche wie sichere KI-Zukunft zu ermöglichen. In unserer Zukunft sehen wir lieber Wall-E den Planeten aufräumen als Terminatoren.”