Daten sind nicht neutral – spätestens seitdem die USA ein Problem mit der Vorhersage von Kriminalität hat, die dafür verwendete KI ist rassistisch, ist dies bekannt. Die Daten müssen gereinigt werden, so unsere Interviewpartnerin Aleksandra Przegalinska. Das ist möglich, es müssen jegliche Informationen über Geschlecht, Alter, Herkunft, Aussehen entfernt werden. Sobald eine Voreingenommenheit in Daten auffällt, sollte diese umgehen korrigiert werden.

Völlige Neutralität lässt sich jedoch wohl in Datensätzen nicht erreichen. Das liegt daran, dass diese schon in einem Setting entstanden sind. Der Philosoph Julian Nida-Rümelin ist der Meinung, dass Ethik und Werte nicht in Computerprogramme übertragbar sind. Demnach muss es immer eine menschliche Kontrolle geben.