{'de': '

Nichts ist sicher – und schon gar nicht Software. Selbst relativ einfache Programme enthalten Fehler. In der Entwicklung werden Vorkehrungsmaßnahmen getroffen, um die Fehlerquote so gering als möglich zu halten, jedoch bestehen komplexe Codes aus so vielen Teilen, die miteinander kombiniert werden, dass es immer zu “Bugs” kommt. Der Begriff der Bugs stammt vermutlich von der Programmiererin Grace Hopper, die 1947 in ein Logbuch notierte, dass eine Motte (=Ungeziefer = Bug) in einem Relais des Mark II Computers gefunden wurde.

\n

Da Programme nie fehlerfrei sind, sind sie auch nie vollkommen sicher, da Schwachstellen und Fehler von Dritten ausgenutzt werden können oder das Programm selbst einen Fehler macht. Bei den meisten Anwendungen ist dies nicht tragisch – aber wenn selbstfahrende Autos Lastwagen nicht erkennen, weil die Software das Sonnenlicht mit der hellen Lastwagenplane verwechseln, hat das ernste Konsequenzen. Im Internet gibt es Videos in denen Teslas, die eigentlich automatisch die Fahrspur halten, in die Seitenbande krachen.

\n

Das Thema der Sicherheit geht noch weiter. Insbesondere im militärischen Bereich unterstützen KI-Systeme die Menschen in Gefechtssituationen und bei der Auswahl der Gegner. Wenn hierbei Fehler passieren, was angesichts der rassistischen Tendenzen von Polizei-KI-Kriminalitätsvorhersagesystemen alles andere als abwegig ist, leiden Menschen. Es stellt sich die Frage bis zu welchem Punkt Fehler von Maschinen akzeptiert werden (müssen) und ab welchem Punkt Verantwortung – von wem? – übernommen werden muss.

'}