{'de': '

Wie beeinflussbar sind Maschinen? Diese Frage stellt sich im Zusammenhang mit der Kontrollierbarkeit und der Sicherheit von KI gesteuerten Systemen. Ein Beispiel dafür, wie gefährlich ein nicht beeinflussbares/kontrollierbares System sein kann, ist folgendes Gedankenexperiment: Ein KI gesteuertes System, das selbst lernt und sich verbessert, soll Büroklammern herstellen – die besten und schönsten und so viele als möglich. Die Entwickler vergessen einen Stop-Knopf einzubauen. Die KI lernt selbst, woher sie die Rohstoffe bekommt, organisiert die Beschaffung, baut effizientere Maschinen, beginnt die Stromversorgung zu kontrollieren und in letzter Konsequenz werden die Menschen “abgeschafft”, da diese ständig im Weg sind das Ziel zu verfolgen. Irgendwann besteht die Erde aus Büroklammern und die KI erobert den Weltraum, um weiterhin Büroklammern herzustellen.

Dieses extreme Beispiel zeigt, dass KI-Systeme beeinflussbar bleiben müssen, damit sich unbedachte Details nicht als schädlich erweisen. Andererseits ergeben sich durch die Möglichkeiten Einfluss zu nehmen auch Lücken für Kriminelle. Daraus folgt ein Dilemme – einerseits ist es wohl nicht möglich ein KI-System zu entwickeln, das keine Fehler enthält und ethisch immer einwandfrei entscheidet, andererseits soll die Kontrollierbarkeit in den richtigen Händen bleiben.

'}