Drei Gesetze der Robotik

Isaac Asimov formulierte 1942 in seiner Kurzgeschichte Runaround drei Gesetze, die das Verhalten von Robotern regeln sollten. Erstes Gesetz: Ein Roboter darf keinem Menschen Schaden zufügen oder durch Untätigkeit zulassen, dass einem Menschen Schaden zugefügt wird. Zweites Gesetz: Ein Roboter muss menschlichen Befehlen gehorchen, außer wenn dies dem ersten Gesetz widerspricht. Drittes Gesetz: Ein Roboter muss seine eigene Existenz schützen, außer wenn dies dem ersten oder zweiten Gesetz widerspricht.

Asimovs gesamtes Roboter-Werk (I, Robot, The Caves of Steel, The Naked Sun und weitere) dreht sich um die Widersprüche und Schlupflöcher dieser Gesetze. Was passiert, wenn ein Roboter zwei Menschen gleichzeitig retten muss und nur einen schützen kann? Was, wenn ein Befehl langfristig schadet, kurzfristig aber harmlos wirkt? Was, wenn der Roboter selbst definiert, was 'Schaden' bedeutet?

Später fügte Asimov ein nulltes Gesetz hinzu: Ein Roboter darf der Menschheit keinen Schaden zufügen. Dieses Gesetz steht über allen anderen und erlaubt es einem Roboter theoretisch, einen einzelnen Menschen zu opfern, wenn es der Menschheit dient, eine Logik, die direkt in die moderne KI-Ethik-Debatte führt.

Die Drei Gesetze sind die bekannteste Denkübung der Science-Fiction zu künstlicher Intelligenz. Moderne KI-Forscher verweisen regelmäßig auf Asimov, wenn sie über Alignment-Probleme diskutieren: Wie stellt man sicher, dass eine KI im Sinne der Menschen handelt? Asimov zeigte schon 1942, dass klare Regeln allein nicht reichen.