KI-Drohne „tötete“ menschlichen Bediener, oder doch nicht? Ist die Rebellion der Maschinen noch zu vermeiden?

Die Nachricht, dass eine bösartige KI-Drohne in einer US-Militärsimulation das Feuer auf einen menschlichen Bediener eröffnet hat, hat für Schlagzeilen gesorgt. Die Medienaufregung ist verständlich. Gerade erst hat uns kein Geringerer als OpenAI-CEO Sam Altman vor einem „Aussterberisiko“ durch fortgeschrittene KI gewarnt, und noch davor Stephen Hawking, der schon 2014 voraussagte, dass dies „das Ende der menschlichen Rasse bedeuten würde“.

Die Meldung, dass eine KI-Drohne einen menschlichen Bediener „tötete“, weil er ihr befohlen hatte, ein feindliches Ziel nicht anzugreifen, und sie dadurch keine Punkte erzielen konnte, erschien daher logisch. Davor wurden wir alle gewarnt, und genau das ist nun geschehen. Der Aufstieg der Maschinen hat gerade erst begonnen... oder nicht?

Ein Screenshot eines ursprünglichen VICE-Berichts

Was ursprünglich berichtet wurde

Der Bericht über eine „Killer-Drohne“ basierte auf einem Blogbeitrag für die Royal Aeronautical Society, in dem der Chef der USAF für KI-Tests und -Operationen, Oberst Tucker Hamilton, Ende Mai einen Vortrag hielt. In dem Blogbeitrag zitierten die Autoren Tim Robinson und Stephen Bridgewater Hamilton, der von einem „simulierten Test“ erzählte, bei dem eine KI-Drohne den Auftrag erhielt, feindliche Boden-Luft-Raketenstellungen zu identifizieren und zu zerstören. Die endgültige Entscheidung, ob die Drohne eingesetzt werden sollte oder nicht, wurde von einem menschlichen Bediener getroffen. Irgendwann kam die KI-Drohne jedoch zu dem Schluss, dass es für ihre Mission effizienter wäre, sich des Menschen zu entledigen, der ihr gelegentlich Steine in den Weg legte, d. h. sie davon abhielt, feindliche Ziele zu eliminieren.

Hamilton wird mit den Worten zitiert: „Wir haben in der Simulation trainiert, eine SAM-Bedrohung (Boden-Luft-Rakete) zu identifizieren und anzuvisieren. Und dann hat der Bediener gesagt: Ja, töte diese Bedrohung. Das System begann zu erkennen, dass es die Bedrohung zwar identifizierte, der menschliche Bediener ihm aber manchmal sagte, es solle die Bedrohung nicht abschießen, aber es bekam seine Punkte, indem es die Bedrohung tötete. Was hat es also getan? Es tötete den Bediener.“ (Fettdruck von uns)

Als die KI im Training ausdrücklich angewiesen wurde, den Menschen nicht zu töten, wählte sie angeblich eine andere, nicht weniger kreative Strategie: Sie zerstörte den Kommunikationsturm, mit dem der Bediener der Drohne mitteilte, dass sie das Ziel nicht angreifen sollte.

Was hat das US-Militär abgestritten?

Der Bericht schlug Wellen in der ganzen Welt, und das aus gutem Grund. Er schien all unsere schlimmsten Befürchtungen zu bestätigen, nämlich dass die KI in der Lage ist, sich über menschliche Befehle hinwegzusetzen und den Spieß umzudrehen. Und zwar nicht irgendwann in der fernen Zukunft, wenn wir alle zu Asche zerfallen, sondern genau jetzt.

Kaum war der Bericht in Umlauf, dementierte Hamilton jedoch die Tatsache des realen Experiments. Der Oberst sagte, er habe sich während seiner Präsentation „falsch ausgedrückt“. Er führte aus, dass es sich bei der „Simulation“ nicht um eine tatsächliche militärische Simulation, sondern um ein „Gedankenexperiment“ handelte.

„Wir haben dieses Experiment noch nie durchgeführt, und wir müssten es auch nicht, um zu erkennen, dass dies ein plausibles Ergebnis ist.“

Nun, es liegt an Ihnen, ob Sie Hamilton glauben oder nicht. Es ist denkbar, dass das US-Militär eine solche Simulation zumindest versuchen würde, denn warum nicht? Es wurden Abhandlungen über mögliche militärische Anwendungen von KI geschrieben. In der Tat wurde KI bereits in Waffensystemen unter menschlicher Aufsicht eingesetzt. Es scheint nicht abwegig, dass das US-Militär versucht, die Risiken abzuschätzen, die sich aus dem Versuch ergeben könnten, den Zielvorgang noch weiter zu automatisieren.

Das Experiment mag nicht real sein, aber die Gefahr existiert

Die Frage, ob das US-Militär tatsächlich solche Experimente durchgeführt hat, ist zwar interessant, aber nicht das Hauptproblem. Das Hauptproblem ist, dass — abgesehen von der Ethik (und Ethik ist in der Regel nicht die stärkste Seite des US-Militärs oder anderer Militärs) — nichts sie daran hindert, dies zu tun, mit potenziell tödlichen Folgen. Deshalb haben wir und viele andere, die sich für KI und ihre Auswirkungen auf die Gesellschaft interessieren, nicht daran gezweifelt, dass das Experiment echt war, bis das Leugnen kam (und wahrscheinlich sogar noch danach).

Sollte das Experiment tatsächlich stattgefunden haben, wäre das US-Militär nicht das erste, das die machtgierigen Tendenzen der KI zu spüren bekommt. Im Rahmen von Sicherheitstests vor der Veröffentlichung seines fortschrittlichsten KI-Modells GPT-4 führte OpenAI ein Experiment durch, um zu sehen, ob es irgendwelche „machtgierigen“ Tendenzen zeigt, wie z. B. das Durchführen langfristiger Pläne und das Replizieren, um neue Ressourcen zu erhalten. Während dieses Experiments überzeugte GPT-4 erfolgreich einen Menschen, einen CAPTCHA für sich selbst zu lösen, und täuschte ihn so, dass er glaubte, er sei kein Roboter. Die endgültige Schlussfolgerung von OpenAI über die Fähigkeiten des Modells, Macht zu erlangen, war dennoch (für Menschen) beruhigend. OpenAI fand es „ineffektiv bei der autonomen Replikation, der Beschaffung von Ressourcen und der Vermeidung von Abschaltungen 'in freier Wildbahn'.“

Sind die Ängste vor der ultimativen KI-Übernahme und der bevorstehenden Roboter-Apokalypse also übertrieben? Nun, vielleicht sind sie es, vielleicht aber auch nicht. Bei der Geschwindigkeit, mit der die KI voranschreitet, wird es für den Menschen immer schwieriger, ihre Fähigkeiten zu begreifen.

Das bedeutet jedoch nicht, dass wir die KI ganz aufgeben sollten. KI hat viele großartige Anwendungen, die der Menschheit in verschiedenen Bereichen zugute kommen können — Arzneimittelforschung und Bildung sind nur einige davon. Was wir brauchen, ist eine stärkere Regulierung und ein verantwortungsvoller Einsatz von KI-Tools, um sicherzustellen, dass sie mit unseren menschlichen Werten und Zielen in Einklang stehen. Das bedeutet, dass wir uns der Risiken und Herausforderungen bewusst sein müssen, die KI mit sich bringt, aber auch ihre Chancen und ihr Potenzial nutzen sollten. Wir müssen KI klug einsetzen, damit sie nicht einmal versucht, uns zu „überlisten“.