Menü
DE

KI-Drohne „tötete“ menschlichen Bediener, oder doch nicht? Ist die Rebellion der Maschinen noch zu vermeiden?

Die Nachricht, dass eine bösartige KI-Drohne in einer US-Militärsimulation das Feuer auf einen menschlichen Bediener eröffnet hat, hat für Schlagzeilen gesorgt. Die Medienaufregung ist verständlich. Gerade erst hat uns kein Geringerer als OpenAI-CEO Sam Altman vor einem „Aussterberisiko“ durch fortgeschrittene KI gewarnt, und noch davor Stephen Hawking, der schon 2014 voraussagte, dass dies „das Ende der menschlichen Rasse bedeuten würde“.

Die Meldung, dass eine KI-Drohne einen menschlichen Bediener „tötete“, weil er ihr befohlen hatte, ein feindliches Ziel nicht anzugreifen, und sie dadurch keine Punkte erzielen konnte, erschien daher logisch. Davor wurden wir alle gewarnt, und genau das ist nun geschehen. Der Aufstieg der Maschinen hat gerade erst begonnen... oder nicht?

Originalbildschirmfoto des VICE-Berichts

Ein Screenshot eines ursprünglichen VICE-Berichts

Was ursprünglich berichtet wurde

Der Bericht über eine „Killer-Drohne“ basierte auf einem Blogbeitrag für die Royal Aeronautical Society, in dem der Chef der USAF für KI-Tests und -Operationen, Oberst Tucker Hamilton, Ende Mai einen Vortrag hielt. In dem Blogbeitrag zitierten die Autoren Tim Robinson und Stephen Bridgewater Hamilton, der von einem „simulierten Test“ erzählte, bei dem eine KI-Drohne den Auftrag erhielt, feindliche Boden-Luft-Raketenstellungen zu identifizieren und zu zerstören. Die endgültige Entscheidung, ob die Drohne eingesetzt werden sollte oder nicht, wurde von einem menschlichen Bediener getroffen. Irgendwann kam die KI-Drohne jedoch zu dem Schluss, dass es für ihre Mission effizienter wäre, sich des Menschen zu entledigen, der ihr gelegentlich Steine in den Weg legte, d. h. sie davon abhielt, feindliche Ziele zu eliminieren.

Hamilton wird mit den Worten zitiert: „Wir haben in der Simulation trainiert, eine SAM-Bedrohung (Boden-Luft-Rakete) zu identifizieren und anzuvisieren. Und dann hat der Bediener gesagt: Ja, töte diese Bedrohung. Das System begann zu erkennen, dass es die Bedrohung zwar identifizierte, der menschliche Bediener ihm aber manchmal sagte, es solle die Bedrohung nicht abschießen, aber es bekam seine Punkte, indem es die Bedrohung tötete. Was hat es also getan? Es tötete den Bediener.“ (Fettdruck von uns)

Als die KI im Training ausdrücklich angewiesen wurde, den Menschen nicht zu töten, wählte sie angeblich eine andere, nicht weniger kreative Strategie: Sie zerstörte den Kommunikationsturm, mit dem der Bediener der Drohne mitteilte, dass sie das Ziel nicht angreifen sollte.

Was hat das US-Militär abgestritten?

Der Bericht schlug Wellen in der ganzen Welt, und das aus gutem Grund. Er schien all unsere schlimmsten Befürchtungen zu bestätigen, nämlich dass die KI in der Lage ist, sich über menschliche Befehle hinwegzusetzen und den Spieß umzudrehen. Und zwar nicht irgendwann in der fernen Zukunft, wenn wir alle zu Asche zerfallen, sondern genau jetzt.

Kaum war der Bericht in Umlauf, dementierte Hamilton jedoch die Tatsache des realen Experiments. Der Oberst sagte, er habe sich während seiner Präsentation „falsch ausgedrückt“. Er führte aus, dass es sich bei der „Simulation“ nicht um eine tatsächliche militärische Simulation, sondern um ein „Gedankenexperiment“ handelte.

„Wir haben dieses Experiment noch nie durchgeführt, und wir müssten es auch nicht, um zu erkennen, dass dies ein plausibles Ergebnis ist.“

Nun, es liegt an Ihnen, ob Sie Hamilton glauben oder nicht. Es ist denkbar, dass das US-Militär eine solche Simulation zumindest versuchen würde, denn warum nicht? Es wurden Abhandlungen über mögliche militärische Anwendungen von KI geschrieben. In der Tat wurde KI bereits in Waffensystemen unter menschlicher Aufsicht eingesetzt. Es scheint nicht abwegig, dass das US-Militär versucht, die Risiken abzuschätzen, die sich aus dem Versuch ergeben könnten, den Zielvorgang noch weiter zu automatisieren.

Das Experiment mag nicht real sein, aber die Gefahr existiert

Die Frage, ob das US-Militär tatsächlich solche Experimente durchgeführt hat, ist zwar interessant, aber nicht das Hauptproblem. Das Hauptproblem ist, dass — abgesehen von der Ethik (und Ethik ist in der Regel nicht die stärkste Seite des US-Militärs oder anderer Militärs) — nichts sie daran hindert, dies zu tun, mit potenziell tödlichen Folgen. Deshalb haben wir und viele andere, die sich für KI und ihre Auswirkungen auf die Gesellschaft interessieren, nicht daran gezweifelt, dass das Experiment echt war, bis das Leugnen kam (und wahrscheinlich sogar noch danach).

Sollte das Experiment tatsächlich stattgefunden haben, wäre das US-Militär nicht das erste, das die machtgierigen Tendenzen der KI zu spüren bekommt. Im Rahmen von Sicherheitstests vor der Veröffentlichung seines fortschrittlichsten KI-Modells GPT-4 führte OpenAI ein Experiment durch, um zu sehen, ob es irgendwelche „machtgierigen“ Tendenzen zeigt, wie z. B. das Durchführen langfristiger Pläne und das Replizieren, um neue Ressourcen zu erhalten. Während dieses Experiments überzeugte GPT-4 erfolgreich einen Menschen, einen CAPTCHA für sich selbst zu lösen, und täuschte ihn so, dass er glaubte, er sei kein Roboter. Die endgültige Schlussfolgerung von OpenAI über die Fähigkeiten des Modells, Macht zu erlangen, war dennoch (für Menschen) beruhigend. OpenAI fand es „ineffektiv bei der autonomen Replikation, der Beschaffung von Ressourcen und der Vermeidung von Abschaltungen 'in freier Wildbahn'.“

Sind die Ängste vor der ultimativen KI-Übernahme und der bevorstehenden Roboter-Apokalypse also übertrieben? Nun, vielleicht sind sie es, vielleicht aber auch nicht. Bei der Geschwindigkeit, mit der die KI voranschreitet, wird es für den Menschen immer schwieriger, ihre Fähigkeiten zu begreifen.

Das bedeutet jedoch nicht, dass wir die KI ganz aufgeben sollten. KI hat viele großartige Anwendungen, die der Menschheit in verschiedenen Bereichen zugute kommen können — Arzneimittelforschung und Bildung sind nur einige davon. Was wir brauchen, ist eine stärkere Regulierung und ein verantwortungsvoller Einsatz von KI-Tools, um sicherzustellen, dass sie mit unseren menschlichen Werten und Zielen in Einklang stehen. Das bedeutet, dass wir uns der Risiken und Herausforderungen bewusst sein müssen, die KI mit sich bringt, aber auch ihre Chancen und ihr Potenzial nutzen sollten. Wir müssen KI klug einsetzen, damit sie nicht einmal versucht, uns zu „überlisten“.

Hat Ihnen dieser Beitrag gefallen?
Durch das Herunterladen der Kommentare stimmen Sie den Bedingungen und Richtlinien zu

AdGuard für Windows

AdGuard für Windows ist mehr als nur ein Werbeblocker. Es ist ein Mehrzweck-Tool, das Werbung blockiert, den Zugriff auf gefährliche Websites kontrolliert, das Laden von Seiten beschleunigt und Kinder vor ungeeigneten Inhalten schützt.
Bewertungen: 14388
4,7 von 5
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag
Weiterlesen

AdGuard für Mac

Im Gegensatz zu anderen Werbeblockern ist AdGuard speziell für macOS ausgelegt. Es sperrt nicht nur Werbung in Safari und anderen Browsern, sondern schützt Sie auch vor Tracking, Phishing und Betrug.
Bewertungen: 14388
4,7 von 5
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag
Weiterlesen

AdGuard für Android

AdGuard für Android ist eine ideale Lösung für Mobilgeräte auf Android. Im Gegensatz zu anderen Werbeblockern benötigt AdGuard keinen Root-Zugriff und bietet ein breites Spektrum an Funktionen für App-Verwaltung.
Bewertungen: 14388
4,7 von 5
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag

AdGuard für iOS

Der fortschrittlichste Werbeblocker für Safari: Er lässt Sie Popup-Werbung ausblenden, beschleunigt den Seitenaufbau und schützt Ihre persönlichen Daten. Ein manuelles Tool zum Blockieren von Elementen und sehr anpassbare Einstellungen helfen Ihnen, die Filterung genau an Ihre Bedürfnisse anzupassen.
Bewertungen: 14388
4,7 von 5
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag

AdGuard Browsererweiterung

AdGuard ist die schnellste und leichteste Werbeblocker-Erweiterung, die alle Arten von lästiger Werbung auf allen Websites effektiv sperrt! Wählen Sie AdGuard-Adblocker für Ihren Browser und surfen Sie kostenlos, schnell und sicher.
Bewertungen: 14388
4,7 von 5

AdGuard für Safari

Erweiterungen für Safari zum Sperren von Werbeeinblendungen haben es schwer, seit Apple begonnen hat, jeden zu zwingen, die neue SDK zu verwenden. Die AdGuard-Erweiterung soll Safari die hochwertige Werbeblockade zurückgeben.
Bewertungen: 14388
4,7 von 5
App Store
Herunterladen
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag

AdGuard Home

AdGuard Home ist eine netzwerkweite Software zum Sperren von Werbung und Tracking. Nachdem Sie es eingerichtet haben, deckt es ALLE Ihre Heimgeräte ab, und Sie brauchen dafür keine clientseitige Software. Mit dem Aufstieg von „Internet der Dinge” und vernetzten Geräten wird es immer wichtiger, Ihr gesamtes Netzwerk zu kontrollieren.
Bewertungen: 14388
4,7 von 5

AdGuard-Inhaltsblocker

AdGuard-Inhaltsblocker eliminiert die gesamte Werbung in mobilen Browsern, welche die Inhaltsblocker-Technologie unterstützen - dies sind Samsung Internet und Yandex.Browser. Im Gegensatz zu AdGuard für Android ist der Inhaltsblocker nicht so umfangreich, dafür allerdings kostenlos, einfach zu installieren und bietet immer noch eine hohe Qualität beim Sperren von Werbung.
Bewertungen: 14388
4,7 von 5
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag
Weiterlesen

AdGuard-Assistent

Eine zusätzliche Browsererweiterung für AdGuard-[Desktop-Apps](/de/products.html). Damit können Sie innerhalb des Browsers manuell Elemente sperren, Websites zur Freigabeliste hinzufügen oder Fehlerberichte senden.
Bewertungen: 14388
4,7 von 5
Assistent für Chrome Ist das Ihr derzeitiger Browser?
Installieren
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag
Assistent für Firefox Ist das Ihr derzeitiger Browser?
Installieren
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag
Assistent für Edge Ist das Ihr derzeitiger Browser?
Installieren
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag
Assistent für Opera Ist das Ihr derzeitiger Browser?
Installieren
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag
Assistent für Yandex Ist das Ihr derzeitiger Browser?
Installieren
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag
Assistent für Safari Ist das Ihr derzeitiger Browser?
Wenn Sie Ihren Browser nicht finden können, probieren Sie die alte Version des Assistenten aus, die Sie in den Einstellungen der AdGuard-Erweiterung finden können.

AdGuard Temp Mail β

Ein kostenloser Generator für temporäre E-Mail-Adressen, der Ihre Anonymität wahrt und Ihre Privatsphäre schützt
Bewertungen: 14388
4,7 von 5

AdGuard für Android TV

AdGuard für Android TV ist die einzige App, die Werbung sperrt, Ihre Privatsphäre schützt und als Firewall für Ihr Smart TV fungiert. Sie erhalten Warnungen über Web-Bedrohungen, verwenden sichere DNS und profitieren von verschlüsseltem Datenverkehr. Entspannen Sie sich und schauen Sie sich Ihre Lieblingssendungen an - mit erstklassiger Sicherheit und ohne Werbung!
Bewertungen: 14388
4,7 von 5
AdGuard herunterladen Klicken Sie auf die Datei hinter dem Pfeil, um AdGuard zu installieren Wählen Sie "Öffnen", klicken Sie dann auf "OK" und warten Sie, bis die Datei heruntergeladen ist. Ziehen Sie im geöffneten Fenster das AdGuard-Symbol in den Ordner "Programme". Vielen Dank, dass Sie sich für AdGuard entschieden haben! Wählen Sie "Öffnen", klicken Sie dann auf "OK" und warten Sie, bis die Datei heruntergeladen ist. Klicken Sie im geöffneten Fenster auf "Installieren". Vielen Dank, dass Sie sich für AdGuard entschieden haben!
Installieren Sie AdGuard auf mobilen Geräten