Künstliche Intelligenz, autonome Waffen und Sicherheitspolitik

von | 25.11.2020 | Wehrtechnik | 4 Kommentare

Wo steht Deutschland im internationalen Vergleich?

Über Rolle und Dynamik der Künstlichen Intelligenz (KI) besteht kein Zweifel. Sie wird mit Blick in die Zukunft absehbar ein Game Changer – dies in nahezu allen gesellschaftlichen Bereichen und gerade auch in den internationalen Beziehungen auf globaler Ebene. Keine Nation will es sich leisten, hier abgehängt zu werden. Auch Deutschland nicht. Daher ist es auch nachvollziehbar, wenn die Bundesregierung bereits 2018 in ihren Eckpunkten für eine KI-Strategie als erstes und höchst ambitioniertes Ziel festlegt: „Deutschland soll zum weltweit führenden Standort für KI werden.“ Das klingt gut.

Dennoch – oder gerade deshalb – überrascht es etwas, wie beiläufig und vermeintlich nachrangig die Chancen und Risiken für die innere und äußere Sicherheit angesprochen sind. Die deutsche KI-Strategie begnügt sich erstmal mit dem Hinweis: „Der künftige Einsatz von KI-basierten Technologien und Systemen wird Auswirkungen auf Streitkräfte haben …“. Man müsse die Vor- und Nachteile einer „umfassenden Bewertung unterziehen“. Das ist, wenn man an Rüstungsgüter denkt, doch recht allgemein formuliert. Die Chancen der KI für Schutz, Aufklärung oder Logistik sind ja durchaus einleuchtend. Andererseits lässt sich aber nicht ohne Grund eine tiefe sicherheitspolitische Ambivalenz etwa von teil- oder vollautonomen Waffen vermuten.

Also gehen wir doch da mal ran und versuchen eine zumindest grobe Analyse, um mit Blick auf sicherheitspolitische Argumente die unterschiedlichen Positionen der Technologie-Euphoriker einerseits und der Technologie-Skeptiker andererseits auf den Prüfstand zu stellen. Und da eine Diskussion auf der Grundlage von (möglichst provokativen, aber gleichwohl sachlich begründeten) Thesen immer besonders fruchtbar ist, soll hier auf unserer Plattform ein solcher Anstoß gegeben werden.

Grundlage für diese Diskussion ist die  Keynote für den 5. GSP-Sicherheitsdialog vom 25. November 2020.

Folgende 6 Thesen stehen zur schnellen Abstimmung und/oder weiter unten für Ihre Kommentare zur Diskussion:

Kersten Lahl ist ein Generalleutnant a. D. des Heeres der Bundeswehr. Nach seiner Pensionierung im April 2008 war er bis August 2011 Präsident der Bundesakademie für Sicherheitspolitik in Berlin.

Diesen Beitrag Teilen:

4 Kommentare

  1. Kersten Lahl

    Das sehe ich ganz ähnlich wie die bisherigen Kommentatoren. Die Diskussion um die sicherheitspolitische Relevanz der KI darf natürlich nicht auf autonome Waffensysteme beschränkt werden – wenngleich diese besonders geeignet sind, einige zentrale und dabei auch unerwünschte Aspekte der erwartbaren Zukunft drastisch aufzuzeigen. Aber klar: KI nur zu verteufeln, wäre ebenso falsch. Dazu ist ihr Nutzenpotenzial viel zu beeindruckend.

    Und ja, ich teile auch die Einschätzung, dass die Chancen der KI für die politische und militärische Sicherheitsvorsorge Deutschlands noch lange nicht hinreichend erkannt sind. Irgendwie befinden wir uns da noch im Dornröschenschlaf. Ob uns irgendwann ein Prinz wachküsst, oder ob uns ein eher unangenehmes Erwachen bevorsteht, bleibt offen.

    Viel Zeit haben wir eigentlich nicht. Der technologische Wandel wartet nicht auf uns. Es geht aus meiner Sicht um zwei große Aufgabenpakete, die in einer Analyse der KI abzuarbeiten sind: Zum einen sicherheitspolitisch die Prävention, zum anderen militärisch die Resilienz zu stärken. Beides ist nach meiner Auffassung kein Widerspruch.

    Antworten
  2. Richard Roßmanith

    Herr Strathoff,
    da haben Sie sicher einen Punkt. MdB Brandl hat deswegen auch zurecht am Montag darauf hingewiesen, dass er in der Bundeswehr – aber wie ich meine auch darüber hinaus – erhebliche Defizite beim Bewusstsein hinsichtlich der Möglichkeiten und Notwendigkeiten der Anwendung von KI festgestellt.
    Mir geht es aber um mehr. Da wir am Anfang dieser Entwicklungen stehen, haben wir m.E. die nahezu einmalige Chance, global Entwicklungen so zu gestalten, dass es mittel- und langfrisitg nicht zu den Disruptionen, Verwerfungen und negativen Konsequenzen kommt, die dann Sicherheitspolitik und möglicherweise auch Militär zum Handeln zwingt. Das mag naiv gedacht sein. Es gibt aber zumindest die Möglichkeit, diese Herausforderung kooperativ anzugehen. Bei der Entwicklung der Anwendungen von Kernspaltung und -fusion insbesondere im militärischen Bereich gab es diese Möglichkeit nicht.

    Antworten
  3. Uwe Strathoff

    Hallo Herr Roßmanith

    Ich möchte Ihnen beipflichten, die Diskussion beim 5. GSP Sicherheitsdialog greift auch meiner Meinung nach zu kurz.

    Eine Fokussierung auf autonome Waffensysteme zeigt keinesfalls den Blickpunkt auf die wirkliche Bedrohungslage von
    KI gestützten Systemen.
    Schon mit den heute verfügbaren Technologien ist ein Erstschlag ,hierbei besonders gegen unsere IT Infra und Versorgungsstruktur möglich.
    Leider zeigen sich hier in Deutschland sowohl die politischen als auch im besonderen militärischen System die Verantwortlichen weitgehend hilflos.
    Es wird zwar sehr viel diskutiert, aber wirklich Brauchbares zeigt sich nicht.
    Wir haben hier einen erheblichen Nachholbedarf nicht nur im Bereich der Digitalisierung sondern vielmehr wäre es dringendst notwendig unsere Strukturen und Abwehrsysteme sofern Sie adäquat vorhanden sein sollten, ausgeprägten PEN (Penetration Tests) zu unterziehen.
    Leider sieht die Bundeswehr hier keinerlei Notwendigkeit ihre als auch die politischen Systeme solchen Tests zu unterziehen.
    Vorfälle wie der in der Bundesverwaltung oder jüngst im Fuhrpark wären zu verhindern gewesen.
    KI basierte Schutzsysteme wären dazu in der Lage.

    Antworten
  4. Richard Roßmanith

    Künstliche Intelligenz wird die Digitalisierung aller Bereiche von Individuen, Gesellschaften und Staaten in fundamentaler Weise fortsetzen, erweitern und beschleunigen. Selbst ohne die Superintelligenz der Science Fiction Welt erkennen wir schon heute massive Auswirkungen – und wir stehen erst am Anfang dieser Entwicklungen. Enorme Chancen sind damit verbunden, Risiken aber gleichermaßen.
    Treiber dieser Entwicklung ist einmal nicht wie oft in der Vergangenheit das Militärische sondern ganz eindeutig Wirtschaft, Industrie und Handel vor allem in Form von global agierenden Unternehmen und anderen nicht-staatlichen Akteuren. Aber auch Staaten – allen voran die USA und China – investieren unglaubliche Summen in die Erforschung von Künstlicher Intelligenz. Es ist m.E. nicht vermessen festzustellen, dass die künftige Weltordnung von Künstlicher Intelligenz mitbestimmt wird.
    Für die Sicherheitspolitik ergeben sich daraus Herausforderungen in mehrfacher Hinsicht. Zwei will ich ansprechen.
    Zum einen ist es die Anwendung von Künstlicher Intelligenz in der Sicherheitspolitik selbst und ihren Instrumenten. Die Diskussion fokussiert derzeit sehr stark auf autonome Waffensysteme. Es geht aber um weit mehr. Hier stehen wir erst ganz am Anfang der Entwicklung. Weitestgehend fehlt bei den heute Verantwortlichen das Verständnis und die Lage ist gekennzeichnet von fehlender Weitsicht.
    Zum anderen sind es die Auswirkungen der Künstlichen Intelligenz auf Gesellschaften und Staaten, die durch starke Umbrüche, Verwerfungen, Disruption und andere wahrscheinlich alle Lebens- und Politikbereiche betreffende massive Veränderungen gekennzeichnet sind. Kurzum, alles potenzielle Ursachen von künftigen Krisen und Konflikten und damit auch unsere Sicherheit.
    Mir stellt sich die Frage, ob Politik, insbesondere internationale Politik darauf eingestellt ist und diesen Prozess so gestalten kann, dass die sicherheitspolitischen Herausforderungen beherrscht werden können. Mir scheint, dass mit Diskussionen, wie wir sie auch im 5. GSP Sicherheitsdialog erlebt haben, eine zu starke Verengung des Denkens auf einen winzigen Aspekt – autonome Waffensysteme – erfolgt und die umfassenderen und weitergehenden Fragen noch nicht einmal identifiziert und adressiert, geschweige denn beantwortet werden.

    Antworten

Einen Kommentar abschicken

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Weitere spannende Beiträge