Lernen in komplexer Lage

Als das amerikanische Unternehmen Open AI im November 2022 sein neu entwickeltes Sprachmodell öffentlich zugänglich machte, brach globale Euphorie aus. Wie ein Hurrikan fegte ChatGPT über die Weltgemeinschaft hinweg, denn plötzlich konnten Millionen Menschen ausprobieren, was diese Künstliche Intelligenz (KI) alles kann. Auch in der Bundeswehr ist KI ein vielschichtiges Thema – nicht zuletzt in der Ausbildung.

Wo in welchem Umfang KI eingesetzt wird und (mit)arbeitet, lässt sich allerdings kaum sagen. Der Grund liegt laut Verteidigungsministerium zum einen darin, dass KI keine für sich stehende Technik und Entität sei und darum – ausgenommen in Vorlesungen an Bundeswehruniversitäten und in Projekten – kein alleiniges Ausbildungsthema ist. Auch ist nicht klar, wo welche KI verborgen in Software und Subsystemen arbeitet. Hinzu kommt die Lehre außerhalb der Bundeswehr, etwa für angehende Bundeswehrärzte. Würden sie an externen Medizinfakultäten zum Thema „KI-gestützte Behandlungsmethoden“ unterrichtet, sei eine Übersicht unmöglich, so das BMVg. Nicht zuletzt kommen Sicherheitsgründe hinzu, denn viele dieser neuen Technologien unterliegen der militärischen Geheimhaltung.

Fest steht aber: Ohne KI keine militärische Zukunft. Auf die Soldatenausbildung hat sie starke Auswirkungen, weil sie die Art und Weise verändert, wie Soldaten auf Konflikte vorbereitet werden. Aus dem Verteidigungsministerium heißt es dazu: „Zur Erfüllung des Verteidigungsauftrages müssen wir sowohl technisch als auch im Rahmen der persönlichen Befähigung mit der Zeit gehen und neue Potenziale nutzen,“ so ein BMVg-Sprecher gegenüber loyal. Dabei geht es unter anderem um Entwicklung von Strategie- und Planspielen (siehe loyal-Ausgabe 10/2024). Aber das ist nicht alles: Auf dem Gefechtsfeld wird KI der kommende Erfolgsfaktor schlechthin sein.

Faktor Mensch bleibt unverzichtbar

Soldaten muss einerseits verantwortungsvolles Handeln vermittelt werden, andererseits könnten KI-gestützte Systeme durch schnelle strategische Entscheidungen menschliches Agieren beeinflussen. „Es gilt“, so Brigadegeneral Frank Pieper, Direktor Strategie und Fakultäten der Führungsakademie der Bundeswehr, „Chancen und Potenziale von KI optimal unter Berücksichtigung der potenziellen Risiken zu nutzen. Ich sehe aber vor allem Chancen. Die bei strategischen Entscheidungen notwendige Analyse von Massendaten überfordern das menschliche Gehirn häufig.“ Genau hier habe KI ihre Kernkompetenz – im Verarbeiten riesiger Datenmengen, der sogenannten Big Data, die auf dem Gefechtsfeld der Zukunft generiert werden. Fähigkeiten wie Empathie verbleiben hingegen exklusiv beim Truppenführer. Der menschliche Genius addiert sich zu KI-gestützten Ergebnissen und bleibt unverzichtbar.

Will die Bundeswehr handlungsfähig sein, muss sie ihren Kernauftrag in einem sich transformierenden Umfeld erfüllen können. Professor Dr. Wolfgang Koch, Chief Scientist und Leiter der Abteilung Sensordaten- und Informationsfusion am Fraunhofer-Institut in Bonn, sagt über die Zukunft der militärischen Ausbildung: „Soldaten müssen lernen, künstlich intelligente Maschinen letztverantwortlich zu beherrschen. Wie Untergebene unterstützen sie das Wahrnehmen, Entscheiden und Wirken des Menschen ‚at machine speed‘, indem sie aus Massendaten realzeitnahe Lagebilder erstellen und Handlungsoptionen anbieten. Teil- oder vollautomatisiert setzen diese Maschinen vom Soldaten getroffene Entscheidungen um und steuern Plattformen, Sensoren und Effektoren.“

Beispiel „Prometheus“, initiiert im Kommando Territoriale Aufgaben: Mithilfe von KI liefert diese Software, die Informationen autonom sammelt und auswertet, umfassende Lagebilder in Echtzeit. So kann auf Katastrophen wie Hochwasser schon im Entstehungsprozess reagiert werden. Auch das Programm „Sitaware“ zeigt detaillierte Echtzeitlagebilder und ermöglicht es, diese mit den Bündnispartnern zu teilen.

Kritikpunkte im Verhältnis von Mensch und Maschine benennt Dr. Frank Sauer, Forscher an der Universität der Bundeswehr München. Aus völkerrechtlicher Perspektive wird, so betont Sauer, intensiv diskutiert, wer im Rahmen der Anwendung militärischer Gewalt eigentlich die Verantwortung trägt, wenn Waffensysteme autonom Ziele angreifen und dabei Zivilisten illegal Leid zufügen. Außerdem sei aus ethischer Sicht zu fragen, ob es die Würde des Menschen verletze, wenn Entscheidungen über Leben und Tod auf dem Schlachtfeld flächendeckend an Maschinen delegiert würden. Sauer spitzt es so zu: „Für die Getöteten mag es vielleicht keinen Unterschied machen, ob ein Mensch oder ein Algorithmus ihren Tod bewirkt hat. Aber die Gesellschaft, die mit dem Töten im Krieg ihr kollektives menschliches Gewissen nicht mehr belastet, riskiert die Aufgabe grundlegender zivilisatorischer Werte und humanitärer Prinzipien.“

Ob geschossen oder bombardiert wird, entscheidet (noch) der Mensch. Die Anforderungen an die Bundeswehr als Instrument gesamtstaatlicher Sicherheitsvorsorge sind gestiegen. Ob Panzer, Schiff oder Flugzeug – ohne moderne Software funktioniert kein Waffensystem. Darum wurde im November vergangenen Jahres unter anderem von Experten aus dem Wehrressort ein Positionspapier veröffentlicht, in dem das Konzept „Software-Defined Defence“ (SDD) eine tragende Rolle spielt. SDD soll die Fähigkeit zur Zusammenarbeit der Systeme mit- und untereinander steigern. Wolfgang Koch vom Fraunhofer-Institut: „Software-Defined Defence erfordert eine Vielzahl von KI-Methoden. Da Automatisierung zugleich Verwundbarkeit bedeutet, ist der Schutz gegen Angriffe aus dem Cyberspace essenziell.“

„Persönliche“ Beziehungen zu Avataren

Dass KI im Bildungssystem eine lange Historie mit immer neuen Möglichkeiten hat, greifen Professor Dr. Bernhard Ertl und Dr. Maximilian Finke, beide von der Universität der Bundeswehr München, in einer noch unveröffentlichten Studie auf. Sie nennen beispielsweise KI-basierte Avatare, die Menschen in einer gemeinsamen virtuellen Welt verkörpern und mit den Lernenden auf Basis pädagogischer Anweisungen interagieren. Ertl: „Die Vorteile davon liegen in quasi persönlicher Kommunikation der Lernenden mit der KI.“ Je personifizierter und kontinuierlicher Avatare als Lernbegleiter auftreten, desto höher sei die Wahrscheinlichkeit, dass die Soldaten „persönliche“ Beziehungen zu ihren Avataren aufbauen. Moderne Avatare können Emotionen durch Mimik zeigen und aus Texteingaben Affekte erkennen. Ein wunder Punkt könnte dabei unzureichender Datenschutz sein. Ertl: „KI-Modelle lernen aus den Eingaben, doch in der Regel ist nicht nachvollziehbar, wie und in welchem Umfang diese Daten gespeichert werden. Wenn persönliche, vertrauliche oder schützenswerte Informationen in den Trainingsprozess der KI einfließen, lassen sie sich an anderer Stelle auch wieder extrahieren“ – und unter Umständen missbrauchen.

Soldaten sollen durch KI entlastet werden. Im Idealfall denkt und lenkt der Mensch, er urteilt, entscheidet und verantwortet – die Maschine liefert Daten, steuert und beschleunigt die Prozesse. Aber auch das Gegenteil ist denkbar: der entmündigte Mensch, der von der Maschine geführt wird, der Kontrolle nur noch simuliert und unter Zeitdruck Anweisungen der KI ausführt, ohne zu begreifen, was geschieht. Gegenwärtig stehen nicht nur Militärs, sondern jeder, der KI-Programme entwickelt und anwendet, vor der Frage, wohin sich die Waage in der weiteren technischen Entwicklung neigen wird.

Anwendungsfelder von KI in der Soldatenausbildung

Simulation und Virtual Reality (VR)
In Simulationstrainings kommen KI-basierte Systeme zum Einsatz, um realistische Kampfszenen in virtuellen Umgebungen zu schaffen. Damit können Soldaten in sicheren und kontrollierten Umgebungen üben. Die erstellten Szenarien passen sich in Echtzeit an Verhalten und Entscheidungen der Soldaten an.

Personalisiertes Training
KI hilft, personalisierte Lernprogramme zu entwickeln, die sich an die individuellen Stärken, Schwächen und Lernstile der Soldaten anpassen. Das Training wird kontinuierlich angepasst und optimiert, indem KI ein Feedback zu Leistung und Fortschritt gibt.

Datenanalyse und Feedback-Mechanismen
Datenmengen aus Trainingseinheiten werden mittels KI analysiert, um tiefere Einblicke in die Leistungsfähigkeit der Soldaten zu gewinnen. So werden Schwachstellen identifiziert und Verbesserungen gezielt entwickelt.

Automatisierung von Routineaufgaben
Verwaltung von Trainingsplänen, Logistik der Ausbildung und Erfassung von Leistungsdaten. Das reduziert den administrativen Aufwand und ermöglicht es Ausbildern, sich stärker auf die Entwicklung taktischer Fähigkeiten zu konzentrieren.

Die Autorin

Vivian Simon ist Buchautorin und Fachjournalistin mit dem Schwerpunkt „Change Management für Cybersicherheit“.