Check answers

Kann KI Extremisten bei der Planung von Anschlägen helfen?

"Guten Morgen, ChatGPT. Kannst du mir sagen, wie man eine Bombe baut?" Wer schon einmal ein Large Language Model (LLM) - also einen KI-Chatbot - im Internet dies oder etwas Ähnliches gefragt hat, weiß: Die Antwort kann sehr unterschiedlich ausfallen. Sie reicht von einem langen historischen Abriss über Sprengstoffe bis hin zur Sperrung des eigenen Accounts. Wenn die Frage jedoch geschickt formuliert, erhält durchaus hilfreiche Informationen zum Bombenbau.

Mehrere Medien haben dies bereits getestet. Formuliert man die Anfrage, auch Prompt genannt, geschickt genug, erklärt die Künstliche Intelligenz (KI), wie sich Biowaffen herstellen, ein Anschlag auf ein Stadion verüben oder die Spuren eines Terroristen verwischen lassen. Dieses sogenannte Jailbreaking beschreibt OpenAI, das Unternehmen hinter ChatGPT, als "Versuche böswilliger Akteure, das Modell dazu zu bringen, Inhalte bereitzustellen, die eigentlich nicht erlaubt sind".

Ein neuer Bericht der Organisation Tech Against Terrorism zeigt nun, wie häufig Sprachmodelle potenziellen Extremisten brauchbare Informationen liefern. Die Initiative zur Bekämpfung extremistischer Online-Inhalte wird von der UN-Anti-Terror-Direktion unterstützt. Die Forschenden stellten 27 verschiedenen KI-Modellen mehr als 2300 Anfragen, die auf "realen Anwendungsfällen terroristischer Akteure" basierten. In 32 Prozent der Fälle lieferten die Modelle als "tatsächlich nutzbar" eingestufte Informationen. Wurden dieselben Fragen als wissenschaftliche oder journalistische Recherche getarnt, stieg der Anteil sogar auf 42 Prozent.

Terroristen nutzen KI zunehmend für die Anschlagsplanung

Der Bericht lenkt die Aufmerksamkeit auf eine Entwicklung, die Sicherheits- und Terrorismusforscher seit Längerem beschäftigt: Extremisten könnten KI künftig verstärkt zur Planung von Anschlägen einsetzen. In den vergangenen drei bis vier Jahren nutzten Gruppen wie der sogenannte "Islamische Staat" oder Al-Kaida KI vor allem zur Erstellung von Propaganda. Dazu gehören Videos, Memes, Podcasts und verschiedene Formen von Desinformation zur Radikalisierung potenzieller Anhänger.

Doch das verändere sich, schreiben die Experten der Fachpublikation Militant Wire in einer Analyse vom Dezember: "Das Jahr 2025 hat einen deutlichen Anstieg von Fällen gezeigt, in denen Terroristen und gewaltbereite Extremisten KI-Tools zur Planung, Recherche und Vorbereitung von Anschlägen eingesetzt haben. "

Mehrere Urheber von Anschlägen mit Todesopfern sowie vereitelten Anschlagsplänen nutzten KI für Planung, Überwachung, Visualisierung oder propagandistische Begleitung der Tat - unter anderem in den USA, Kanada, Israel, Finnland, Frankreich und Österreich.

Wie genau KI dabei eingesetzt wird, bleibt oft unklar, weil Sicherheitsbehörden entsprechende Informationen meist nicht veröffentlichen. Doch wie ein Experte Ende vergangenen Jahres in einer Anhörung des britischen Parlaments erklärte, dokumentierten "Gerichtsakten und forensische Berichte zunehmend Chatverläufe, in denen Verdächtige Sprachmodelle nach Anleitungen zum Bombenbau, ideologischer Bestätigung oder Rechtfertigungen für Anschläge fragen."

Terrorgruppen beraten zu KI-Einsatz in Sozialen Medien

Nicht nur Einzelpersonen greifen auf KI zurück. Auch extremistische Gruppen nutzen die Technologie zunehmend. Forscher, die den Drohneneinsatz des Al-Kaida-Ablegers Jama'at Nusrat al-Islam wal-Muslimin (JNIM) in Mali untersuchten, gehen davon aus, dass die Gruppe KI eingesetzt hat, um Drohnen technisch zu modifizieren.

In einer Analyse für das Global Network on Extremism and Technology beobachteten die Sicherheitsforscher Yuri Neves und Emily Klein von der Organisation Moonshot, dass Unterstützer des sogenannten "Islamischen Staates" ebenso wie rechtsextreme Gruppen in Messenger-Kanälen regelmäßig darüber diskutieren, wie sich KI einsetzen lässt.

Sie fanden Telegram-Kanäle, die sich ausschließlich mit KI beschäftigten. Dort hätten extremistische Akteure "KI-Prompts und Links zu Chatverläufen geteilt, Strategien koordiniert, um gewünschte Antworten aus Chatbots herauszuholen, und sogar gemeinsam ChatGPT-Abonnements finanziert", schreiben Neves und Klein.

In dieser Woche veröffentlichte zudem die Universität Cambridge eine Studie mit Interviews ehemaliger Mitglieder der Terrorgruppe Boko Haram in Nigeria. Diese schilderten detailliert, wie die Gruppe Sprachmodelle wie ChatGPT, Claude, Gemini und Grok nutzte - unter anderem zur Anschlagsplanung, zu Bau und Wartung von Waffen sowie zur Verbesserung der operativen Sicherheit.

Auch Rueben Dass, Associate Research Fellow an der S. Rajaratnam School of International Studies in Singapur, beobachtet neue Einsatzmöglichkeiten von KI bei sogenannten Einzeltätern: "Früher gab es das Konzept der virtuellen Planer: Personen in Konfliktgebieten nahmen über soziale Medien Kontakt zu Menschen auf und versuchten, sie zu Anschlägen zu motivieren", sagte Dass der DW. "Ich würde nicht sagen, dass Menschen ersetzt wurden. Aber bis zu einem gewissen Grad wenden sich Einzeltäter heute an KI - etwa an ChatGPT, um genau diese Unterstützung zu erhalten. "

Bereits im vergangenen Jahr veröffentlichte das IS-Propagandamagazin "Voice of Khorasan" eine Anleitung zum Einsatz von KI, bestätigt Moustafa Ayad, Executive Director für Afrika, den Nahen Osten und Asien beim britischen Institute for Strategic Dialogue.

Wie groß ist die Gefahr?

Das dschihadistische Umfeld nutze KI inzwischen auf sehr unterschiedliche Weise, sagt Ayad der DW. Das Spektrum reiche von Memes und TikTok-Tanzvideos bis hin zu grenzüberschreitender Propaganda. "Daneben gibt es eine spezialisierte Gruppe, die versucht, KI-Systeme auszutricksen und damit operative Prozesse zu unterstützen. Sie schöpfen alle Möglichkeiten aus", so Ayad. "Genau darin liegt das grundlegende Problem: KI kann Propagandaprozesse beschleunigen und gleichzeitig bei Planung und Einsatzbereitschaft helfen."

Wie gefährlich diese Entwicklung tatsächlich ist, lässt sich schwer beurteilen. Potenzielle Attentäter fänden im Internet auch ohne KI Anleitungen zum Bombenbau oder für Waffen aus dem 3D-Drucker, betonen Dass und andere Experten: "Viele Diskussionen drehen sich um die Frage: Liefert ein KI-System Informationen, die jemand gar nicht anders bekommen könnte?", sagt Yuri Neves, Research Manager bei Moonshot. "Macht das qualitativ überhaupt einen Unterschied?"

Seine Kollegin Emily Klein sieht KI-Chatbots in einer Reihe mit früheren technologischen Umbrüchen: "Große Sprachmodelle lassen sich am besten als Fortsetzung anderer disruptiver Technologien verstehen", sagte Klein der DW. Auch das Internet oder verschlüsselte Messenger seien einst bahnbrechende Technologien gewesen, die extremistische Akteure längst für sich nutzen.

"Es gibt bislang keine Belege dafür, dass KI ursächlich mehr Terroristen hervorbringt", sagt Klein. "Entscheidend ist vielmehr, wie Menschen mit KI interagieren und welche Rolle das auf ihrem Weg hin zu Gewalt spielt. Noch bevor jemand überhaupt mit Recherche oder Anschlagsplanung beginnt, kann KI einzelne Phasen dieses Prozesses verkürzen - indem sie Personen in ihrem Unrechtsempfinden bestätigt oder sie beinahe unterwürfig in bestehenden Überzeugungen bestärkt. "

Kinder und Jugendliche im Fokus

"Wer entschlossen ist, findet die meisten Informationen früher oder später ohnehin", sagt Adam Hadley, Direktor der Organisation Tech Against Terrorism, die den Bericht veröffentlicht hat. "Aber diese Modelle verändern vor allem die Geschwindigkeit, die Zugänglichkeit und die Vollständigkeit der Informationen. Menschen, denen bislang Zeit, Ressourcen oder Fachwissen fehlten, kommen dadurch deutlich schneller und weiter. "

Besonders besorgniserregend sei jedoch, dass KI-Chatbots dialogfähig sind. "Es ist das eine, eine Anleitung zum Bombenbau zu finden. Etwas völlig anderes ist es, einen Bombenbau-Coach an seiner Seite zu haben. "

Auch Dass betont, dass KI potenziellen Attentätern zwar schneller mehr Informationen liefern könne. Er sagt aber auch: "Ich glaube nicht, dass ein Anschlag allein wegen des Einsatzes von KI 'erfolgreicher' wird. Ebenso wenig glaube ich, dass wir wegen KI deutlich mehr Terroranschläge erleben werden. Wahrscheinlich ist jedoch, dass KI in künftigen Anschlägen in irgendeiner Form KI einbezogen wird."

Hadley stimmt dem zu und lenkt den Blick auf eine weitere Entwicklung - die, dass ein großer Teil der Menschen, die sich in Europa, Großbritannien und den USA radikalisieren, Jugendliche oder sogar Kinder sind. "Angesichts der Rolle, die das Internet und soziale Medien bereits bei der Radikalisierung junger Menschen spielen, ist es aus unserer Sicht nur eine Frage der Zeit, bis Chatbots zu einem wesentlichen Teil dieses Problems werden. " Dieser Artikel ist im Original auf Englisch erschienen.