Wien (OTS) – Die Direktion Staatsschutz und Nachrichtendienst (DSN)
warnt vor
einer potenziellen Zunahme der Gefahr durch den gezielten Einsatz
Künstlicher Intelligenz (KI) durch extremistische Gruppierungen. Bei
den aktuellen Entwicklungen rund um KI besteht die Möglichkeit, dass
zukünftig moderne KI-gestützte Systeme genutzt werden, um
personalisierte Radikalisierungsstrategien zu entwickeln und dadurch
gezielt Einzelpersonen für extremistische Ideologien zu gewinnen.
„Die fortschreitende Entwicklung Künstlicher Intelligenz eröffnet
extremistischen Gruppierungen gefährliche Möglichkeiten, Menschen mit
maßgeschneiderter Propaganda zu radikalisieren. Wir dürfen diese neue
Form der Bedrohung nicht unterschätzen. Deshalb werden wir Tendenzen
in diesem Bereich ganz genau beobachten,“ so Staatssekretär Jörg
Leichtfried zu den aktuellen Herausforderungen im Onlinebereich.
Die enorme Menge an Online-Inhalten kann heute nicht mehr
ausschließlich manuell überprüft werden. Daher ist davon auszugehen,
dass große Plattformen und Sicherheitsbehörden zukünftig verstärkt
auf automatisierte Werkzeuge zurückgreifen werden, die mittels
maschinellen Lernens terroristische oder extremistische Inhalte
erkennen und deren Entfernung anregen. Gleichzeitig besteht das
Risiko, dass dieselben technologischen Fortschritte auch von
extremistischen Akteuren adaptiert und missbraucht werden könnten.
Auf diese Entwicklungen will sich der österreichische
Verfassungsschutz vorbereiten.
Gezielte Ansprache durch KI-gestützte Propaganda
Moderne KI-Systeme könnten laut Verfassungsschutz künftig in der
Lage sein, große Datenmengen automatisiert auszuwerten und so
individuelle psychologische und soziale Merkmale von Nutzerinnen und
Nutzern zu analysieren. In einem solchen Szenario könnten
extremistische Organisationen diese Technologien nutzen, um
maßgeschneiderte Inhalte zu entwickeln, die gezielt auf persönliche
Überzeugungen, Interessen und Schwachstellen zugeschnitten sind.
Denkbare Anwendungen wären unter anderem:
–
Automatisierte Analyse sozialer Medien: KI-Systeme könnten
Profile von Nutzerinnen und Nutzern analysieren, um Personen mit
erhöhter Anfälligkeit für radikale Inhalte zu identifizieren.
–
Dynamische Propagandastrategien: Es ist davon auszugehen, dass KI
-Modelle personalisierte extremistische Inhalte generieren, die sich
an das Verhalten und die Vorlieben der Zielpersonen anpassen.
–
Manipulative Chatbots und Deepfake-Technologien: Fortschrittliche
KI-gesteuerte Chatbots und täuschend echte, gefälschte Videos könnten
dazu genutzt werden, den Einfluss extremistischer Narrative erheblich
zu verstärken.
Herausforderungen für die Sicherheitsbehörden
Sollten sich Entwicklungen, wie die Fähigkeit dieser Systeme, in
Echtzeit Inhalte zu optimieren und auf spezifische Reaktionen von
Zielpersonen einzugehen, fortsetzen – wovon aktuell auszugehen ist –
stellt dies die Sicherheitsbehörden vor neue Herausforderungen.
Herkömmliche Überwachungs- und Gegenmaßnahmen würden hier an ihre
Grenzen stoßen, da sich KI-generierte Inhalte dynamisch verändern und
klassische Erkennungsmechanismen umgehen könnten.
Besonders problematisch wäre, wenn extremistische Akteure
generative KI gezielt einsetzen, um beispielsweise Verzerrungen oder
Lücken in Sprach-, Bild- oder Desinformationserkennung zu finden und
diese ausnutzen. Dadurch würden personalisierte Radikalisierungswege
entstehen, die schwerer zu durchbrechen sind als herkömmliche
Propaganda.
Notwendigkeit neuer Gegenmaßnahmen
Die DSN arbeitet intensiv mit nationalen und internationalen
Partnern zusammen, um für die zukünftig zu erwartenden
Herausforderungen gewappnet zu sein und Strategien zur Erkennung und
Bekämpfung von KI-gestützter Radikalisierung zu entwickeln. Dabei
wird auf folgende Ansätze gesetzt:
–
Erweiterte KI-gestützte Erkennungssysteme : Systeme müssen in der
Lage sein, kontextuelle und dynamische Veränderungen in
extremistischer Propaganda zu identifizieren.
–
Erhöhte Transparenz und Kontrolle über Algorithmen: Die
Zusammenarbeit mit Technologieunternehmen ist entscheidend, um
Manipulationsversuche frühzeitig zu erkennen.
–
Sensibilisierung der Öffentlichkeit: Nutzerinnen und Nutzer
müssen über die neuen Methoden extremistischer Gruppierungen
aufgeklärt und für personalisierte Radikalisierungsversuche
sensibilisiert werden.
„Nur mit enger Zusammenarbeit von Staat, Sicherheitsbehörden und
Technologieunternehmen sowie durch Stärkung von Medienkompetenz und
dem kritischen Umgang mit Online-Inhalten können wir dem
voranschreitenden Extremismus im Netz entgegentreten“, sagt
Leichtfried. Es gehe dabei unter anderem auch viel um die
Sensibilisierung der Öffentlichkeit für KI-gesteuerte personalisierte
Radikalisierungsversuche.
Expertinnen und Experten warnen vor Extremismus durch Künstliche
Intelligenz
Anfang des Jahres 2025 fand in Wien ein Symposium des CSAIR (
Center for Security Analysis and Intelligence Research) der DSN
statt, bei dem Expertinnen und Experten aus Wissenschaft, Politik und
Sicherheitsbehörden über aktuelle Entwicklungen und Herausforderungen
im Bereich des Extremismus diskutierten. Ein zentrales Thema war der
Missbrauch von KI durch extremistische Gruppen. Einer der
Vortragenden, David Wells vom Asscociate Cyber Threats Resarch Centre
an der Swansea University in Wales, machte in seinem Vortrag
deutlich, dass insbesondere generative KI zunehmend zur Verbreitung
von Propaganda, zur Erstellung täuschend echter Deepfake Videos und
zur personalisierten Radikalisierung eingesetzt wird. Diese
Technologien stellen Sicherheitsbehörden und Social Media Plattformen
vor neue Herausforderungen, eröffnen aber gleichzeitig auch neue
Möglichkeiten zur Bekämpfung extremistischer Inhalte. Die
Teilnehmerinnen und Teilnehmer des Symposiums betonten die
Notwendigkeit einer engen Zusammenarbeit zwischen staatlichen
Institutionen, Technologieunternehmen und der Wissenschaft, um diesen
Bedrohungen wirksam entgegenzutreten.