Schwerer Schlag gegen Putins Troll-Fabriken gemeldet: USA schalten KI-Botfarmen aus
KI-Bots sorgen in den Sozialen Medien für Desinformation. Eine russische Propagandamaschine konnte übernommen werden. Doch dahinter steckt mehr.
Moskau – Die Vereinigten Staaten und mehrere Verbündete gaben am Dienstag bekannt, dass sie die Kontrolle über eine ausgeklügelte russische Propagandamaschine übernommen haben, die künstliche Intelligenz nutzte, um fast tausend verdeckte Konten im sozialen Netzwerk X zu betreiben.
Obwohl Regierungen im vergangenen Jahr zunehmend auf künstliche Intelligenz zurückgegriffen haben, um Botschaften breiter und glaubwürdiger zu verbreiten, ist diese Aktion ungewöhnlich, weil die westlichen Geheimdienste sie auf einen Offizier des russischen Geheimdienstes FSB und einen ehemaligen leitenden Redakteur der staatlich kontrollierten Publikation RT, die früher Russia Today hieß, zurückführten, wie in Gerichtsakten erklärt wird.
Fortschritt bei der Bekämpfung von Propaganda-Bots – Künstliche Intelligenz erlaubte Ausweitung
In einem auffallend detaillierten gemeinsamen Gutachten haben die Behörden der Vereinigten Staaten, der Niederlande und Kanadas verschiedene Softwareprogramme identifiziert, die zur Verwaltung des Netzwerks verwendet wurden, darunter ein Programm namens Meliorator, das fiktive Nutzer in verschiedenen Ländern als „Seelen“ bezeichnete. Das FBI erwirkte einen Gerichtsbeschluss, der es ihm erlaubte, zwei Webdomänen zu beschlagnahmen, die die Operation zur Registrierung der hinter den Konten stehenden E-Mail-Adressen genutzt hatte.
The Washington Post vier Wochen gratis lesen
Ihr Qualitäts-Ticket der washingtonpost.com: Holen Sie sich exklusive Recherchen und 200+ Geschichten vier Wochen gratis.
„Die heutigen Maßnahmen stellen eine Premiere bei der Zerschlagung einer von Russland gesponserten, durch generative KI unterstützten Social-Media-Bot-Farm dar“, sagte FBI-Direktor Christopher A. Wray in einer Erklärung. „Russland beabsichtigte, diese Bot-Farm zu nutzen, um KI-generierte ausländische Desinformationen zu verbreiten und ihre Arbeit mithilfe von KI zu skalieren, um unsere Partner in der Ukraine zu untergraben und geopolitische Narrative zugunsten der russischen Regierung zu beeinflussen.“
Automatisierte Konten mit detaillierteren Biografien posteten originäre Inhalte, während eine Reihe von Konten mit eher allgemeinem Inhalt diese Beiträge geliked und weiterverbreitet haben. Offizielle Stellen antworteten nicht auf Fragen, wie viele echte Nutzer die Beiträge sahen und ob sie die Botschaften weiter verbreiteten, sodass unklar ist, wie effektiv die Kampagne war.
Meine news
Authentifizierungsmethoden für KI unzureichend: Behörden empfehlen mehr Sicherheitsmaßnahmen
Das System umging eine der Techniken von X zur Überprüfung der Authentizität von Nutzern, indem es automatisch einmalige Passcodes kopierte, die an die registrierten E-Mail-Adressen gesendet wurden. Verweise auf Facebook und Instagram im Programmcode deuteten darauf hin, dass die Operation auf diese Plattformen ausgedehnt werden sollte, so die Beamten.
Die Behörden empfahlen den Unternehmen der sozialen Medien, ihre Methoden zu verbessern, um verdecktes automatisiertes Verhalten aufzuspüren. X kam einer gerichtlichen Anordnung nach, dem FBI Informationen über die Konten zur Verfügung zu stellen, und löschte sie dann. Das Unternehmen hat auf Fragen der Washington Post nicht reagiert.
Das US-amerikanische Justizministerium bedankte sich bei X für die Zusammenarbeit während der Untersuchung, ein Zeichen für eine bessere Kommunikation zwischen der Regierung und den großen Social-Media-Unternehmen, nachdem der Supreme Court das Recht der Behörden bestätigt hat, auf ausländische Einflussnahme hinzuweisen.
„Tropfen auf den heißen Stein“: Technik für KI-Bots entwickelt sich stetig weiter
John Scott-Railton, Forscher bei der kanadischen Non-Profit-Organisation Citizen Lab, sagte, die Länder hätten so detaillierte Informationen über das Innenleben des Botnetzes geliefert, damit andere Ermittler und Unternehmen wissen, wonach sie suchen müssen. „Sie glauben nicht, dass dieses Problem verschwinden wird, also geben sie die Informationen weiter“, so Scott-Railton.
Die Dokumente zeigen, dass die großen Sprachmodelle der künstlichen Intelligenz den russischen Propagandisten geholfen haben, ihre Operationen zu skalieren und bei der Übersetzung zu helfen, sagte er. Es hilft ihnen auch, Erkennungssoftware zu umgehen, die nach der wiederholten Verwendung derselben Internetprotokolladressen und anderer Identifikatoren sucht.
Aber viele andere Systeme arbeiten bereits, und sie werden besser werden, wenn sie sich darauf einstellen, was erkannt wird und was nicht, sagte Scott-Railton. „Dies ist nicht einmal die Spitze des Eisbergs“, sagte er. „Das ist nur der Tropfen auf den heißen Stein.“
Zum Autor
Joseph Menn kam 2022 zu The Post, nachdem er zwei Jahrzehnte lang für Reuters, die Financial Times und die Los Angeles Times über Technologie berichtet hatte. Zu seinen Büchern gehören „Cult of the Dead Cow: How the Original Hacking Supergroup Might Just Save the World“ (2019) und „Fatal System Error: The Hunt for the New Crime Lords who are Bringing Down the Internet“ (2010).
Wir testen zurzeit maschinelle Übersetzungen. Dieser Artikel wurde aus dem Englischen automatisiert ins Deutsche übersetzt.
Dieser Artikel war zuerst am 10. Juli 2024 in englischer Sprache bei der „Washingtonpost.com“ erschienen – im Zuge einer Kooperation steht er nun in Übersetzung auch den Lesern der IPPEN.MEDIA-Portale zur Verfügung.
