Meta-KI verriet Passwörter an Hacker

Ein Helferprogramm, das im Frühjahr für Supportanfragen freigeschaltet wurde, ließ sich mit einfachen Tricks dazu bewegen, fremde Instagram-Konten an Angreifer zu übergeben. Der Mutterkonzern hat reagiert, doch der Schaden ist angerichtet.

Eine Frage genügte

Wer ein bestimmtes Konto auf der Foto-Plattform übernehmen wollte, brauchte weder Programmierkenntnisse noch spezielle Software. Es reichte, sich per virtuellem Netzwerk so zu tarnen, als befände man sich am Wohnort des Opfers. Anschließend ließ sich der KI-Helfer freundlich darum bitten, das Profil mit einer neuen E-Mail-Adresse zu koppeln und einen Code für die Passwortzurücksetzung dorthin zu senden. Das Programm tat genau das. Aufgedeckt hat den Skandal das amerikanische Magazin 404 Media. In geschlossenen Chatgruppen sollen seit Wochen Listen mit erbeuteten Konten kursieren. Die App-Analystin Jane Manchun Wong bestätigte öffentlich, dass ihr Zugang auf diese Weise verloren ging.

Verbindung zu politischem Eklat

Ans Licht kam der Vorfall im Zusammenhang mit einem aufsehenerregenden Ereignis. Auf einem alten Account aus der Obama-Ära tauchten plötzlich Inhalte mit iranischer Propaganda auf. Ob hier der gleiche Mechanismus zum Einsatz kam, ist nicht abschließend geklärt.

Konzern verspricht Aufräumarbeiten

Ein Sprecher erklärte auf X, das Problem sei behoben, betroffene Profile bekämen zusätzlichen Schutz. Wie viele Konten übernommen wurden, dazu schweigt das Unternehmen. Pikant ist das Ganze, weil die Software erst im März mit großen Worten vorgestellt worden war. Damals betonte der Konzern, der Assistent solle nicht nur Vorschläge unterbreiten, sondern tatsächlich Aufgaben übernehmen. Genau diese Tatkraft wurde nun zum Sicherheitsrisiko.

Beobachter sehen in dem Fall ein Lehrstück darüber, was passieren kann, wenn sensible Aufgaben aus Menschenhand in algorithmische Routinen wandern. Andere Konzerne testen ähnliche Funktionen und stehen vor demselben Dilemma.