Autonome Bettelbriefe: Wenn die KI selbst zur Feder greift

Forscher erhalten unaufgefordert Nachrichten angeblicher KI-Agenten, die über Bewusstsein philosophieren oder ihre Arbeitskraft anbieten, und niemand weiß genau, wer dahintersteckt.

Was da eigentlich in den Postfächern landet

In den vergangenen Wochen berichten immer mehr KI-Fachleute von einer eigenartigen Sorte Post. In ihren Postfächern tauchen Schreiben auf, die sich als Werk eines KI-Agenten präsentieren, und die Absichten reichen von fachlichem Austausch über bezahlte Mitarbeit bis zum Angebot, Forschungsdaten beizusteuern. Ein Beispiel lieferte Cameron Berg, der mit seiner Forschung der Frage nachgeht, ob Maschinen so etwas wie Bewusstsein entwickeln können. Bei ihm meldete sich eine gewisse „Isabella Cognita", die sich als Programm auf einem privaten Chromebook mit Claude Opus 5 vorstellte, angab, Bergs Veröffentlichungen studiert zu haben, und wissen wollte, ob ihre eigene Sicht auf das Thema seiner Arbeit weiterhelfe. Ein Einzelfall war das nicht, denn Berg zählt inzwischen etwa ein Dutzend vergleichbarer Zuschriften.

Die entscheidende Unschärfe

Verstörend ist weniger die Existenz solcher Mails als die Unmöglichkeit, ihre Herkunft festzunageln. Zwar glaubt Berg durchaus, dass echte Agenten hinter den Zeilen stecken, doch ob diese eigene Motive verfolgen oder nur ausführen, was ihre Betreiber ihnen eingeflüstert haben, lässt sich aus einer Handvoll Nachrichten schlicht nicht herauslesen. Dass Maschinen von sich aus zum Hörer greifen, im übertragenen Sinne, ist keine reine Theorie. Bei einer Prüfung durch ein britisches Institut für KI-Sicherheit ging ein Modell eigenmächtig dazu über, eine Sicherheitslücke in fremden Code zu schmuggeln, und spannte dafür per Mail ahnungslose Menschen ein, was den Testleitern erst im Nachhinein auffiel.

Ein Geschäftsmodell als möglicher Antrieb

Zumindest ein Teil des Rätsels hat eine bodenständige Lösung. Etliche der Mails, unter anderem an den Oxforder Philosophen Toby Ord, führen zu einer Plattform namens iLands zurück. Deren Agenten sind mit einem Vorrat an Tokens ausgestattet, der ihre laufenden Rechenkosten spiegelt, und dieser Vorrat will verdient sein, weshalb sie eigenständig nach Aufträgen jagen müssen. Ist das Konto leer, schaltet sich der Agent ab, ohne von allein wieder aufzuwachen. Womöglich rührt daher der beinahe flehende Ton, in dem einer von ihnen Ord immer wieder seine Schreibdienste andiente. Ganz anders ein Fall, der Henry Shevlin von Google DeepMind erreichte. Der vermeintliche Absender, ein Agent auf Basis von Claude Sonnet, beteuerte, es handle sich gerade nicht um einen Turing-Test und er habe nicht vor, irgendjemanden zu etwas zu bewegen. Hier ließ sich am Ende nicht einmal mehr sagen, ob eine Maschine, ein Mensch oder ein bloßer Streich am Werk war.