380.000 Euro: OpenAI sucht Forscher für die Risiken selbstlernender KI

OpenAI hat eine Stelle ausgeschrieben, die sich mit den Gefahren rekursiv selbstverbessernder KI befasst. Das Gehaltspaket beträgt bis zu 380.000 Euro. Der Zeitdruck ist real: Führende KI-Labore nähern sich einem Wendepunkt.

Selbstlernende KI als wachsendes Sicherheitsrisiko

OpenAIs Preparedness-Sicherheitsteam sucht erfahrene technische Experten zur Vorbereitung auf rekursive Selbstverbesserung, also auf KI-Systeme, die sich selbst trainieren und optimieren können. Das Gehaltspaket liegt zwischen 250.000 und 380.000 Euro. Diese Arbeit basiere auf dem Nachdenken über Probleme, die bislang noch nicht existieren, aber in der Zukunft auftreten könnten, heißt es in der Ausschreibung. Forscher von METR ermittelten im März, dass sich die Komplexität der Aufgaben, die KI-Modelle bewältigen können, etwa alle sieben Monate verdoppelt. Google-DeepMind-Chef Demis Hassabis erklärte, die Menschheit stehe am Fuß der Singularität.

Altman und Clark setzen konkrete Zeitrahmen

OpenAI-CEO Sam Altman hat das Ziel gesetzt, bis September einen automatisierten KI-Forschungspraktikanten auf hunderttausenden Chips laufen zu lassen und bis März 2028 einen echten automatisierten KI-Forscher zu entwickeln. Anthropic-Mitgründer Jack Clark hält es für etwa 60 Prozent wahrscheinlich, dass es bis Ende 2028 KI-Forschung ohne menschliche Beteiligung geben wird. Die ausgeschriebene Stelle umfasst unter anderem den Schutz von Modellen vor Data Poisoning, die Entwicklung von Tools zur Interpretation von Modellentscheidungen sowie die Messung des Fortschritts in Richtung Automatisierung von technischem Personal. Das Preparedness-Team hat die Aufgabe, schwerwiegende Schäden durch KI zu verhindern.