Künstliche Intelligenz - OpenAI gründet Sicherheitskomitee nach Mitarbeiterbeschwerden

OpenAI hat bekanntgegeben, dass es ein Komitee gegründet hat, dass die Sicherheit der KI des Unternehmens überwachen soll, berichtet CNN. Das amerikanische Startup trifft diese Entscheidung nur wenige Wochen nachdem Jan Leike seinen Abgang verkündet hat. Der ehemalige Mitarbeiter kritisierte, dass die Sicherheitsstandards bei OpenAI vernachlässigt worden seien.

Ehemalige OpenAI-Mitarbeiter schließen sich Konkurrenz an

Der Forscher nannte ein „Zerwürfnis“ zwischen der OpenAI-Führung und sich als Grund für seine Kündigung. Nun hat er sich dem KI-Unternehmen Anthropic angeschlossen, berichtet „t3n“. Ein Unternehmen, das sich aus ehemaligen OpenAI-Mitarbeitern zusammenstellt, die unzufrieden mit der kommerziellen Ausrichtung und dem Sicherheitskurs der Firma waren.

Sicherheitsbedenken von OpenAI-Forschern sollen auch für den zwischenzeitlichen Rauswurf von CEO Sam Altman verantwortlich sein. Er hatte Warnungen ignoriert. Altman ist jedoch nach einigen Tagen wieder zurückgekehrt.

Gegner von CEO Sam Altman verlassen OpenAI

Nicht nur Leike hat das Unternehmen verlassen. Auch Ilya Sutskever hat vor einigen Wochen verkündet, dass er nicht länger Teil des OpenAI-Teams sein wird. Er war eine der Schlüsselfiguren bei Sam Altmans Rausschmiss, obwohl er das Startup ursprünglich gemeinsam mit ihm gegründet hat. Übrig bleibt am Ende CEO Altman, der den Machtkampf bei OpenAI gewonnen zu scheinen hat und nun das Sicherheitskomitee anführen wird.

Die Aufgabe dieses Komitees soll zu Beginn darin bestehen „die Prozesse und Sicherheitsvorkehrungen von OpenAI in den nächsten 90 Tagen zu bewerten und weiterzuentwickeln.“ Anschließend wird das Sicherheitskomitee dem Vorstand des Unternehmens Vorschläge unterbreiten, um die Produkte des Unternehmens sicherer zu machen, heißt es in einem Blogbeitrag auf der Webseite von OpenAI.