OpenAI покинул еще один специалист по безопасности ИИ
В посте на X Венг написала, что после 7 лет работы в OpenAI почувствовала, что «готова начать все с чистого листа и исследовать что-то новое». Она добавила, что решение покинуть компанию было «крайне трудным»:
«Глядя на то, чего мы достигли, я очень горжусь всеми в команде по системам безопасности и абсолютно уверена, что коллектив продолжит процветать».
Венг пришла в OpenAI в команду стартапа по робототехнике, а в 2021 году перевелась в подразделение по исследованию прикладного ИИ. После запуска GPT-4 в 2023 году Лилиан было поручено создать специальную команду для разработки систем безопасности, где сейчас порядка 80 человек.
Уход Венг стал еще одним звеном в длинной цепи покидающих OpenAI исследователей в области безопасности ИИ, многие из которых обвиняли компанию в том, что она ставит коммерческую выгоду от продукта выше безопасности.
Ранее компанию оставили Илья Суцкевер и Ян Лейке — руководители распущенной команды Superalignment, которая пыталась разработать методы управления сверхразумными системами ИИ. Среди ушедших из-за неосторожности в отношении политик ИИ были также Андрей Карпати, Майлз Брандейдж и Сучире Баладжи.
Кроме того, OpenAI массово оставляет и топ-менеджмент. Среди руководителей, покинувших OpenAI в последние месяцы, — технический директор Мира Мурати, соучредитель Джон Шульман, директор по исследованиям Боб МакГрю и вице-президент по исследованиям Баррет Зоф.
Некоторые из этих людей, в том числе Лейке и Шульман, перешли в конкурирующую с OpenAI компанию Anthropic, а другие основали собственные предприятия.
Фото на обложке: Unsplash