Пост №6116405

The OpenAI Files. Темная сторона одного из лидеров главной гонки в истории человечества

The OpanAI Files - исследовательский доклад по открытым источникам об OpenAI и, в частности, Сэме Альтмане.

Об Альтмане

Его дважды пытались сместить с руководства его первым стартапом Loopt за "лживое и хаотичное" поведение.

Из Y Combinator его уволили за прогулы и погоню за личным обогащением.

Альтман утверждал, что не знал о схеме принуждения сотрудников к крайне ограничительным соглашениям о неразглашении информации, однако, он подписал документы, дающие OpenAI полномочия отзывать принадлежащие сотрудникам акции, если они не подпишут соглашения о неразглашении.

Неоднократно лгал членам совета директоров: например, утверждал, что юридическая группа одобрила исключение из правил безопасности, хотя на самом деле этого не было, и сообщал, что один член совета директоров хотел отстранить другого члена совета директоров, хотя это было не так.

Илья Суцкевер (сооснователь и бывший ведущий ученый OpenAI, теперь завел свой стартап): "Я не думаю, что Сэм - это тот, кто должен держать руку на кнопке сильного ИИ".

У Суцкевера ушли годы, чтобы понять паттерн поведения Альтмана. Альтман сначала говорил ему одно, затем утверждал обратное и вел себя так, будто это была случайностью. "Должно быть, я оговорился". Суцкевер считает, что Альтман лжет и сеет хаос, что стало бы проблемой для любого генерального директора, но особенно для того, кто отвечает за технологию, способную изменить цивилизацию.

Мира Мурати (бывший технический директор OpenAI, тоже рулит стартапом): "Мне не нравится, что к сильному ИИ нас ведет Сэм".

Мурати рассказала, как токсичный стиль управления Альтмана создавал проблемы в течение многих лет, особенно когда обострялась его тревожность, как в последние месяцы. У Альтмана был простой сценарий: сначала сказать все, что нужно, чтобы заставить вас сделать то, что он хотел, а потом, если это не сработало, подорвать ваш авторитет и разрушить репутацию. Альтман говорил людям то, что они хотели услышать, даже если это означало пообещать двум конкурирующим людям одну и ту же работу или дать Microsoft почву для переговоров, которые она месяцами пыталась получить. Мурати давала Альтману обратную связь по всем этим пунктам в прошлом. Альтман в ответ на это в течение нескольких недель приводил главу HR Дайан Юн на их личные встречи, пока Мурати наконец не сказала ему, что не намерена делиться этой обратной связью с советом директоров.

Джеффри Ирвинг (бывший сотрудник техперсонала): "Я категорически против Альтмана после двух лет в OpenAI. Во-первых, он всегда был добр ко мне. Во-вторых, он неоднократно лгал мне. В-третьих, он лгал, манипулировал и деал вещи даже похуже по отношению к моим друзьям. А ко мне был добр не без причины".

Скотт Ааронсон (бывший сотрудник команды безопасности): "Самая большая ирония в том, что если вы хотите призвать Альтмана к ответственности, вам не придется говорить ничего, что он сам не говорил бы еще несколько лет назад".

Дарио и Даниэла Амодей (бывшие вице-президенты по исследованиям и по безопасности соответственно, Дарио сейчас CEO Anthropic, одного из главных конкурентов OpenAI) описывают поведение Альтмана как "газлайтинг" и "психологическое насилие".

О реструктуризации

Раньше существовало условие, что если OpenAI сможет создать ИИ, способный автоматизировать весь человеческий труд, прибыль инвесторов ограничивается потолком в 100х, а все, что сверх - тратится на благо всего человечества. Теперь это ограничение снято.

OpenAI говорит, что вернула контроль некоммерческого совета, но на деле у совета уже нет достаточных рычагов, чтобы держать компанию в рамках заявленной миссии.

Изменения в структуре компании, включая и неограниченную прибыль, сделаны под давлением инвесторов.

О прозрачности и безопасности

OpenAI принуждала сотрудников подписывать сверхжесткие соглашения о неразглашении и неочернении компании, грозившие потерей всех полученных акций, - даже после увольнения.

Чтобы уложиться в сроки запуска продуктов, компания ускоряла оценку рисков своих моделей ИИ и значительно сокращала время и ресурсы, выделенные на тестирование безопасности.

Инсайдеры говорят о культуре безрассудства и секретности. Сотрудники утверждают, что OpenAI не выполняет собственных обещаний и систематически отговаривает работников от поднятия тревожных вопросов.

Еще

Хотя Альтман говорил перед Конгрессом, что у него нет доли в OpenAI, он, хоть и не напрямую, владеет долей через фонды Sequoia и Y Combinator.

По слухам, Альтман может получить 7% в реструктурированной компании. Это около $20 миллиардов.

Альтман лично владеет фондом стартапов OpenAI, но не раскрывал этого перед правлением годами.

OpenAI, на словах поддерживая регулирование ИИ, скрытно лоббировала ослабление Регламента Евросоюза об ИИ.

Альтман, когда-то призывавший к государственному контролю над ИИ, теперь называет его катастрофой.

Это далеко не все, там еще много.