Босс "этичного ИИ" Anthropic считает нормальным сотрудничество с диктаторами

В так называемой "конституции" для своего чат-бота Claude компания Anthropic заявляет о приверженности принципам Всеобщей декларации прав человека, предписывая боту в своих ответах отдавать приоритет свободе, равенству, свободе мысли и достойному уровню жизни.

Anthropic долгое время позиционировала себя как компания, ставящая безопасность на первое место. Фирма была основана бывшими сотрудниками OpenAI с обязательством развивать искусственный интеллект этично и ответственно.

Однако спустя четыре года руководители компании запели совершенно иную песню. Как сообщает Wired, генеральный директор Дарио Амодей признал в сообщении Slack, что принятие финансирования от лидеров стран Ближнего Востока – а Anthropic готовится сделать именно это, ведя переговоры с Объединенными Арабскими Эмиратами и Катаром – будет наполнять карманы "диктаторов".

Это реальный минус, и я не в восторге от этого. К сожалению, я думаю, что принцип "плохие люди никогда не должны получать выгоду от нашего успеха" довольно сложно применять в бизнесе.

Замечания Амодея подчеркивают, как даже компании, делавшие ставку на этичные практики, всё чаще отказываются от этих целей в гонке за финансированием огромных проектов по расширению инфраструктуры ИИ.

Даже Anthropic, долгое время позиционировавшая себя как более этичная альтернатива OpenAI, поддается соблазну принять деньги от государств Персидского залива, несмотря на то, что в прошлом году Амодей отклонил саудовское финансирование, ссылаясь на соображения национальной безопасности.

Амодей пишет в сообщениях через Slack, цитируемых Wired:

На Ближнем Востоке действительно огромное количество капитала, легко $100 млрд или больше. Если мы хотим оставаться на передовой, мы получаем очень большую выгоду от доступа к этому капиталу. Без него существенно сложнее оставаться конкурентоспособными.

Амодей попытался повернуть ситуацию в свою пользу, утверждая, что компания только получает деньги от стран Персидского залива, а не инвестирует в создание инфраструктуры там. Он заявил, что передавать авторитарным правительствам ключевое оборудование для ИИ – опасно.

Эта новость появилась после того, как OpenAI объявила о своем участии в проекте ИИ-инфраструктуры стоимостью $500 млрд под названием Stargate, поддерживаемом королевской семьей ОАЭ.

Амодей обвинил конкурирующие компании в том, что Соединенные Штаты не смогли предотвратить гонку уступок, в которой компании получают огромное преимущество, всё глубже погружаясь в отношения с Ближним Востоком. Осознавая негативные последствия от принятия денег из стран Персидского залива, Амодей обвинил СМИ в том, что они всегда ищут лицемерие, при этом будучи очень глупыми и потому плохо понимающими суть проблемы.

Учитывая негативную реакцию после утечки его заметки, Амодей, похоже, точно предсказал последующую головную боль для PR-отдела.

В том же сообщении он раскрыл, что его ИИ-компания очень заинтересована в коммерческом обслуживании Ближнего Востока, что, по его мнению, является "чистым позитивом, пока мы не строим там дата-центры и соблюдаем нашу политику допустимого использования".

Это странное заявление рисует картину индустрии ИИ, оказавшейся между молотом и наковальней. По мере роста амбиций компании отбрасывают свои принципы, отчаянно пытаясь обеспечить достаточное финансирование для реализации своих амбиций AGI.