Почему конфликт в OpenAI, ведущем мировом разработчике искусственного интеллекта, может повлиять на все человечество

После того, как вечером в пятницу 17 ноября, в худших традициях больших компаний, считающих, что журналисты и блогеры уже разбрелись по барам или проводят время с семьями, 4 из 6 членов совета директоров OpenAI проголосовали за увольнения Альтмана, события стали развиваться со сверхзвуковой скоростью

Напомним, как это было

• Увольнение Альтмана сразу же вызывает резко-негативную реакцию среди сотрудников и инвесторов, в том числе и в Microsoft, который пообещал вложить в OpenAI 13 млрд долларов.
• Совет директоров заявляет сотрудникам, что "твердо стоит на своем решении, которое является единственным путем продвижения и защиты миссии OpenAI".
• В понедельник глава Microsoft Сатья Наделла пишет в X (бывший твиттер), что Сэм Альтман и Грег Брокман (еще один соучредитель OpenAI) переходят в Microsoft.
• Генеральным директором OpenAI назначают Эммета Шира - экс-руководителя стриминговой платформы для геймеров - Twitch.
• В тот же день 650 из 770 сотрудников OpenAI подписывают письмо с угрозой уйти, если члены совета директоров, уволившие Альтмана, не восстановят его на посту и не подадут в отставку.
• Во вторник, 21 ноября, Альтман возвращается на пост руководителя OpenAi, и меняется совета директоров компании. В него входят глава софтверного гиганта SalesForce Брет Тейлор, бывший министр финансов США Ларри Саммерс, интернет-предприниматель Адам Д"Анжело и основатель сервиса вопросов/ответов Quora (он единственный из прежнего состава совета директоров OpenAi, кто сохраняет в нем свое место). Ожидается, что совет директоров расширится до девяти человек, и в него войдет представитель Microsoft.

Как это ни странно звучит по отношении к успешной компании, которую оценивают в 86 млрд долларов, причиной кризиса в OpenAI стала не дележка денег или акций, а разница в мировоззрении ее лидеров и основателей.

Изначально OpenAI была создана как некоммерческая организация, цель которой создание общего искусственного интеллекта (AGI - Artificial General Intelligence). В число сооснователей входило и двое главных действующих лиц недавней драмы. Это генеральный директор Сэм Альтман и родившийся в Нижнем Новгороде глава научных исследований OpenAI Илья Суцкевер. Собственно, Суцкевер и стоял за разработкой самых успешных продуктов Open - Chat GPT и DALL·E.

Однако после того, как стало ясно, что разработка ИИ и обучение нейросетей очень дорогое удовольствие, была создана дочерняя компания OpenAI Global, перед которой была поставлена задача зарабатывать деньги на исследования в области ИИ, включая аренду вычислительных мощностей и найм лучших ученых и инженеров в этой области. Альтманом отвечавший в OpenAI том числе и за коммерцию со своей задачей справился блестяще. Желающие инвестировать в OpenAI выстраивались в очередь.

При том, что оба уверены, что именно OpenAI создаст первый в мире AGI и едины во мнении, что этот AGI должен быть максимально безопасным для человека, у них возникли серьезные разногласия относительно того, как этого результата наилучшим образом достичь.

Суперуспешный предприниматель Сэм Альтман считал, что следует максимально быстро внедрять продукты OpenAI, так как это с одной стороны продвигает саму концепцию ИИ в том виде, в котором ее развивает OpenAI, с другой, позволяет компании больше зарабатывать, и как следствие, больше разрабатывать.

А по мнению ученого Ильи Суцкевера следовало действовать значительно осторожнее. Выступая недавно в Ted Talks, он отчасти озвучил свое видение ситуации: "Есть опасения, что, если AGI станет очень мощным, он может захотеть действовать самостоятельно. В числе того, что мотивировало меня при создании OpenAI было и решение сложных вопросов и проблем, связанных с AGI… Мы проводим много исследований в области технологий, чтобы AGI никогда не захотел действовать самостоятельно. Это то, над чем я тоже работаю".

По мнению инсайдеров в OpenAI представление о том куда и как должна двигаться компания у двух ее ключевых фигур расходилось все сильнее, а последней каплей стал проект под названием Q* (Кьюстар), над которым работал в том числе и Суцкевер.

У AGI пока нет точного определения. Часть ученых считает, что общий искусственный интеллект - это нейросетевая модель или их совокупность, которая не будет уступать человеку со средними когнитивными способностям. На первый взгляд здесь нет ни проблемы, ни угрозы. Ничего особенного если среди 8 миллиардов живых людей будет существовать один, причем, не самый умный искусственный мозг.

Но это не совсем так. В этом случае у ИИ появится способность к самообучению. А обучение нейросетевой модели может происходить со скоростью на порядки, превосходящей скорость обучения человека, и шаг от общего искусственного интеллекта, до суперинтеллекта может быть очень коротким. Главное, чего опасаются исследователи, это невозможность контролировать систему, превосходящую по уровню умственных способностей человека, а также сомнения в том, что такой Супер-ИИ будет считаться с интересами человечества.

Имел ли смысл демарш, Ильи Суцкевера и поддержавших его, уже бывших членов совета директоров? По все вероятности нет. "гонку вооружений" в области ИИ очевидно не остановить и пока OpenAI занималась внутренними разборками их главный конкурент Google нанес "ответный удар", официально объявив о запуске новой модели искусственного интеллекта (ИИ) Gemini 1.0, которая должна стать главным конкурентом ChatGPT от OpenAI. Gemini - мультимодальная модель, которая умеет одновременно понимать, обобщать, комбинировать и оперировать разными типами информации, в том числе изображениями и текстами, а глава Google Сундар Пичаи заявил, что это ни больше не меньше как новая эра моделей, которая представляет собой одно из крупнейших научных и инженерных усилий когда-либо предпринятых Google.