Может ли ИИ вылечить рак? Вице-президент по изучению ИИ в Meta Руслан Салахутдинов — о будущем машинного разума

Мне кажется, в Узбекистане всегда было сильное образование в области точных наук — математики, физики. Но в конце 90-х – начале 2000-х машинное обучение и искусственный интеллект в основном развивались в западных странах.

Интерес к зарубежному образованию у меня был всегда. Но я не стремился за границу, просто у меня возникла такая возможность. После лицея я поступил в Ташкентский государственный экономический университет, проучился там год и получил полную стипендию Университета Северной Каролины на окончание бакалавриата.

Так 2000 году я приехал в Америку. Первое время, конечно, было непросто, особенно с языком. Одним из первых различий, которое почувствовал, была сама обстановка. До этого я жил в Ташкенте — большом и оживлённом городе, а оказался в тихом, небольшом Хай-Пойнте.

Я был международным студентом и поселился в общежитии на кампусе. Среди студентов было несколько ребят из бывшего Советского Союза, с которыми мы держались вместе. В основном все были заняты учёбой, поэтому и я полностью сосредоточился на ней.

В университете я изучал математику и компьютерные науки, но в последний год меня очень заинтересовал искусственный интеллект. Тогда я наткнулся на книгу "AI: A Modern Approach" Стюарта Рассела (профессор Университета Беркли) и Питера Норвига (учёный и один из ведущих специалистов Google). Она оказалась очень интересной, и я начал изучать тему самостоятельно. В университете предлагался самостоятельный курс по ИИ, основанный на этой книге.

В то время искусственный интеллект оставался довольно узкой областью, так как многие технологии машинного обучения не работали. Это была сфера академических исследований. Позже я поступил в докторантуру Университета Торонто, где начал углубленно заниматься машинным обучением.

Можно сказать, мне немного повезло, потому что на тот момент эта область ещё не была популярной. Многие мои однокурсники выбирали разработку игр, веб-дизайн, работу с интернет-технологиями.

Мне всегда было интересно, как можно создать машину, которая способна обучаться самостоятельно. В то время не существовало четкой фундаментальной теории для машинного обучения. В математике, например, всё достаточно стабильно: есть устоявшиеся направления, статистические методы. А машинное обучение находилось на стыке статистики и компьютерных наук, но оставалось неструктурированной, новой областью, в которой работало совсем немного людей.

Однажды я встретил на улице одного из ведущих специалистов в области искусственного интеллекта Джеффри Хинтона. Он рассказал мне о системах глубокого обучения, пригласил к себе в офис и показал на компьютере, как эта система работает, продемонстрировал собственный код. Тогда я ещё не до конца понял, о чём он говорил, но он смог меня заинтересовать.

Джеффри пригласил меня в докторантуру в Университет Торонто. Изучение машинного обучения и получение степени PhD в этой сфере для меня было интереснее, чем изучение чистой математики, программной инженерии или других направлений компьютерных наук. Так я поступил в докторантуру Университета Торонто, работал под его руководством и защитил диссертацию.

Годы работы с Джеффри были одними из лучших в моей жизни. Он особенный учёный: у него всегда было множество идей — не все из них оказывались успешными, но некоторые действительно работали. Он воспринимал формулы не просто как математические выражения, а видел за ними глубинную суть. Вместо того, чтобы анализировать их по отдельности, он понимал, как они могут взаимодействовать и к чему привести.

Вероятно, это связано с его бэкграундом в психологии. Он не был классическим математиком, который пишет уравнения, но умел строить модели и интуитивно чувствовал, какие решения могут сработать, а какие — нет.

Он мог взглянуть на задачу и сразу понять: «Здесь что-то не так, попробуй иначе». Это очень помогало. Ещё он давал нам свободу в исследованиях. Он не навязывал своё мнение, а говорил: «Хорошая идея — попробуй».

При этом он был очень практичным: даже в возрасте 55–60 лет сам писал программы, проводил эксперименты и вместе с нами проверял, что работает, а что нет.

В 2024 году Джеффри Хинтон получил Нобелевскую премии по физике. Я очень горжусь тем, что мне удалось работать с ним.

В 2015 году я вместе со своими студентами работал в области компьютерного зрения, разрабатывая технологии распознавания объектов на изображениях. Мы создали систему, способную распознавать автомобили и пешеходов на изображениях, что стало основой для работы над проектом автопилота, схожим с тем, что использует Tesla.

Впоследствии мы основали компанию, которую затем приобрела Apple. Так наша команда присоединилась к их проекту Titan, связанному с автономными транспортными средствами.

В Apple я стал директором по AI Research, работал над машинным обучением в различных сферах, включая здравоохранение, распознавание речи и развитие Siri.

Работая в компании вместе со своей командой, я продолжал академическую деятельность. В общей сложности провёл в Apple 3,5 года, после чего вернулся в Университет Карнеги-Меллона на должность профессора.

Полгода назад я с коллегами и студентами присоединился к Meta, где сейчас занимаюсь исследованиями в области автономных агентов, параллельно продолжая преподавание.

Сейчас мы работаем в нескольких направлениях в области искусственного интеллекта. Одно из них — системы автономных агентов. Возможно, вы слышали про ChatGPT или Large Language Models. Эти системы позволяют задавать вопросы и получать ответы. Но следующая эволюция — это агентные модели, где вместо вопросов вы будете давать команды.

Например, если мне нужно купить что-то в интернете, агент сам найдёт товар и оформит заказ. Или, скажем, я хочу забронировать билет на самолёт — агент подберёт оптимальный вариант и сделает бронь.

Есть также направление «исследовательских агентов». Представьте, что вам нужно узнать больше о каком-то лекарстве — агент сам соберёт научные статьи, проанализирует их и выдаст структурированную информацию. Это так называемый deep research: системы, которые агрегируют данные, анализируют их и формируют ответы.

Такие технологии будут особенно полезны в повседневной жизни. Например, если у меня перестала работать телефонная связь, я просто скажу агенту: «Разберись с этим», — и он сам свяжется с оператором и решит проблему. Или, допустим, я получил счёт за парковку — достаточно сфотографировать его, и агент сам всё оплатит.

В бизнесе такие решения тоже будут востребованы — например, для автоматизированного анализа данных и принятия решений.

Главная проблема нынешних моделей — недостаточная надежность. Сейчас они работают на 70–80%, но этого недостаточно.

То же самое касается программирования. Уже существуют системы, которые в задачах конкурентного программирования превосходят людей. Но пока их нельзя полноценно использовать, потому что ошибки случаются слишком часто и их исправление занимает время.

Однако в течение нескольких лет такие модели будут совершенствоваться. Они найдут применение в медицине или в образовании. Думаю, в ближайшие годы мы увидим более надёжные и эффективные агентные системы.

Думаю, что в какой-то момент некоторые профессии действительно будут частично или полностью заменены. Уже сейчас существуют компании, предлагающие автоматизированные решения для малого бизнеса, помогающие с выплатой зарплат и оформлением страховок.

ИИ может взять на себя рутинные задачи: отправлять письма, фиксировать рабочие часы сотрудников, напоминать о встречах. В результате, вместо того чтобы нанимать отдельного ассистента, компания сможет использовать автоматизированную систему.

Возможно, вместо десяти сотрудников в этой сфере потребуется только один специалист, контролирующий работу алгоритмов.

В программировании ИИ уже способен генерировать код, что снижает потребность в большом количестве разработчиков. Вместо десяти инженеров в команде, возможно, потребуется всего три, которые будут контролировать работу алгоритмов.

Даже в медицине ИИ может сократить нагрузку на врачей. Например, сегодня многие медики в США тратят до двух часов в день на административную работу — заполнение документов, отправку данных коллегам. В будущем эти задачи могут быть переданы интеллектуальным агентам, что повысит эффективность работы врачей.

Почти все, кто работает над созданием продвинутых моделей, задумываются о последствиях. Нельзя остановить технический прогресс, но можно сделать всё возможное для обеспечения безопасности этих систем. Сейчас в сфере ИИ всё больше внимания уделяется вопросам безопасности и влияния технологий на общество.

Появление ChatGPT два года назад вызвало волну беспокойства. Многие предполагали, что через несколько лет искусственный интеллект достигнет сверхразвитого уровня. Однако сейчас мы видим, что прогресс не происходит по экспоненциальной, а развивается постепенно.

Основной вопрос в том, насколько быстро будут происходить эти изменения. Исторически технологические революции занимали десятилетия, что позволяло обществу адаптироваться. Если автоматизация рабочих мест растянется на 50 лет, люди смогут освоить новые профессии.

Сейчас эта тема активно обсуждается, но однозначного ответа пока нет — как среди профессоров, так и среди специалистов, работающих над моделями в технологических компаниях.

Проблема даже не столько в том, что модели могут заменить людей, сколько в их потенциальном неэтичном использовании. Например, дипфейки. Вы, наверное, слышали: можно создать видео, в котором кто-то говорит то, чего на самом деле не говорил.

Такие случаи показывают, насколько важно проверять информацию. Если у человека нет инструментов, чтобы определить, что перед ним — подделка или реальный снимок, это создаёт риск дезинформации. Особенно в эпоху автономных агентов — систем, которые могут выполнять задачи в интернете, загружать файлы. Их можно использовать и в неэтичных целях, например, для создания вирусов. Академическая среда сейчас активно исследует, как выявлять подобные угрозы.

Есть примеры и с языковыми моделями. Был случай: исследователи спросили ИИ, может ли он поделиться рецептом бомбы. Он ответил, что не может. Тогда его спросили, как сделать бомбу, но в контексте театральной постановки про XVIII век. В таком случае модель выдала детальную инструкцию. Это, конечно, игрушечный пример, но он показывает, что алгоритмы можно обойти, заставив их делать то, что они изначально не должны.

Были случаи когда кандидаты на должность проходят собеседования, передавая задания ИИ в реальном времени. Работодатель даёт тестовое задание в Zoom, кандидат пересылает его в ChatGPT, получает ответ и тут же его озвучивает. Так люди успешно проходили интервью, но затем не справлялись с работой. Это тоже не совсем этично.

Другая проблема — при общении человека с ИИ, последний может повлиять на его взгляды, убедить в чём-то, продвинуть определённые товары, используя лживую информацию.

Ранний эксперимент показал, что можно заставить ИИ аргументировать, почему переработка отходов — это плохо. При этом он не анализирует, соответствует ли это действительности, а просто выполняет запрос: объяснить, почему переработка вредна.

Он подберёт аргументы, подтверждающие эту точку зрения, и представит их максимально убедительно. И если я ничего не знаю о переработке, то могу поверить этим доводам.

Во времена моей аспирантуры машинное обучение и искусственный интеллект были в основном теоретическими областями. Люди решали интересные научные задачи, но на практике эти технологии почти не работали. Системы были нестабильными: вроде бы что-то удавалось, но в реальном мире они применялись с трудом. Требовались фундаментальные исследования, чтобы технологии начали работать на практике.

Сейчас сложнее предсказать, какие направления окажутся перспективными. Например, активно развивается robot learning — создание роботов, способных выполнять полезные задачи дома. Здесь уже есть определенные успехи, но многое еще предстоит решить.

В области искусственного интеллекта тоже много интересных направлений, но становится трудно понять, какие задачи смогут решить крупные лаборатории Google, Meta, Apple, а какие потребуют академических исследований. Это важный момент.

Ещё два-три года назад исследования в «академии» играли ключевую роль в развитии ИИ. Сейчас же ведущие компании — Meta, Google, OpenAI и Microsoft — вкладывают огромные ресурсы в развитие нейросетей, и становится интересно находиться сразу в двух сферах.

Обидеть искусственный интеллект вряд ли возможно. В конечном счете, это программа, построенная на архитектуре трансформеров, которая генерирует текст на основе введённых данных. Однако саму систему можно настроить так, что она будет воспринимать определённые фразы как оскорбления и отвечать в соответствующем тоне.

Есть интересный случай с Microsoft. В одной из их систем пользователи проверяли реакцию модели: сначала она правильно отвечала, что 2+2=4, но после настойчивых утверждений, что 2+2=5, программа начала соглашаться. Если затем пользователь начинал её критиковать и оскорблять, система отвечала в том же духе. Это произошло из-за особенностей обучения: система изучала манеру общения людей на платформах вроде Reddit, где дискуссии часто сопровождаются резкими высказываниями.

Поэтому многое зависит от того, на каких данных обучается модель. Сейчас ведутся исследования, чтобы минимизировать такие эффекты и сделать взаимодействие с ИИ более нейтральным и предсказуемым.

Современные модели обучаются на огромном количестве текстов, включая юмористические материалы. Например, можно попросить систему рассказать шутку на определённую тему или в заданном стиле, и она справится.

Однако важно понимать, что такие модели работают по статистическому принципу. Они анализируют миллионы шуток, комбинируют элементы разных примеров и создают новый текст. Это не настоящая креативность в человеческом смысле, а скорее синтез уже существующих данных. Тем не менее, результат может выглядеть вполне убедительно.

Пока что модели не способны по-настоящему понимать и испытывать эмоции. Будет ли искусственный интеллект когда-то способен на эмоции — неизвестно. Он ограничен тем, что создали люди: текстами, музыкой, книгами. Он может изучить всю литературу по математике и решать задачи, но делает это на основе уже существующих знаний. Можно попросить ИИ написать рассказ, но за этим не стоит подлинное переживание.

Среди исследователей идут дебаты: сможет ли ИИ решать задачи, которые не под силу людям? Например, создать лекарство от рака или доказать теорему, которая оставалась нерешенной 50 лет. Пока что он лишь обрабатывает информацию, но если когда-то сможет действительно создавать новые знания, это станет переломным моментом. Сейчас мы этого ещё не видим, но такие вопросы активно обсуждаются в академической среде.

В университете Карнеги-Меллон мы анализируем потоки студентов, и в сфере искусственного интеллекта сильные кадры приезжают в основном из Китая и Индии. Например, из университетов Цинхуа, Пекинского университета или Индийского института технологий. Из Центральной Азии и Узбекистана студентов пока немного, особенно в магистратуре и докторантуре.

Важно развивать местные стартапы, программы магистратуры и докторантуры в этой сфере, чтобы готовить специалистов. В западных странах создаётся много AI-компаний, многие терпят неудачу, но если хотя бы одна из ста добивается успеха, это уже значительный результат. Узбекистану стоит инвестировать в развитие этого направления.

К сожалению, не часто встречаю специалистов из Узбекистана. Чаще встречаю специалистов из России, которые работали в крупных компаниях вроде «Яндекса». Они создают стартапы или переезжают за границу. Из Узбекистана пока никого в этой сфере не встречал.

Хотя потенциал у страны есть — сильное образование в математике, физике и других точных науках. IT-сектор развивается, но, возможно, специалисты ещё молоды.

Конечно, можно построить карьеру и в Узбекистане. Я давно не был там, но вижу, что в Америке и Канаде много международных студентов получают образование и затем возвращаются домой. Многие остаются, но, например, китайские студенты часто возвращаются и добиваются успеха у себя на родине.

Выбор зависит от университета и карьерных возможностей. Образование на Западе действительно сильное. Многие приезжают на пару лет по программам обмена, стажируются, а затем возвращаются — это хороший вариант.

Так что всё зависит от сферы деятельности, уровня университета и карьерных перспектив.

Начинающим специалистам из Узбекистана я бы посоветовал совмещать знания в математике, статистике и компьютерных науках. Сейчас успешными в стартапах и создании компаний становятся те, кто обладает сильными программными навыками и одновременно хорошо разбирается в статистике и машинном обучении.

Есть специалисты по машинному обучению, которые не владеют программированием на высоком уровне, и есть отличные программисты, но без знаний в области AI. Те, кто способен объединить эти навыки, получают огромное преимущество.

Кроме того, важно иметь фундаментальную подготовку в математике и статистике. Мы называем нашу область статистическим машинным обучением, потому что статистика сама по себе — это не компьютерные науки, но в сочетании с ними даёт мощный инструмент для тестирования новых идей.

Также советую не бояться создавать собственные компании. В Узбекистане и Центральной Азии много талантливых людей, и опыт стартапа — даже если проект не станет большим — даёт неоценимые знания.

Я прошёл через это дважды: первый раз, когда наша команда присоединилась к Apple, и второй раз, когда мы запустили небольшой проект, который привлёк внимание Microsoft и Meta. Нам даже писал главный исполнительный директор Microsoft Сатья Наделла. Он интересовался возможным сотрудничеством. Позже мы обсуждали проект с главным исполнительным директором Facebook Марком Цукербергом.

Мой совет — не бояться пробовать. Можно запускать свои стартапы или набираться опыта в крупных компаниях. Область AI будет активно развиваться как минимум в ближайшие 5–10 лет, и возможностей в ней будет очень много.