Как нейросети могут случайно развязать ядерную войну

Искусственный интеллект может спровоцировать ядерную войну — эксперты бьют тревогу.

Современные технологии искусственного интеллекта создают новую угрозу глобальной безопасности. Как пишет авторитетный журнал Nature, нейросети, способные генерировать фейковый контент, могут невольно подтолкнуть мир к ядерному конфликту.

Проблема в том, что ИИ легко создает и распространяет дезинформацию.  Это поддельные фото, видео и сообщения, которые могут спровоцировать политиков на необдуманные решения. 

Например, во время напряженности между Индией и Пакистаном в соцсетях уже появлялись сфабрикованные нейросетями изображения, усиливающие конфликт.

Еще опаснее — использование ИИ в военных системах. Генерал ВВС США Энтони Коттон предупреждает, что некоторые компании уже внедряют свои алгоритмы в системы национальной безопасности, хотя технологии пока несовершенны.

Главная опасность — так называемые "галлюцинации ИИ". При этом система выдает ошибочные данные или непредсказуемые результаты. 

Если такой сбой произойдет в системе, связанной с ядерным оружием, последствия могут быть катастрофическими.

Эксперты призывают с осторожностью подходить к интеграции ИИ в критически важные сферы. Пока технологии не стали достаточно надежными, их применение в военной области может принести больше рисков, чем преимуществ.