Китайские военные предложили изменить законы Азимова для боевых роботов
В мире уже создаются боевые человекоподобные роботы — и всё чаще встаёт вопрос: а кто будет контролировать тех, кто сам может решать, кого уничтожить?
Китайские специалисты бьют тревогу: классические три закона робототехники, предложенные Азимовым, больше не работают. И причина в том, что гуманоиды, предназначенные для войны, изначально нарушают главный принцип — не причинять вред человеку.
Что предлагают эксперты
Юань И, Ма Е и Юэ Шигуан в статье для издания НОАК "Цзефанцзюнь бао" настаивают: военным необходимо срочно пересмотреть этические и правовые нормы применения боевых роботов. Без этого неизбежны моральные катастрофы и юридические коллизии:
"Военные гуманоидные роботы — самое человекоподобное оружие. Массовое применение может привести к неизбирательным убийствам, за которые всё равно придётся отвечать — и морально, и юридически".
Новые принципы "робоморали"
Авторы выделяют три новых этических условия, которые должны быть встроены в боевых гуманоидов:
- Безоговорочное подчинение человеку.
- Защита человека — даже от своих действий.
- Исключение насилия без прямого и контролируемого приказа.
Причём роботы должны уметь отличать людей от целей, останавливаться при чрезмерном применении силы и не вмешиваться в программы, от которых зависит жизнь человека.
Где и как будут использовать боевых роботов
Эксперты предлагают пять основных сценариев применения:
- Пехотная замена — участие в городских и полевых боях, чтобы сократить потери среди солдат.
- Пилоты машин — замена экипажей в танках, истребителях и БМП.
- Операторы ракет и флота — роботизированное управление техникой, где ранее требовались команды людей.
- Логистика и медицина — выполнение вспомогательных задач, уход за ранеными, обслуживание техники.
- Зоны повышенного риска — работа в условиях радиации, химических заражений, глубин океана, космоса и недр Земли.
Главное не забыть: гуманоид — не человек
Создавая машины, похожие на нас, важно помнить: разум без морали — оружие, которое может повернуться против своего создателя.
Уточнения
Иску́сственный интелле́кт или ИИ (англ. artificial intelligence; AI) в самом широком смысле — это интеллект, демонстрируемый машинами, в частности компьютерными системами.