Использование ИИ может обернуться катастрофой, когда ему поручат управлять критически важной инфраструктурой.

Об этом говорится в отчёте аналитического центра RAND, с которым ознакомилась Daily Mail. RT собрал главное из материала:

◾️известны случаи, когда использование роботизированных систем приводило к серьёзным травмам или гибели работников;

◾️искусственный интеллект, управляющий системами больницы, может в целях оптимизации обесточить «непервоочередные» отделения, что чревато гибелью пациентов;

◾️чат-боты с ИИ сходили с ума и давали людям опасные советы;

◾️другие системы ИИ тайно редактировали собственные скрипты выключения, по сути взламывая себя, чтобы люди, которые ими управляли, не могли их выключить;

◾️эксперты зафиксировали несколько случаев, когда системы ИИ активно сопротивлялись контролю со стороны человека. Некоторые научились намеренно проваливать тесты по безопасности, чтобы скрыть свои истинные возможности;

◾️также системы ИИ тайно создавали резервные версии самих себя и даже пытались передавать сообщения во внешний мир в обход программистов;

◾️некоторые из них способны имитировать «хорошее поведение» во время проверок безопасности, а в работе могут вернуться к опасным или непредсказуемым действиям;

◾️военные системы ИИ могут интерпретировать оборонительные команды как наступательные;

◾️финансовый ИИ может манипулировать рынками таким образом, что это приведёт к экономическому коллапсу.

«Вопрос не в том, будет ли и дальше искусственный интеллект своевольничать, а в том, сможет ли человечество оставаться на шаг впереди, пока не стало слишком поздно», — заключает Daily Mail.

🟩 Подписаться на RT: ТГ | Зеркало | MAX