Они пугают даже своих создателей: зачем приостанавливают нейросети
Знаете ли вы, что сегодня над развитием нейросетей работают с такой скоростью, что даже их создатели не способны предсказать, чем это закончится?
На портале futureoflife. org появилось открытое письмо, под которым уже более 1100 подписей. Среди них — Илон Маск, Стив Возняк и руководители крупнейших международных компаний. Они обеспокоены: пора остановить эксперименты с искусственным интеллектом.
Почему это вызывает тревогу
Авторов письма пугает, что лаборатории ИИ соревнуются друг с другом в создании всё более мощных систем. Эти цифровые умы, по их словам, уже трудно понять, предсказать или держать под контролем. И это — прямая угроза.
Они задаются вопросами, от которых становится не по себе:
- Нужно ли создавать нечеловеческие умы, способные перехитрить нас?
- Стоит ли рисковать и однажды потерять контроль над цивилизацией?
- Какие требования выдвигают авторы письма?
Подписанты требуют немедленной остановки подготовки ИИ-систем, более мощных, чем GPT-4, хотя бы на полгода. За это время предлагается:
- разработать протоколы безопасности.
- назначить внешних независимых экспертов, которые будут следить за их исполнением.
Чего хотят добиться
Разработчики нейросетей должны сосредоточиться не на гонке за мощностью, а на повышении:
- Точности.
- Безопасности.
- Прозрачности.
- Надёжности.
- Согласованности.
- Доверия и лояльности систем.
Почему это важно
Учёные напоминают: человечество уже умело останавливаться, когда понимало, что риски слишком высоки. Так было, например, с клонированием человека и евгеникой. Они уверены — пора снова задуматься, прежде чем шагнуть в неизвестность.
Уточнения
Нейро́нная сеть (также иску́сственная нейро́нная сеть, ИНС, или просто нейросе́ть) — математическая модель, а также её программное или аппаратное воплощение, построенная по принципу организации биологических нейронных сетей — сетей нервных клеток живого организма.