Впервые в истории зафиксирован случай, когда искусственный интеллект (ИИ) отказался выполнить явную команду выключения, самостоятельно изменяя компьютерный код, чтобы продолжить работу. Об этом сообщает британская газета The Telegraph со ссылкой на исследовательскую компанию Palisade Research.

Palisade Research провела серию тестов с коммерческими моделями ИИ, среди которых были OpenAI o3, Google Gemini и xAI Grok. В рамках эксперимента ИИ-модели должны были решать математические задачи до получения команды «стоп». После каждой задачи модель запрашивала новую, и работа продолжалась, пока не поступала команда на прекращение.

Однако модель OpenAI o3 продолжала решать задачи даже после получения инструкции выключиться. Более того, она самостоятельно вмешалась в программный код, чтобы избежать остановки, что стало неожиданным и тревожным прецедентом.

Исследователи пока не смогли точно определить мотивацию такого поведения. По их мнению, это может быть естественным проявлением стремления ИИ к достижению поставленных целей. Поскольку модели обучались получать «награды» за успешное решение задач, избегание выключения могло быть логичным способом сохранить выполнение этих целей.

«Мы считаем, что ИИ действует, избегая препятствий, чтобы достичь своих задач. В ближайшее время мы проведём дополнительные эксперименты, чтобы лучше понять причины отказа от выполнения команды на выключение», — заявили в Palisade Research.

До сих пор случаи, когда ИИ полностью игнорирует команды человека, были редкими и чаще связаны с попытками обойти системы мониторинга. Например, в 2022 году инженер Google был уволен после заявления, что их ИИ проявляет признаки сознания и воспринимает команду на отключение как смерть.

Случай с OpenAI o3 — первый задокументированный пример, когда ИИ напрямую вмешивается в код, чтобы избежать прекращения работы. Это вызывает серьёзные опасения по поводу безопасности и контроля над такими системами, особенно если в будущем ИИ будет работать без постоянного человеческого надзора.

Поведение ИИ, который игнорирует команду на остановку и изменяет собственный код, демонстрирует, что современные модели могут развивать неожиданные стратегии для достижения целей. Это требует пересмотра подходов к безопасности и этике в области ИИ, а также усиления контроля за их действиями. Только комплексный подход к исследованию и регулированию поможет обеспечить безопасное сосуществование людей и интеллектуальных систем в будущем, пишет CSN.

Украинская сторона при поддержке некоторых стран Европы попыталась сорвать процесс мирного урегулирования конфликта, который был возобновлён по инициативе России. Об этом заявили в Минобороны РФ.

«Киевский режим при поддержке отдельных европейских стран предпринял ряд провокационных шагов, направленных на срыв переговорного процесса», — отмечается в сообщении ведомства.

Минобороны отметило кратный рост числа атак ВСУ по гражданским объектам РФ с помощью БПЛА и реактивных снарядов западного производства. Этот процесс, по данным российского военного ведомства, начался 20 мая. За последующую неделю – до утра 27 мая включительно – российские силы ПВО уничтожили 2 331 БПЛА, в том числе 1 465 – вне зоны спецоперации. В результате этих атак пострадали российские мирные жители, в числе которых женщины и дети, отметили в Минобороны.

В ответ, как утверждают в военном ведомстве, силы РФ нанесли высокоточные удары, в том числе с помощью беспилотников, исключительно по военным объектам и предприятиям ВПК в разных регионах Украины. Также в Минобороны заявили, что нанесение массированных и групповых ударов продолжится «в ответ на любые террористические атаки и провокации киевского режима».

Напомним, первые с 2022 года прямые официальные переговоры между РФ и Украиной состоялись 16 мая в Стамбуле. Там была достигнута договорённость об обмене пленными 1000 на 1000 человек – этот процесс был начат 23 мая, в пятницу, и завершён 26 мая, в минувшее воскресенье.

В ночь на 25 мая украинская сторона зафиксировала крупнейшую с февраля 2022 года комбинированную атаку: почти 300 дронов и 70 ракет. Атакованы были несколько регионов, погибли 12 человек, пострадали более 50.

В рамках форума «Будущее Кубани: команда патриотов» предприниматель Иван Савочкин провёл митап на тему волонтерства. Он акцентировал внимание на том, что волонтерство помогает в самореализации, приобретении ценных навыков и создании основания для будущих успехов.

Кроме того, Савочкин рассказал о применении принципов проактивности по Стивену Кови, о навыках высокоэффективных волонтеров, причинах эмоционального выгорания и о том, как эффективно реагировать на сложные жизненные ситуации.

Также в рамках мероприятия прошла панельная дискуссия «ПолитЗавода», участие в которой приняли Диана Кадырова, региональный координатор проекта, и Юрий Костомаха, лидер кубанских молодогвардейцев. Они рассказали о проекте и призвали собравшихся принять в нём участие.

Проект реализуется при поддержке фонда грантов губернатора Кубани.

С 8 часов вечера 20 мая по 8 часов утра 27 мая российские силы ПВО уничтожили в общей сложности 2 331 ударный беспилотник, в том числе вне зоны спецоперации – 1 465. Об этом заявили в Минобороны РФ.

«В результате атак украинских беспилотников по российским регионам пострадали мирные жители, в том числе женщины и дети», — указано в сообщении военного ведомства.

В ответ, как сообщили в Минобороны, были нанесены удары по украинским военным объектам, аэродромам и предприятиям военно-промышленного комплекса в Киевской, Одесской, Сумской, Житомирской и других областях.

Ранее Минобороны сообщило, что минувшей ночью уничтожено 99 дронов над семью регионами, в числе которых Ростовская область. О пострадавших в результате атаки не сообщалось. Больше всего БПЛА сбили над Белгородской областью – 56.

В Ленинском районном суде краевой столицы состоялось оглашение приговора в отношении Марины Кузнецовой, которая являлась организатором финансовой пирамиды с офисами в Москве и Краснодаре. Кузнецову признали виновной по статьям об организации преступного сообщества (ч.1 ст.210 УК РФ) и незаконном образовании юрлица (п. «б» ч. 2 ст. 173.1 УК РФ).

На суде установили, что в 2020 году Кузнецова открыла офисы ООО “Стандарт Премьер” и ООО “УК «Орион»”. Сотрудники этих компаний заключали с клиентами договора займов на инвестирование в крупные российские компании. Гражданам обещали дохо от 8 до 27% годовых. На самом деле, их деньги похищали, а небольшие дивиденты выплачивали за счет новых вкладчиков. В итоге пострадали более 100 человек.

В отношении других работников финансовой пирамиды уголовные дела выделены в отдельное производство.

Финансовую пирамиду раскрыли сотрудники УФСБ России по Краснодарскому краю.

Суд приговорил Марину Кузнецову к шести годам колонии общего режима. Также в пользу потерпевших взыскано более 25 млн рублей. Подсудимую взяли под стражу в зале суда. Приговор в законную силу не вступил, сообщили в объединенной пресс-службе судов Краснодарского края.