OpenAI запустила новый инструмент ChatGPT Agent, который компания позиционирует как ИИ, способный "выполнять работу за вас, используя собственный компьютер". Этот шаг представляет собой часть стремления превратить искусственный интеллект в прибыльное предприятие, а не просто технологию, поглощающую миллиарды долларов инвесторов.
ChatGPT Agent создан на основе объединения более ранних моделей Operator и инструментов глубокого исследования, что позволяет ему выполнять "сложные задачи от начала до конца". По словам представителей OpenAI, типичные задания занимают у Agent от 10 до 15 минут, а более сложные требуют больше времени.
В демонстрациях для изданий Wired и The Verge представители компании показали, как Agent автоматизирует планирование календаря и создание финансовых презентаций. Руководитель исследований OpenAI Лиза Фулфорд рассказала Wired, что использовала Agent для заказа "множества пирожных", на что у инструмента ушло около часа, так как она была "очень конкретна" в своих требованиях.
Фулфорд отметила, что это было проще, чем делать самой, потому что ей не хотелось этим заниматься, демонстрируя один из ключевых сценариев использования технологии – выполнение рутинных задач.
Несмотря на потенциальную экономию времени, генеральный директор OpenAI Сэм Альтман предупредил пользователей о возможных рисках использования Agent. В своем посте он написал:
Я бы объяснил своей семье, что это передовая экспериментальная технология, возможность попробовать будущее, но пока не то, что я бы использовал для критически важных задач или с большим количеством личной информации, пока у нас не будет возможности изучить и улучшить её в реальных условиях.
Вызывая скорее беспокойство, чем уверенность, Альтман отметил, что злоумышленники могут попытаться обмануть ИИ-агентов пользователей, чтобы получить личную информацию или выполнить действия, которые не должны выполняться, способами, которые мы система не может предсказать.
Для снижения этих рисков OpenAI встроила множество средств защиты и предупреждений, но признает, что не может предвидеть всё. Альтман рекомендует давать Agent только минимальный необходимый доступ и не поручать ему автоматически отвечать на все электронные письма без дополнительного контроля.
Предупреждения Альтмана перекликаются с недавними заявлениями генерального директора приложения для зашифрованных сообщений Signal Мередит Уиттакер, которая выразила обеспокоенность рисками безопасности агентного ИИ и объемом личных данных, к которым им потребуется доступ.
Невозможно сделать это в зашифрованном виде.
OpenAI утверждает, что Agent обучен запрашивать разрешение перед выполнением действий с реальными последствиями, например, совершением покупки. Определенные критические задачи, такие как отправка электронных писем, будут требовать активного контроля со стороны пользователя. Также ИИ обучен отказываться от потенциально катастрофических задач, таких как банковские переводы или другие финансовые операции.
ChatGPT Agent уже доступен для пользователей Pro-подписки, а пользователи Plus и Team получат доступ в ближайшие дни.