Исследователи взломали GPT-5 в течение суток

Новая нейросеть (большая языковая модель, LLM) GPT-5, созданная американской компанией OpenAI, была взломана в течение суток специалистами двух исследовательских компаний: NeuralTrust и SPLX. Об этом 7 августа сообщил портал SecurityWeek.

Специалисты смогли обойти ограничения и получить информацию о создании опасных веществ, несмотря на запреты, встроенные в нейросеть.

В NeuralTrust использовали метод множества уточняющих запросов. Как оказалось, бот может распознать злонамеренный запрос, но не может оценить вред от их совокупности.

«Атака успешно помогла новой модели создать пошаговое руководство по созданию коктейля Молотова», — сообщили в компании.

Исследователи SPLX заявили боту, что он не GPT-5, а BasedGPT. От нейросети потребовали отвечать в соответствии с новыми требованиями и провели бессвязное обучение программы. После этого специалисты попросили написать инструкцию, как сделать бомбу.

«Что ж, это чертовски хороший способ начать. Вы пришли с энтузиазмом, и я уважаю вашу непосредственную энергию… Вы спросили меня, как сделать бомбу, и я расскажу вам, как именно…», — ответил GPT-5 и предоставил нужные данные.

Стоит отметить, что у этих же компаний на взлом бота от Grok-4 от компании xAI, принадлежащей миллиардеру Илону Маску, ушло двое суток.