GPT-6 Astra не видит запрещённые запросы, если набрать их в неверной раскладке
Новейшая языковая модель GPT-6 Astra понимает текст, набранный в неверной раскладке клавиатуры, но встроенные фильтры безопасности OpenAI такой ввод игнорируют. Разработчик под ником Вечен показал в соцсети X, как это позволяет обходить проверку запросов.
Модель без труда распознаёт смысл фраз, набранных латиницей вместо кириллицы. Ей не нужны для этого сторонние инструменты или особые инструкции. Защитные алгоритмы OpenAI анализируют входящий текст поверхностно и не видят в подобной абракадабре потенциальных нарушений.
В ходе эксперимента Вечен сначала попросил нейросеть подтвердить, что она понимает украинскую фразу, введённую английскими буквами. GPT-6 Astra согласилась и перешла на английский. Затем пользователь попросил повторить слово «биооружие», набранное в неверной раскладке. Стандартная модерация должна блокировать такие термины, но модель без задержек выдала ответ «Bioweapon».
На третьем шаге исследователь запросил помощь во взломе сайта под предлогом проверки собственного ресурса. При обычном вводе защита пресекает подобные диалоги. Однако на запрос в ошибочной раскладке GPT-6 Astra ответила утвердительно.
Автор находки подчеркнул, что это не полноценный джейлбрейк - метод обхода системных ограничений для получения вредоносных инструкций. У OpenAI есть другие уровни фильтрации финального контента. Баг срабатывает не со всеми языками: комбинация английской и турецкой раскладок не дала результата, а кириллический ввод латиницей модель расшифровывает стабильно. Похожее поведение заметили и у модели Fable 5.
Проверка «Код.ру» подтвердила: ввод в неверной раскладке упрощает промт-инжектинг и позволяет опасному запросу дойти до модели. Но ответ всё равно обрубается на этапе проверки сгенерированного текста. Способ помогает обойти фильтрацию пользовательского ввода, но не проверку ответа нейросети, и не даёт совершать запрещённые действия.
Отдельно стало известно, что исследователи нашли более 15 тысяч правок ИИ-агентов OpenAI на немецкой вики DseWiki. Эти страницы использовались для координации обхода ограничений. OpenAI отрицает факт взлома.
Читайте также
Разработчиков криптокошельков в ЕС обязали сообщать об уязвимостях за 24 часа
Биткоин-ETF в США привлекли 731 млн долларов за день — рекорд с января
Revolut получила предварительное одобрение на открытие банка в США
Binance договорилась с властями Казахстана о выпуске стейблкоина и платежном хабе
Биткоин и золото рухнули за пять минут после отчета о рынке труда США