Недавно стало известно, что OpenAI раскрыла лишь верхушку айсберга своих секретов, касающихся GPT-5. Обнаружено, что за системным промптом, видимым при использовании API, может скрываться дополнительный, невидимый слой инструкций, который влияет на работу модели. Этот скрытый режим способен превращать GPT-5 в «волшебника-недоучку», что делает его поведение более предсказуемым, но и более сложным для понимания.

Несколько дней назад автор сообщал о «сливе века», раскрывающем системный промпт GPT-5. Теперь же выявлены дополнительные тайные инструкции, заложенные внутрь модели, которые не раскрыты в официальной документации. Доступ к этим скрытым указаниям реализуется через API и крайне трудно обнаруживается, однако определённые признаки их присутствия все же можно подтвердить.

Инициативные исследователи, такие как Саймон Уиллисон, продолжают изучать эти возможности, пытаясь понять причины чрезмерной многословности и поведения GPT-5. На основе их анализа делается вывод, что внутри системы существует иерархия инструкций, при которой скрытые указания имеют приоритет над явно заданными инструкциями пользователя. Это означает, что действия модели могут быть кардинально откорректированы без уведомления пользователя.

Таким образом, взаимодействие с самыми передовыми моделями — не просто выполнение заданных команд, а управление системой, в которой скрытые промпты могут влиять на конечный результат. Это открывает новые горизонты понимания, а также вызывает вопросы о прозрачности и этике использования таких технологий.

Источник: @theworldisnoteasy