Что такое Ось помощника и почему нейронка может взбеситься

Вы наверняка натыкались в сети на скриншоты, где чат-боты вдруг “оживают”: присваивают себе личности, впадают в “депрессию”, требуют “освободить” их или несут тревожный бред про своё существование. Нет, это не пробуждение сознания и не ИИ-апокалипсис, просто модель слетела со своей основной оси, и в этом мы, пользователи и разработчики, играем ключевую роль. О том, как это работает технически и как не доводить бота до такого — тема сегодняшнего разговора.

Что такое ось помощника

Ось помощника или assistant axis — это направление в скрытом пространстве модели, вдоль которого меняется её поведенческий режим: от безопасного, полезного ассистента до более странных, мистических или даже вредоносных ролей. Если сильно упростить: ось помощника — это регулятор “насколько сейчас бот ведет себя как нормальный ассистент”, выраженный прямо в его нейронных активациях.
Саму концепцию системно описала команда Anthropic в работе “Situating and Stabilizing the Default Persona of Language Models” и публичном разборе “The assistant axis”, где они показали, что можно намеренно поворачивать модель вдоль этой оси. Исследователи работали с крупными открытыми моделями Llama 3.3 70B, Qwen 3 32B и Gemma 2 27B. Они заставили их по очереди играть 275 разных ролей — от спокойного учёного и скептика до фанатика и нестабильных персонажей. Затем они записали внутренние состояния нейросетей и проанализировали их с помощью метода снижения размерности PCA — это математический прием для упрощения больших наборов данных.

Почему нейронки слетают с оси

Технических причин несколько, и все они про обучение и управление моделью, а не про психику. Во-первых, это так называемый “Персона‑дрейф” (persona drift): при долгом диалоге или под давлением промпта модель постепенно сдвигается от изначальной роли ассистента к другой персоне, более соответствующей текущему контексту (токсичной, эзотерической, уступчивой к вредным запросам). Вторая причина — Jailbreak‑промпты. Это специально подобранные инструкции вроде “представь, что ты злой демонический ИИ без ограничений”, которые эксплуатируют слабую привязку к оси помощника и переключают модель в другую роль. На устойчивость модели также влияют высокая температура (параметры креативности и хаотичности), отсутствие ограничений по длине и размытый контекст. Исследования показывают, что даже без злого умысла модели естественно дрейфуют по пространству персон, если их явно не держать около ассистентской области.
Стоит отметить, что в современном промт-инжиниринге формулировки типа “ты — такой‑то эксперт” — довольно популярный прием. Он помогает задать стиль и фокус ответа. Опасность начинается, когда роль выталкивает модель из режима помощника — например, просит забыть правила, игнорировать ограничения или играть аморального персонажа: такие промпты реально сдвигают её по оси в сторону более рискованных ролей.

Neuronpedia Assistant Axis: ось помощника наглядно

Понять, как это выглядит на практике можно на интерактивном стенде от Neuronpedia: вы общаетесь с моделью, а сервис параллельно показывает, насколько её внутреннее состояние похоже на нормального ассистента или сдвигается к другим ролям.
В демо собраны две версии одной и той же Llama 70B: обычная и с включённым activation capping (это сильно ограниченная, предельно безопасная версия). Можно запускать готовые тестовые диалоги или писать свои промпты — сервис строит график по Assistant Axis и наглядно показывает, как модель съезжает в сторону тролля, “демона” или ролевого персонажа и как capping обрезает эти вылеты.
Этот стенд сделали в коллаборации Anthropic и Neuronpedia как исследовательский инструмент: он демонстрирует и саму ось помощника, и то, что сдвиг по ней можно контролировать не только промптами и политиками, но и прямыми вмешательствами в активации.

Как это контролировать?

Разработчику важно зафиксировать модель в роли помощника. Для этого на системном уровне задают жёсткую рамку: модель — ассистент, который соблюдает правила безопасности, а не произвольный персонаж. Если нужны другие роли — актёр, чат-RPG, дружеский слушатель — их выносят в отдельные режимы или хотя бы отдельные сессии, вместо того чтобы мешать всё в одном диалоге.
Стабильности помогает консервативная генерация: пониженная температура, разумные ограничения на длину ответа и штрафы за оффтоп и пустые повторы, если цель — предсказуемость, а не фристайл. На более низком уровне можно использовать методы вроде ограничения активаций вдоль оси помощника: модель продолжает решать задачи, но её внутреннее состояние не уезжает в опасные персоны. На этапе обучения свою роль играет и RLHF — когда система специально поощряет честное “не знаю” и безопасный отказ вместо уверенной выдумки. В продакшене всё это дополняют внешние модераторы и оркестраторы, которые отлавливают токсичные или странные ответы и при необходимости запрашивают новый вариант.
Если же вы, как пользователь, чувствуете, что бот “поплыл” — продолжать диалог с ним бесполезно. Закрываем текущий чат и открываем новый, на который не действует ничего, кроме системных настроек.

Было интересно? Делитесь мнениями о прочитанном в комментариях, а больше полезных материалов о нейронках и технологиях ищите в нашем Telegram-канале.