В ChatGPT появится проверка возраста. Как это работает?

На днях OpenAI объявила, что ChatGPT научится определять возраст пользователей по поведению. Кажется, будто ИИ заглядывает через плечо, но если убрать драму в медиа, мы видим только механизм защиты несовершеннолетних. Такие в том или ином виде встроены, кажется, во все игровые сервисы и социальные сети. Система проверки возраста будет глобальной и начнет распространяться уже в ближайшие недели.

Зачем это?

Первая реакция понятна. Недоумение, раздражение, ощущение, что взрослым снова объясняют, как жить. Но тут стоит сделать паузу и вспомнить, почему эта тема вообще возникла. За последние пару лет ИИ-боты не раз попадали в громкие и по-настоящему неприятные истории. Подростки эмоционально привязывались к чат-ботам, получали от них токсичные советы, обсуждали опасное поведение и насилие — без фильтров и контекста. В отдельных случаях это заканчивалось трагедиями, и ответственность в итоге ложилась на платформы. ИИ оказался хорошим виртуальным другом, но он все еще слишком плохо понимает, с кем именно он разговаривает и когда пора снизить градус откровенности.
Ещё один нюанс, о котором редко говорят, — эффект эхо-камеры. ИИ не спорит даже с самыми бредовыми идеями и может неосознанно усиливать уже существующие мысли пользователя — тревожные, деструктивные или просто ошибочные. Взрослый, психически устойчивый человек обычно понимает, что перед ним алгоритм и умеет вовремя остановиться. Ребенок или подросток — не всегда.

Как вообще можно определить возраст по переписке?

На самом деле, ничего особенно сложного здесь нет. Вы наверняка и сами можете угадать примерный возраст собеседника по сленгу, который он использует, кругу интересов и времени активности. Да что там, даже эмодзи стали неплохим индикатором возраста.
Чат-бот получит тот же набор паттернов, но в более широком виде. Вся идентификация будет работать как набор слабых накопительных сигналов: как часто человек заходит, какими сессиями, в какое время суток. Например, подростки статистически чаще активны в определённые окна: после школы, поздним вечером, скачкообразно — короткие, частые сессии. Взрослые чаще заходят днём с рабочего устройства или ровными блоками. Круг интересов и стиль общения — не ошибки и опечатки, а структура фраз — имеют значение, равно как и резкие скачки эмоций, импульсивность. История аккаунта тоже играет роль: новый профиль с интенсивной активностью — один сигнал, старый и стабильный — другой. Указанный при регистрации возраст учитывается, но решающего значения не имеет.
Важно: ни один из этих факторов не работает сам по себе. Ночные сессии не делают пользователя школьником, так же как любовь к играм не превращает взрослого в подростка. Но когда несколько признаков сходятся, система становится осторожнее. Здесь речь не столько о формальных возрастных ограничениях, сколько о правильной оценке рисков.

И что дальше?

Если система распознает пользователя как подростка, часть тем становится недоступной или жёстко фильтруется. Это касается откровенного сексуального контента, насилия, потенциально опасных инструкций, разговоров о саморазрушении без защитного контекста. К слову, явного уведомления об ограничениях пользователь не получит.

А если система ошиблась?

Пфф, да миллениалы до сих пор дети в душе, верят в сказку и смотрят Гарри Поттера. Что ж теперь, ко всем цифровую няньку приставлять? Да, OpenAI признаёт возможность ошибки и оставляет возможность для ручной верификации. Для этого по пути Настройки — Учетная запись пользователь сможет загрузить документ, подтверждающий возраст (какой именно, зависит от страны) и сделать видеоселфи, чтобы система могла сравнить реального человека и снимок в документах. Проверка происходит при помощи сервиса Persona — он же используется для идентификации в Roblox, LinkedIn, Reddit и других. Доказал, что ты большой мальчик? Молодец, иди собирай свой новый набор Лего по Звездным Войнам.

Усложнит ли это жизнь пользователям чат-ботов? Возможно, но точно не всем. Впрочем, если это цена за спасение чьей-то жизни, не будет ли ответственным взрослым поступком заплатить ее? Ждем ваших мнений в комментариях, заодно подписывайтесь на наш Telegram-канал, у нас еще много интересного.