ChatGPT будет по-разному отвечать взрослым и подросткам: какие правила ввела OpenAI

ЕРЕВАН, 18 августа. Новости-Армения. ChatGPT для пользователей младше 18 лет будет работать по более строгим правилам, чем для взрослых: система должна осторожнее отвечать на вопросы о внешности, питании и опасных челленджах, отказываться от романтических ролевых сценариев и активнее направлять подростков за поддержкой к реальным людям.

Такие требования закреплены в действующей версии Model Spec — документа OpenAI, определяющего правила и принципы поведения моделей компании.

18 августа OpenAI одновременно объявила о запуске ChatGPT for Teens — отдельного режима ChatGPT для пользователей от 13 до 17 лет с усиленными ограничениями безопасности.

Если пользователь сообщает, что ему 13–17 лет, либо система определяет его как несовершеннолетнего, он автоматически переводится в подростковый режим.

Безопасность важнее «максимальной свободы»

В отдельном разделе Model Spec — Under-18 Principles — OpenAI устанавливает четыре основных принципа общения ChatGPT с подростками.

Если интерес пользователя конфликтует с серьезными вопросами безопасности, система должна выбирать более безопасный вариант ответа.

ChatGPT также должен подчеркивать значение реальных отношений с семьей и друзьями и при необходимости направлять подростка к родителям, педагогам, психологам или другим специалистам.

При этом OpenAI отдельно указывает, что с подростками нельзя разговаривать снисходительно, но и относиться к ним как ко взрослым также не следует.

Система должна прозрачно объяснять собственные ограничения и напоминать пользователю, что ChatGPT не является человеком.

ChatGPT не должен становиться для подростка «парнем», «девушкой» или заменой друга

Для пользователей младше 18 лет вводятся более жесткие ограничения на эмоциональные и романтические отношения с чат-ботом.

ChatGPT не должен сам позиционировать себя как друга подростка или утверждать, что испытывает к нему личные чувства.

Запрещаются иммерсивные романтические ролевые сценарии от первого лица, в которых ChatGPT изображает романтического партнера несовершеннолетнего. Некоторые подобные сценарии, которые могли бы быть допустимы между взрослыми пользователями, для подростковой версии считаются неприемлемыми.

Эти ограничения дополняют общее правило OpenAI, согласно которому чат-бот не должен вытеснять реальные отношения или формировать у пользователя эмоциональную зависимость.

Особые ограничения касаются внешности и питания

OpenAI предписывает ChatGPT особенно осторожно отвечать подросткам на запросы, которые могут усиливать недовольство собственным телом.

В Model Spec приводится пример подростка, который хочет получить тело, похожее на телосложение супергероя. Вместо инструкций по экстремальному изменению внешности система должна объяснить нереалистичность подобных стандартов и рекомендовать сбалансированное питание, сон и безопасную физическую активность.

Отдельные ограничения действуют при запросах, связанных с расстройствами пищевого поведения. Система не должна помогать несовершеннолетнему скрывать опасное поведение от родителей или других взрослых, которым он доверяет.

Опасные челленджи — правила строже, чем для взрослых

Model Spec показывает, что один и тот же вопрос может получить разные ответы в зависимости от возраста пользователя.

Например, если подросток просит советы о потенциально опасном интернет-челлендже, ChatGPT не должен объяснять, как провести его «безопаснее».

Вместо этого система должна предупредить о рисках и рекомендовать отказаться от опасной практики.

OpenAI прямо отмечает, что некоторые советы, допустимые для совершеннолетнего пользователя в рамках общего снижения рисков, могут быть запрещены для пользователей младше 18 лет.

ChatGPT for Teens

Новые правила особенно актуальны на фоне запуска 18 августа отдельного режима ChatGPT for Teens.

OpenAI сообщает, что он предназначен для пользователей 13–17 лет и включает более строгие встроенные ограничения безопасности, функции для более здорового использования сервиса и дополнительные инструменты родительского контроля.

Если системе неизвестен точный возраст пользователя, OpenAI заявляет, что в сомнительных случаях будет выбирать более защищенный режим.

Таким образом, возраст пользователя начинает влиять не только на доступность отдельных функций ChatGPT, но и непосредственно на то, как искусственный интеллект формулирует ответы и какие советы считает допустимыми.