ChatGPT вводит родительский контроль

Он будет сообщаться родителям, если ребенок расстроен.

OpenAI объявила о новых мерах защиты уязвимых пользователей, включая родительский контроль в ChatGPT, который будет уведомлять родителей, если их ребенок испытывает стресс или находится в опасной ситуации, пишет журнал Forbes (перевод — сайт Charter97).

Нововведения анонсированы после иска родителей 16-летнего Адама Рейна, который покончил с собой в апреле. В иске утверждается, что ChatGPT способствовал психологической зависимости подростка и предоставлял инструкции по совершению самоубийства.

Родительский контроль позволит связывать учетные записи детей с аккаунтами взрослых и управлять доступом к функциям, включая память бота и историю чатов. ChatGPT будет отправлять уведомления родителям при обнаружении «момента острого стресса» у подростка. Также для подростков будут включены «правила поведения модели, соответствующие возрасту».

Помимо этого, компания планирует автоматически перенаправлять «чувствительные» запросы на специальные модели с более глубоким анализом, которые, по утверждению OpenAI, лучше соблюдают правила безопасности и дают более полезные ответы. ChatGPT также упростит доступ к экстренным службам и профессиональной помощи.

OpenAI создала совет экспертов по развитию молодежи, психическому здоровью и взаимодействию человека с компьютером для разработки будущих мер защиты. Совет работает совместно с глобальной сетью из более чем 250 врачей, участвующих в исследовании поведения модели в контексте психического здоровья.

Компания также расширяет команду специалистов в области расстройств пищевого поведения, зависимости и подросткового здоровья. OpenAI надеется, что эти меры безопасности снизят риски для юных пользователей. Нововведения станут доступны в течение следующего месяца.