OpenAI внедрит родительский контроль в ChatGPT

ИИ-стартап OpenAI планирует перенаправлять конфиденциальные разговоры на модели рассуждений и внедрить родительский контроль. Меры предпринимаются в рамках ответных действий на недавние инциденты, связанные с безопасностью. В некоторых случаях ChatGPT не смог обнаружить психическое расстройство у пользователей. https://forklog.com/news/ai/openai-usilit-bezopasnost-chatgpt-posle-tragedii-s-podrostkom 28 августа газета The Wall Street Journal сообщила об еще одном случае — Стейн-Эрик Соэльберг использовал чат-бот для усиления своей паранойи. Ему казалось, будто он стал жертвой грандиозного заговора. Синдром прогрессировал настолько, что Соэльберг убил свою мать и покончил жизнь самоубийством. «Вскоре мы начнем перенаправлять некоторые деликатные разговоры — например, когда наша система обнаруживает признаки острого дистресса — в модель рассуждения, такую как GPT-5-thinking. Она может давать более полезные и выгодные ответы, независимо от того, какую модель человек выбрал вначале», — говорится в блоге стартапа. OpenAI утверждает, что ее «думающие» нейросети более устойчивы к враждебным промптам. Уведомления о потенциально вредоносном контенте уже интегрированы в ChatGPT. Уведомление в ChatGPT о подозрительном запросе. Источник: ForkLog. Родительский контроль позволит связывать учетные записи с аккаунтами своих детей через приглашение по электронной почте. Родители смогут контролировать то, как ChatGPT отвечает их детям. Также можно будет отключить функцию памяти и историю чата. Благодаря этому снизится вероятность возникновения зависимости и привязанности к чат-боту. Среди других грядущих функций — уведомления о том, что ребенок находится в состоянии «острого дистресса». Напомним, в июле OpenAI представила специальный режим обучения для студентов в ChatGPT, который помогает прорабатывать задачи поэтапно, а не просто получать готовый ответ. https://forklog.com/exclusive/ai/gpt-5-proryv-proval-ili-posredstvennost