OpenAI выпустила более безопасную версию ChatGPT для подростков
После серии судебных исков, связывающих ИИ-чат-ботов с подростковыми суицидами и проблемами психического здоровья, OpenAI в понедельник представила ChatGPT for Teens — новую версию с дополнительными мерами безопасности и учебными функциями.
Компания OpenAI в понедельник объявила о запуске продукта ChatGPT for Teens, призванного повысить безопасность сервиса и решить проблему использования ChatGPT школьниками для списывания. Запуск последовал за рядом судебных исков, в которых компанию обвиняли в недостаточных мерах безопасности чат-бота, а критики связывали продукт со случаями подростковых суицидов и другими проблемами психического здоровья.
Новый режим Study Mode
В образовательной части ChatGPT for Teens вводит функцию Study Mode («Режим учёбы»), а также другие инструменты, призванные побуждать подростков использовать собственную любознательность, а не просто получать готовые ответы. Как поясняет OpenAI в своём блоге, Study Mode предлагает наводящие вопросы и пошаговую поддержку, помогающую понять материал.
Если система замечает, что подросток пытается списать, а не разобраться в теме, она покажет напоминание о домашнем задании и предложит перейти в Study Mode. Приложение также поддерживает викторины и учебные визуализации, а родители или опекуны смогут настроить включение Study Mode по умолчанию.
Вместе с тем пока неясно, насколько легко подросткам удастся обойти эти новые ограничения, если они не захотят сотрудничать: подростки традиционно демонстрируют изобретательность в обходе родительского контроля, а новая система ещё не прошла серьёзной проверки в реальных условиях.
Дополнительные меры безопасности
ChatGPT for Teens по умолчанию будет включать защитные меры, соответствующие возрасту пользователя и призванные снизить доступ к вредному или не соответствующему уровню развития контенту. Эти меры основаны на разработанных OpenAI «Принципах для пользователей младше 18 лет» в рамках Model Spec, которые, по словам компании, опираются на данные науки о развитии и рекомендации экспертов.
Родители смогут использовать уже существующие семейные инструменты и функции родительского контроля, чтобы управлять настройками, получать уведомления о безопасности и устанавливать «тихие часы». Кроме того, OpenAI объявила о партнёрстве с CodeAI, чтобы помочь подросткам лучше понимать принципы работы ИИ и эффективно его использовать. Для школ компания уже предлагает версию ChatGPT for Teachers с управляемым доступом к инструментам ИИ.
