OpenAI рассказала, как будет делать ChatGPT безопаснее для подростков: с возрастными настройками, родительским контролем, учебными режимами и партнерствами с экспертами. Компания утверждает, что почти 9 из 10 подростков в ChatGPT за неделю используют сервис для учебы, поиска информации, развития навыков или продуктивности.
Главная идея OpenAI — не закрывать подросткам доступ к ИИ, а давать его с отдельными правилами. Если система определит, что пользователю меньше 18 лет, ChatGPT должен автоматически включать более подходящий для возраста опыт и сильнее ограничивать материалы о графическом насилии, самоповреждении, опасных челленджах, нездоровом отношении к телу, а также опасных, романтических или сексуальных ролевых сценариях.
Также для учебы OpenAI сделает упор на Study Mode. Этот режим поможет разбирать задачи пошагово: в нем нейросеть будет задавать наводящие вопросы, давать структурированные объяснения и подталкивать к самостоятельному ответу, а не просто выдавать готовое решение. А родители, у которых связан подростковый аккаунт, смогут включать Study Mode через Parental Controls, и при старте нового чата он будет активироваться по умолчанию.
Компания также добавит образовательные стартовые промпты для подростков: например, для разбора темы простыми шагами, превращения заметок в учебный план, создания карточек и тренировочных вопросов.
Родительские инструменты позволят задавать «тихие часы», отключать голосовой режим, управлять генерацией изображений и получать уведомления в отдельных ситуациях высокого риска, включая признаки возможного самоповреждения.
Источник: OpenAI