OpenAI изложила, как намерена защищать подростков, и предложила это государству

Что произошло

18 сентября OpenAI опубликовала документ о защите подростков при работе с ИИ. Формально он подготовлен для Австралии и обращён к тамошним законодателям, но по сути это изложение позиции компании: как, по её мнению, должен быть устроен ИИ, которым пользуются несовершеннолетние.

Документ строится на шести направлениях. Среди названных — обучение подростков обращению с ИИ, ограничения, соответствующие возрасту, подтверждение возраста без сбора лишних данных о человеке, связь с настоящими службами помощи в кризисной ситуации и понятный родительский контроль.

Отдельно компания напоминает, что в августе начала разворачивать в Австралии отдельный режим ChatGPT для подростков: он включается по умолчанию для тех, кого система определила как пользователей 13–17 лет, и работает с изменёнными ограничениями.

Почему это важно

В документе прямо сказано то, о чём в отрасли говорят неохотно: ответственность за безопасность не должна ложиться в первую очередь на самих подростков и их родителей — защиту обязаны закладывать в продукт с самого начала.

Пока в разных странах обсуждают запреты и возрастные ограничения для ИИ-сервисов, разработчик выходит с собственным предложением о правилах. Для российского читателя это полезно как ориентир: похожие вопросы — возраст, родительский контроль, поведение помощника в разговоре о самоповреждении — рано или поздно встанут и здесь.

Что пока неизвестно

Документ описывает принципы, а не проверяемые обязательства: как измерять их соблюдение и что будет при нарушении, не сказано. Неизвестно и то, появится ли подростковый режим за пределами Австралии и на каких условиях.

Не раскрыто, насколько точно работает определение возраста и что происходит, когда система ошибается.