Корона
Безопасность

Anthropic будет ослаблять защитные фильтры — но только проверенным учёным

Программа проверки для наук о жизни открывает биологам доступ к моделям с послаблениями, которых нет у обычных пользователей. Пускают после проверки квалификации, безопасности и этического надзора.

2 мин чтения
Anthropic ослабит фильтры только для учёных

Что произошло

17 сентября Anthropic открыла приём заявок в программу проверки для наук о жизни. Она даёт биологам, фармакологам и клиническим исследователям доступ к моделям Mythos, Opus и Sonnet с ослабленными ограничениями там, где речь идёт о биологии.

Смысл в том, что обычные версии моделей отказываются работать с целыми областями: поиском лекарств, исследовательской биологией, клинической разработкой, производством препаратов. Фильтры не различают злой умысел и работу лаборатории — и блокируют обоих.

Чтобы получить доступ, организация проходит проверку: смотрят научную квалификацию заявителя, принятые у него меры защиты данных и наличие этического надзора над исследованиями. После этого можно запросить один из двух видов допуска — обычный или для работ повышенного риска.

Обычный допуск покрывает большинство задач, выдаётся сразу команде, продлевается раз в год и распространяется на Mythos 5.1, Opus 5 и Sonnet 5, а также на будущие модели. Работает он во всех продуктах компании: Claude Science, Claude.ai, Claude Code и через программный интерфейс.

Десятки организаций компания подключила заранее, в закрытом режиме. Сейчас программа работает как бета и рассчитана на команды и учреждения; частным подписчикам доступ обещают открыть позже.

Почему это важно

Это редкий случай, когда разработчик публично признаёт: защитные фильтры мешают не только злоумышленникам. Вместо того чтобы ослабить их для всех или оставить как есть, компания строит процедуру проверки — по сути, выдаёт допуск.

Любопытно и соседство: в ту же неделю Anthropic опубликовала измерения темпа собственной разработки, а OpenAI — отчёты о сбоях своих моделей. Отрасль явно пытается нащупать, как показывать внутреннюю кухню, не открывая её целиком.

Что пока неизвестно

Не раскрыто, по каким именно признакам отличают «обычный» доступ от «повышенного риска» и кто принимает решение по спорным заявкам. Неизвестно и то, доступна ли программа исследователям из России: об ограничениях по странам в объявлении не сказано.

Источники

Читайте также