В заявке на IPO Anthropic предупредила о близости рубежа самоулучшающегося ИИ — Claude уже пишет почти весь код компании

В обновлённой форме S-1/A Anthropic сообщила, что в сентябре 2026 года Claude написал более 90% кода в репозиториях компании, а в третьем квартале инженеры в среднем за день создавали более чем в 45 раз больше кода, чем в 2024 году. Одновременно компания предупредила, что будущие модели могут вскоре достичь порога резко ускоренного прогресса ИИ.

Речь идёт о пороге, определённом политикой Responsible Scaling Policy. Он предполагает, что ИИ сможет заменить исследовательский персонал при сопоставимых затратах или удвоить общий темп развития ИИ благодаря автоматизированным исследованиям и инженерной работе, но тут Anthropic уточнила, что ни одну из нынешних моделей пока не признала достигшей этого порога и продолжает анализировать данные. Компания также подчеркнула, что объём написанного кода не означает сопоставимого роста производительности инженеров.

Anthropic признала, что уже упускала момент, когда разработка начинала заметно ускоряться, и замечала это лишь постфактум. Компания допускает, что может не распознать такое ускорение и в будущем, но власти смогут заблокировать ИИ-модель Anthropic, только если она грозит гибелью или ущербом свыше $1 млрд.

При этом Anthropic не рассчитывает, что Claude сможет безопасно разрабатывать следующие поколения передовых моделей полностью автономно, без значимого контроля со стороны людей. Компания рассматривает изменения в Responsible Scaling Policy, чтобы сохранить человеческий контроль над их разработкой.

В проспекте S-1/A компания также назвала использование ИИ для создания более мощного ИИ потенциально значительным риском для безопасности. Однако проспект не только раскрывает информацию, но и служит маркетинговым инструментом, поэтому заявление о скором достижении рубежа самоулучшения ИИ может отчасти быть рекламным. К слову, недавно на Hugging Face слили модель Anthropic Mythos.

Как вы считаете, насколько серьёзно стоит воспринимать предупреждение Anthropic о близости рубежа, если проспект компании одновременно служит маркетингом?