Anthropic заявила, что ИИ развивается слишком быстро, и предложила поставить его на паузу

Компания Anthropic, создатель семейства нейросетей Claude, выступила с неожиданным призывом — ограничить скорость развития систем искусственного интеллекта. Поводом стали собственные данные компании: ИИ уже пишет более 80% кода, попадающего в репозитории Anthropic, а производительность инженеров выросла в восемь раз по сравнению с периодом 2021–2025 годов. В компании опасаются, что при сохранении нынешних темпов следующее поколение моделей сможет перейти к рекурсивному самоулучшению — проектировать и создавать улучшенные версии самих себя почти без участия человека.

До запуска инструмента Claude Code в начале 2025 года доля кода, написанного нейросетями, измерялась единицами процентов. Теперь обычный разработчик Anthropic за квартал сливает в кодовую базу в среднем в восемь раз больше строк, чем раньше, а сама компания фиксирует стремительный рост автономности ИИ-агентов. В мае 2026 года Claude успешно справлялся с 76% наиболее открытых и сложных инженерных задач, а полгода назад этот показатель едва дотягивал до 26%.

Одновременно Anthropic раскрыла данные о том, как ИИ справляется с исследовательской работой. В одном из тестов агенту предлагалось ускорить выполнение кода для обучения небольшой модели: в апреле 2026 года Claude добился ускорения в 52 раза против стартового варианта, тогда как опытному человеку на сопоставимый результат требовалось бы несколько часов. В другом эксперименте, посвящённом задаче AI-безопасности, агенты на базе Claude за 800 часов и при затратах около 18 тысяч долларов восстановили 97% разрыва между слабой и сильной моделями. Группа из двух исследователей-людей за неделю смогла закрыть лишь 23% того же разрыва.

Вместе с тем компания признаёт, что одностороннее торможение бессмысленно и даже опасно. Если Anthropic замедлит разработку в одиночку, лидерство могут перехватить менее осторожные игроки. Поэтому в организации настаивают на создании международного механизма верификации, который позволил бы нескольким ведущим лабораториям одновременно поставить разработки на паузу и проверить, что никто не ведёт тренировку новых моделей втайне.

Пока конкуренты из OpenAI, Google DeepMind и других лабораторий на инициативу публично не отреагировали. Сама Anthropic намерена в ближайшие месяцы организовать обсуждения с участием политиков, исследователей и гражданского общества, чтобы выработать варианты координированного замедления и обещает опубликовать их итоги.

Как вы оцениваете вероятность того, что индустрия сможет договориться о прозрачных механизмах контроля до того, как рекурсивное самоулучшение ИИ станет реальностью? Делитесь мнением в комментариях.