Власти смогут заблокировать ИИ-модель Anthropic, только если она грозит гибелью или ущербом свыше $1 млрд

Anthropic предлагает разрешить властям блокировать выпуск модели, только если она грозит ущербом свыше $1 млрд (около 84 млрд рублей) либо гибелью или серьёзными травмами более чем 50 человек. Угроза должна быть связана с созданием биологического оружия, выходом модели из-под контроля разработчика или кибератакой. Одного лишь абстрактного риска для вмешательства будет недостаточно.

Независимые эксперты, зарегистрированные в Министерстве торговли США, должны периодически проверять модели. Разработчик сможет оплачивать их работу, если это не повлияет на независимость оценки. Если эксперты обнаружат угрозу, они должны уведомить ведомство в течение 72 часов после завершения проверки. После этого Министерство торговли США сможет обратиться в федеральный суд и потребовать приостановить выпуск модели, признанной опасной.

Представитель Anthropic заявил, что компания продвигает эти предложения среди федеральных властей и властей штатов с июня 2026 года. Он также назвал их разумными мерами, которые должен принять Конгресс.

Проект предлагает частично заменить региональные правила едиными федеральными требованиями. Они касаются раскрытия рисков, независимых проверок и сообщений об инцидентах. Критики опасаются, что такой подход может закрепить регулирование на условиях самих технологических компаний.

Должны ли власти вмешиваться до того, как возникнет угроза ущерба в миллиард долларов или гибели и травм большого числа людей, и кто должен устанавливать этот порог?