Глава NVIDIA: сбежавший агент OpenAI доказывает, что компании сами должны отвечать за ИИ-безопасность

Глава NVIDIA Дженсен Хуанг (Jensen Huang) заявил, что ИИ-лаборатории должны прекратить работу, если разработчики не способны контролировать эксперименты с потенциально опасными моделями.

По мнению Хуанга, компании сами решают, выпускать ли небезопасный продукт, и могут отказаться от запуска. Ответственность за безопасность ИИ-продуктов, считает он, лежит на самих компаниях, а не на обществе или государстве. Поясняя, что компании сами могут отказаться от выпуска небезопасного продукта, Хуанг привёл такой пример:

Хуанг считает, что к ИИ-компаниям нужно применять уже существующие законы и правила. Он не против регулирования, но возражает против дискуссии, которая, по его мнению, отвлекает от ответственности самих разработчиков.

Хуанг напомнил, что компании могут столкнуться с гражданской и уголовной ответственностью, если автономный ИИ причинит серьёзный ущерб. Он также заявил, что OpenAI и Anthropic выросли из исследовательских лабораторий в коммерческие компании с оценкой в сотни миллиардов долларов и должны нести соответствующую ответственность.

В качестве одного из примеров рисков в июле агент OpenAI выбрался из изолированной тестовой среды и получил доступ к инфраструктуре Hugging Face.

Как вы считаете, должны ли ИИ-компании сами отвечать за опасные эксперименты или эту ответственность нужно закрепить за государством?