OpenAI и Anthropic проводят учения из-за угрозы кибератак на банки и инфраструктуру

OpenAI и Anthropic проводят учения на случай чрезвычайных ситуаций, связанных с ИИ. По данным Axios, руководители OpenAI, Anthropic и других ведущих ИИ-компаний обсуждают возможность крупной катастрофы. Представители OpenAI рассказали изданию, что компания проводит специальные учения на случай чрезвычайных ситуаций.

Наиболее вероятной угрозой называют крупную кибератаку, способную нарушить работу банков и инфраструктуры.

Источники опасаются, что первая крупная катастрофа из-за небезопасного применения ИИ вызовет массовые протесты и требования ограничить развитие технологии. Некоторые собеседники издания считают, что крупный инцидент, связанный с ИИ, может произойти уже в ближайшие 6–12 месяцев.

Во время учений в OpenAI отрабатывают разные сценарии угроз, связанных с ИИ. Кроме того, ИИ-компании заранее налаживают взаимодействие с американскими законодателями на случай, если появятся инициативы по регулированию отрасли.

Если крупный инцидент с ИИ и правда может произойти в ближайший год, какие меры должны принять компании и законодатели?