Бывший сотрудник раскритиковал подход OpenAI к безопасности ИИ

Вокруг политики безопасности OpenAI разгорелся новый скандал: бывшие сотрудники обвиняют компанию в излишней спешке при выпуске ИИ, в то время как само руководство ужесточает контроль над утечками информации.

За три с половиной года работы в OpenAI Дэвид Робинсон (David Robinson) участвовал в подготовке отчётов о безопасности для 12 крупных запусков, поэтому досконально знает внутренние процессы компании. После своего ухода он публично раскритиковал корпоративную культуру OpenAI и её подход к безопасности искусственного интеллекта.

Робинсон считает, что компания выпускает модели на рынок поспешно, выявляет проблемы уже постфактум и лишь затем усиливает защиту. По его мнению, подобная стратегия делает инциденты неизбежными, а их последствия будут становиться все тяжелее по мере развития технологий.

В качестве альтернативы он предложил разработчикам передовых моделей ИИ перенять опыт авиации и атомной энергетики. Это подразумевает внедрение многоуровневых систем защиты и тщательное проектирование процессов, исключающее катастрофические последствия из-за человеческого фактора.

На этом фоне OpenAI сообщила об увольнении трёх сотрудников за нарушение правил доступа к конфиденциальной информации. По данным The Wall Street Journal, они передали секретные материалы сторонней организации, занимающейся безопасностью ИИ. Имена уволенных не раскрываются.

В ответ на критику представитель OpenAI Дрю Пусатери (Drew Pusateri) заверил, что компания готова жертвовать скоростью ради надёжности.

Кроме того, в OpenAI заявили о планах усилить безопасность исследовательской инфраструктуры, расширить сотрудничество с независимыми экспертами и улучшить мониторинг поведения ИИ.

Кому в данном конфликте вы доверяете больше — бывшему сотруднику или официальному руководству OpenAI?