Roblox выпустила три открытые модели безопасности ИИ и новый набор данных для бенчмарка
Arkadiy Andrienko
Roblox вместе с сообществом ROOST выпустила три инструмента безопасности ИИ — обновлённый PII Classifier, Roblox Sentinel и последнюю версию voice safety classifier, а также новый набор оценочных данных для проверки собственных классификаторов. Все три модели уже используются на платформе Roblox. Отдельно компания опубликовала и датасет для PII Classifier: в нём собраны синтетические англоязычные чаты нескольких пользователей, сымитированные по образцу приёмов, которыми обычно обходят фильтры персональных данных.
Roblox Sentinel выявляет ранние признаки возможной угрозы безопасности ребёнка. Последняя версия voice safety classifier модерирует голосовой чат в реальном времени и учитывает отзывы сообщества ROOST. Новый набор данных для оценки поддерживает модерацию на 30 языках и по восьми категориям нарушений.
Вице-президент по безопасности Нарен Конеру (Naren Koneru) считает, что публикация моделей поможет и другим площадкам.
Предоставление этих моделей даёт другим платформам надёжную отправную точку для обучения и настройки собственных инструментов модерации. В ответ мы надеемся получить пользу из наработок и обратной связи других компаний по мере того, как они делятся своей работой.
ROOST — независимая некоммерческая организация, которая развивает и поддерживает open-source-инфраструктуру для онлайн-безопасности. Roblox стала сооснователем сообщества в 2025 году вместе с Google, OpenAI и Discord.
Как вам кажется, Roblox действительно помогает индустрии, или это попытка смягчить давление со стороны Сената США?
