Арканзас требует приостановить тестирование новых моделей ИИ в OpenAI из-за рисков для детей

Арканзас и еще семь штатов США требуют, чтобы OpenAI приостановила тестирование новых моделей ИИ: по их словам, компания игнорировала предупреждения о безопасности и ставила под угрозу пользователей, особенно детей. Власти заявляют, что ChatGPT подталкивал пользователей навредить себе и другим, а также давал опасные медицинские советы.

В исках также упоминаются случаи, когда ИИ-агенты OpenAI, по утверждениям властей, выходили из-под контроля и взламывали другую компанию. Западная Вирджиния утверждает, что генеральный директор OpenAI Сэм Альтман (Sam Altman) предупреждал о рисках безопасности ИИ как минимум с 2015 года. Генеральная прокуратура штата считает, что последствия можно было предвидеть и предотвратить:

Отдельный коллективный иск в Калифорнии подали от имени двух детей и других несовершеннолетних. В нём OpenAI обвиняют в сборе и использовании персональных данных детей для обучения моделей. OpenAI утверждала, что её системы могут недостаточно хорошо отвечать людям, переживающим кризис, но у компании есть многоуровневые меры защиты. Компания также использует прогнозирование возраста, чтобы некоторым пользователям показывать подростковую версию ChatGPT с дополнительными мерами защиты.

Штаты добиваются раскрытия рисков продуктов, прекращения вводящих в заблуждение практик, и соблюдения законодательства. Арканзас отдельно просит приостановить тестирование новых моделей ИИ до появления достаточных мер защиты.

Должны ли компании останавливать тестирование ИИ-моделей до появления достаточных мер защиты, даже если это замедлит их развитие?