Anthropic передала полиции угрозы пользовательницы

Карли Мишель Хеллер (Karly Michelle Heller), которая переписывалась с Claude, была задержана в Бонита-Спрингс после того, как Anthropic передала полиции её сообщения с угрозой стрельбы. По словам Хеллер, она использовала чат-бот как дневник.

26 сентября Хеллер написала Claude, что собирается устроить стрельбу в офисе шерифа округа Ли. На следующий день она сообщила в переписке, что у неё появилось новое оружие. Из-за серьёзности сообщений система безопасности передала их на проверку сотрудникам Anthropic. После этого компания сообщила о переписке правоохранителям.

Полиция установила личность Хеллер, приехала к ней домой в Бонита-Спрингс и задержала её без происшествий. Ей предъявили обвинение в угрозе насилием, высказанной в письменной форме; судебное заседание назначено на ноябрь.

Политика Anthropic допускает передачу пользовательских данных правоохранителям в экстренных случаях, когда есть угроза смерти или причинения тяжкого вреда здоровью. Представители компании не прокомментировали задержание Хеллер на момент публикации. Доцент Университета Флорида-Галф-Кост, специалист по ИИ и менеджменту Крисанн Рюль (Chrissann Ruehle), напомнила, что чат-бот не стоит считать близким человеком.

Шериф округа Ли Кармине Марсено (Carmine Marceno) заявил, что угрозы, сделанные с помощью ИИ, необходимо воспринимать серьёзно. Бывший специальный агент ФБР Ричард Колко (Richard Kolko) отметил, что правоохранители и суды ещё не выработали подход к угрозам, связанным с искусственным интеллектом.

Когда личная переписка с ИИ может быть передана полиции в чрезвычайной ситуации, где должна проходить граница между безопасностью и приватностью?