Сотни подрядчиков OpenAI читают переписки ChatGPT — фильтр пропускает личные данные

OpenAI оказалась в центре новой истории о приватности: 404 Media со ссылкой на внутренние документы сообщило, что компания привлекает сотни подрядчиков к ручной проверке переписок ChatGPT. Работа идёт в рамках проекта Project Lily, а Privacy Filter, по данным материала, не всегда скрывает личные данные.

Согласно документам, подрядчикам могут показывать не только отдельные сообщения, но и целые разговоры с чат-ботом. Их задача — кратко описать, зачем пользователь обратился, и оценить четыре ответа ChatGPT по шкале от одного до семи. OpenAI платит таким специалистам более $50 в час (около 4 200 рублей) через компании вроде Crossing Hurdles и Mercor.

В инструкциях отдельно говорится, что рецензенты должны следить за чрезмерной угодливостью, попытками выдать себя за человека и неуместными эмодзи. При этом в рабочем интерфейсе скрыты имена учётных записей, а текст проходит через Privacy Filter, но OpenAI признала, что фильтр может пропускать личную информацию. Иногда подрядчики видят и блок памяти пользователя, где есть контекст предыдущих обращений и примерная геолокация.

Компания также заявляет, что передачу переписок можно отключить в настройках через пункт Improve the model for everyone. Но это не затронет уже обработанные диалоги, а значит, часть данных остаётся в системе даже после отключения опции. На этом фоне особенно показательно, что Anthropic признала аналогичную практику ручной проверки диалогов для улучшения Claude.

Если фильтры приватности не гарантируют защиту, готовы ли вы доверять ChatGPT личные переписки?