ИИ-психолог может не распознать суицидальные мысли и не вызвать скорую

Психотерапевты, назвали человеческий контакт главным отличием ИИ-психолога от живого специалиста. Терапия строится на отношениях, доверии и ощущении безопасности, а специалист замечает не только слова пациента, но и изменения в его состоянии.

Нейросеть может помочь разобраться в мыслях, структурировать ситуацию, дать полезную информацию или предложить упражнения, но при тяжёлой депрессии, суицидальных мыслях, расстройстве пищевого поведения, травме или сложных отношениях одного правильного совета недостаточно: специалист должен оценить состояние человека и нести за него ответственность.

При этом ИИ может не распознать признаки тяжёлой депрессии, панического расстройства, ПТСР или суицидальных намерений, а круглосуточная доступность чат-бота может отложить обращение к специалисту: человек рискует годами общаться с ним, так и не получив реальной помощи. Ещё один риск связан с конфиденциальностью. Личные данные из переписки с чат-ботом могут сохраняться, использоваться для обучения моделей или попадать в утечки.

Также ИИ способен имитировать эмпатию, но сам её не испытывает и при острых состояниях нейросеть также не сможет вызвать скорую, сообщить близким или обеспечить безопасность человека. К слову, OpenAI тестирует ChatGPT Health — приватный раздел для вопросов о здоровье.

Может ли круглосуточная доступность чат-бота перевесить риски автоматизированной терапии, если он способен пропустить опасное состояние и не поможет в экстренной ситуации?