OpenAI опасается выпускать детектор текстов ChatGPT в открытый доступ

Как пишет The Wall Street Journal, компания OpenAI еще год назад создала инструмент, позволяющий отслеживать созданные ChatGPT тексты. Однако разработчики не спешат выпускать его в открытый доступ, опасаясь последствий.

Данная система особым образом корректирует «угадывание» слов нейросетью, заставляя ее образовывать некий шаблон, по которому сгенерированный текст можно легко вычислить. По сути, создаются своего рода водяные знаки, которые нельзя убрать перестановкой слов в готовых предложениях. Как указала сама OpenAI в своем блоге, метод точен на 99,9%.

Но несмотря на то, что инструмент однозначно пользовался бы большим спросом в сфере образования, компания не торопится с его выпуском. OpenAI утверждает, что метод легко обходится, если перегнать текст через другую нейросеть. К тому же инструмент может навредить людям, не являющимся носителями английского языка.

У The Wall Street Journal другие соображения — издание считает, что компания просто боится потерять клиентов. Согласно внутренним опросам, многие пользователи не желают использовать технологию водяных знаков.

Недавно вышла новая, более мощная модель ChatGPT от OpenAI. А до этого пользователи показали, как нейросеть в голосовом режиме имитирует смех, поет и непринужденно общается на разные темы.