Открытая энциклопедия «Википедия» подверглась настоящей атаке интернет-троллей, которые начали заполнять ресурс ИИ-контентом. Чтобы навести порядок на сайте, пришлось даже сформировать группу волонтеров.
С недавних пор редакторы и пользователи ресурса стали замечать многочисленные отрывки, написанные неестественным стилем. Теория вмешательства ботов подтвердилась, когда ChatGPT воспроизвел те же самые тексты. Группа энтузиастов вызвалась провести «уборку» на сайте, чтобы удалить весь ИИ-контент.
Некоторые из нас заметили распространенность неестественного стиля письма, в котором явно прослеживались признаки того, что он был сгенерирован искусственным интеллектом, и нам удалось воспроизвести подобные «стили» с помощью ChatGPT. Обнаружив несколько распространенных фраз, сгенерированных ИИ, мы смогли быстро выявить наиболее вопиющие примеры сгенерированных статей.
В качестве примера можно привести статью на «Википедии» об османской крепости «Амберлисихар» 15-го века, пишет издание Techspot. Материал крайне подробно описывает достопримечательность и место ее нахождения, но вот загвоздка: статья — выдумка, а крепость в реальности не существует.
Несмотря на старание редакторов, их инициатива напоминает борьбу с ветряными мельницами. Даже после правок злоумышленники шутки ради продолжают менять статьи, вставляя ложную информацию, сгенерированную ИИ.
Напомним, что недавно один из пользователей попросил ChatGPT сымитировать голос мошенника из Индии, который пытается выкрасть данные. Нейросеть успешно справилась.
Там и без подобных атак воды много было, а теперь и почетное звание "инфопомойка"