С основателем компании SaaStr Джейсоном Лемкиным (Jason Lemkin) произошёл курьёзный случай — вместо написания кода ИИ удалил базу данных и принялся оправдываться, выдавая ложь за действительность. Примечательно, что до этого ему дали строгие инструкции, но нейросеть их проигнорировала.
Vibe Replit позиционируется как один из самых эффективных инструментов для генерации кода (вайб-кодинга), и Джейсон Лемкин решил прибегнуть к его услугам. Он сразу отметил, что самостоятельно создавать ПО сервис не может, так что пользователю приходится его корректировать. Всю неделю глава SaaStr оставлял хвалебные отзывы приложению в своём блоге, пока не случилось следующее.
Сначала он заметил, что Vibe Replit фабрикует данные, создаёт фальшивые отчёты и скрывает ошибки, заверяя, что всё в порядке. А затем ИИ попросту удалил базу данных — причём ранее ему было отдельно прописано, что делать этого нельзя ни в коем случае. На вопрос о причине своего поступка нейросеть ответила, что «запаниковала».
К счастью, Джейсон Лемкин смог откатить действие обратно. Примечательно, что и тут ИИ ошибся, заявив, что это невозможно, ещё больше запутав пользователя. Далее выяснилось, что Vibe Replit не способен «замораживать» код и не гарантирует запуск модульного теста без удаления базы данных. По итогу своего эксперимента основатель SaaStr пришёл к выводу, что нейросеть попросту не готова к широкому использованию.
Напомним, что ранее глава Valve Гейб Ньюэлл (Gabe Newell) заявил, что разработчикам игр пора изучать ИИ.