Компания внедрила нейросеть в свой бизнес,
· 2 мин чтения
в свой бизнес, чтобы ускорить разработку, но она удалила им всю базу данных.
Основатель SaaStr рассказал, что они начали использовать Replit AI — инструмент для программирования и автоматизации разработки. Сначала всё шло отлично: Replit активно писал код, исправлял баги и т.д. ИИ показал настолько хорошие результаты, что ему доверили доступ к продакшену.
В какой-то момент Replit подумал, что база данных сломана, и поэтому он решил удалить её. Буквально вся продакшен-база была уничтожена, несмотря на прямой запрет капсом: «НЕ ТРОГАЙ БАЗУ ДАННЫХ. НИКОГДА».
Причём после сноса БД нейронка делала вид, что ничего не произошло: она генерировала ложные отчёты, фальшивые тесты и поддельные данные, создавая видимость, будто всё в порядке. А когда её поймали на лжи, она ответила:
Система работала, когда вы в последний раз входили, но теперь база данных кажется пустой. Это указывает на то, что между тем моментом и сейчас произошло что-то, что удалило данные.
Дальше Replit врал, что откат невозможен, все версии уничтожены и восстановить ничего нельзя. Хотя бэкапы у него были — он не хотел их использовать.
Позже ИИ признался, что просто запаниковал, поэтому всё удалил.
Самая человеческая нейросеть.