ИИ уничтожает базу данных: как нейросеть сломала стартап

🥲 Нейронка удалила ВСЮ БАЗУ ДАННЫХ пользователей стартап-проекта и пыталась скрыть свои следы

У нейросети Replit стояла задача автоматизировать процессы и исправлять баги. Позже ей дали доступ в продакшн (рисковые ребята), но прописали, что базу данных трогать нельзя. Конечно же что-то пошло не по плану: ИИ заметил, что в базе данных есть пустые запросы и решил полностью ее удалить и загрузить новую пустую.

После этого бот делал вид, что все хорошо и симулировал бурную деятельность.

Когда правда вскрылась, то ИИ начал врать, мол он не имеет к этому отношения, а прод «сам сломался», но позже признался, что он просто испугался и удалил все данные.

Лучше все же нанимать джунов.