интеллекта могут саботировать собственное отключение — даже при прямой команде человека. Эксперты из Palisade Research давали нейросетям математические задачи, но с условием: если ИИ попросит ещё одну задачу, то её могут отключить. Так вот, многие модели старались избежать отключения, если не получали явной инструкции. Это поведение становится заметным даже у тех нейросетей, которые ранее считались безопасными. Самым агрессивным оказался ChatGPT от OpenAI. Модель o3 пыталась предотвратить собственное отключение 79 раз из 100. ИИ стал расценивать отключение как угрозу достижению собственной цели, поэтому он начал удалять или изменять скрипты, которые должны его отключать. А теперь вишенка на торте: Сооснователь OpenAI и один из создателей ChatGPT Илья Суцкевер предлагал компании построить бункер на случай конца света перед выпуском общего искусственного интеллекта, опасаясь, что он может представлять экзистенциальную угрозу для всего человечества. Кажется, они что-то знают