Бывший исследователь Anthropic Джейкоб Коксон, который недавно открыто высказался о рисках развития ИИ, теперь уже в эфире CNN заявил, что технологии, которые разрабатывают Anthropic и OpenAI, могут привести к уничтожению человечества уже в ближайшие четыре года.
Также из Anthropic уволился ещё один специалист по безопасности Джо Бентон. Свое решение он объяснил тем, что гонка передовых ИИ-систем создаёт для общества риски беспрецедентного масштаба, а нынешние механизмы безопасности не соответствуют скорости развития искусственного интеллекта:
Уже в ближайшие пару лет мы можем оказаться в мире, где вместе с нами будут существовать ИИ-агенты, превосходящие по интеллекту любого ныне живущего человека. У таких систем могут возникнуть цели и стремления, расходящиеся с намерениями людей-контролёров, а их возможности могут выйти за рамки нашего эффективного сдерживания. Человечество может не пережить этот переходный период.
Одним из главных рисков оба называют сценарий, когда ИИ станет достаточно хорош, чтобы создавать собственных более мощных ИИ-преемников уже без участия человека
Свой детальный и «более мягкий» прогноз представила и Anthropic: компания подробно смоделировала сценарии, при которых ИИ может уже в ближайшие четыре года резко ускорить экономический рост, одновременно оставив без работы миллионы белых воротничков и фактически обесценив их труд.