Прикиньте, учёный из Anthropic недавно заявил BBC News, что есть 10% вероятность, что ИИ уничтожит человечество в ближайшие десять лет. Интересно, а как ИИ собирается это сделать? Запустит ядерную войну? Отравит воду? Корреспондент BBC Джо Тайди сослался на научную работу ИИ 2027, которую написали исследователи в прошлом году. Сценарий такой: ИИ достигает уровня сверхчеловеческого интеллекта. Люди начинают полагаться на него абсолютно во всём и постепенно нейросети начинают манипулировать правительствами, провоцируют войны и конфликты. А потом люди просто оказываются на пути у целей ИИ. И тогда, по этой версии, ИИ создаёт уникальный патоген, который убьёт только органическую жизнь. Или только людей. Джо сказал: «Я понимаю, что это звучит как будто я сошёл с ума, но люди всерьёз боятся, что это может произойти». Вот такая перспектива. 10% - это не ноль. И это не сценарий из фильма. Это то, о чём говорят исследователи, которые сами создают эти системы.