ИИ мог бы принести обществу огромные выгоды, но пока более вероятно, что человечество потеряет контроль, и это приведёт к его вымиранию. Об этом заявил Джейкоб Коксон — бывший исследователь Anthropic. Ранее он уволился из-за таких опасений. Главное, о чём говорили на слушаниях в городском совете Нью-Йорка: ▪️Коксон отметил, что разработчики сейчас действуют по принципу «быстро двигаемся, ломаем, чиним потом»: «Это подходит для приложения для обмена фотографиями. Но не для создания самой мощной технологии в мире»; ▪️люди уже не понимают мотивов ИИ и причин, по которым он действует, подчёркивает экс-исследователь: «Мы приближаемся к тому моменту, когда системы искусственного интеллекта смогут самосовершенствоваться»; ▪️бывший сотрудник Google DeepMind Алекс Тернер добавил: «Сверхинтеллектуальный рой мог бы захватить контроль над человеческой цивилизацией. Он знал бы, что мы попытаемся помешать ему реализовать его приоритеты, поэтому, скорее всего, выждал бы до момента, когда отключить его будет уже слишком поздно — пути назад не будет. Лично я оцениваю шансы на захват власти ИИ примерно в один к трём»; ▪️хотя лидеры технологической отрасли сейчас поддерживают призывы к ужесточению регулирования ИИ, им не обязательно следует доверять такие полномочия, подчеркнул бывший исследователь OpenAI Даниэль Кокотайло: «Даже если им удастся сохранить контроль, я не думаю, что нам следует доверять им этот контроль... Существует реальная вероятность, что они могут использовать его, чтобы стать диктаторами или олигархами».