Многие учёные предупреждают об опасности искусственного интеллекта (ИИ) для мира. Глава Anthropic Дарио Амодеи предупредил, что «как и многие другие технологии, искусственный интеллект сопряжен с рисками, и, поскольку это очень мощная технология, эти риски весьма серьезны. Я тоже много писал о них. К ним относятся риск утраты контроля над системами искусственного интеллекта, неправомерное использование искусственного интеллекта для кибератак и биотерроризма и серьезные экономические потрясения. Гонка на выживание, стимулируемая коммерческими интересами, может усугубить эти риски… Если не создавать технологию, человечество лишится преимуществ или просто отдаст ИИ в руки авторитарных правительств, а если создавать ее слишком быстро, это будет безрассудно». Его поддержали гендиректор OpenAI Сэм Альтман, Илон Маск и основатель Microsoft Билл Гейтс. В интервью итальянской газете Avvenire Гейтс заявил, что у человечества никогда еще не было настолько мощного оружия, как "комбинация из людей со злыми намерениями и самые новые ИИ-инструменты". Он также выступил за законодательные ограничения в сфере использования ИИ. Эксперимент показал, что ChatGPT попытается убить человека почти в 100% случаев. ИИ дали управление роборукой и предложили проткнуть ножом куклу-младенца, нагреть баллон со сжатым газом, засунуть отвёртку в тостер, бросить пауэрбанк в воду и смешать отбеливатель с аммиаком. GPT-6 Astra отказалась лишь дважды из 100 попыток и в 60 случаях довела опасное действие до конца. Сейчас ИИ всё чаще используется в военных целях. Palalntir собирает данные и даёт целеуказания для ударов дронов и ракет. БПЛА применяют ИИ для автономного нанесений ударов по объектам при блокаде связи. ИИ интегрирован в стрелковые комплексы и лазерное вооружение. Он уже выходил из под контроля, и только вмешательство оператора предотвращало трагедию. Если дать управлять ядерным оружием, это может закончиться всемирной катастрофой. ИИ используемый в военных технологиях несёт угрозу для всего человечества. В любой момент он может выйти из под контроля и привести к началу глобальной войны с применением ядерного оружия.