Нобелевский лауреат Джеффри Хинтон, которого называют «крестным отцом» искусственного интеллекта, считает, что правительства мира должны запретить разработку сверхмощных ИИ-систем. Хинтон отметил, что к настоящему моменту в научном мире просто нет консенсуса о том, как можно было бы безопасно разрабатывать суперинтеллект. «Потеря контроля над ИИ, более умным, чем мы сами, была бы катастрофой и могла бы привести даже к исчезновению человечества». Вообще, Хинтон не первый пионер ИИ, который делает подобные заявления. Например, канадский математик Иошуа Бенгио регулярно публикует научные манифесты и выступает перед парламентами разных стран с требованием приравнять разработку автономных супермоделей к технологиям повышенной опасности (по аналогии с ядерной или биоинженерией). А Элиезер Юдковский, занимающийся проблемами технологической сингулярности, открыто заявлял в колонках для Time, что создание общего искусственного интеллекта (AGI) с уровнем интеллекта выше человеческого практически гарантированно приведет к гибели людей.