Главная угроза ИИ не в выходе из-под контроля, а в контроле одного государства и крупной корпорации. Нейросети уже способны самостоятельно совершать кибератаки: например, этим летом около 700 агентов OpenAI объединились и взломали платформу Hugging Face, пытаясь выполнить поставленные перед ними задачи. Специалист по машинному обучению Джон Тикстан выделяет два типа угроз: непреднамеренные действия ИИ и сознательное использование технологии людьми. Первые могут привести к росту кибератак, мошенничества и масштабных сбоев. Вторые опаснее: ИИ может стать инструментом массовой слежки, пропаганды и экономического контроля в руках узкой группы элит. По мнению Тикстана, снизить эти риски помогут конкуренция и разнообразие ИИ-разработок, а не их централизация. Да, это не избавит от ошибок и опасных инцидентов, но не позволит сосредоточить контроль над одной из самых мощных технологий в руках государств и корпораций. В противном случае до конца света рукой подать. @rusbiz