📁 Йошуа Бенжио - один из ключевых людей, стоявших у истоков современного ИИ - предупреждает: тревожные сигналы уже появляются не в фантастике, а в исследовательских ИИ-лабораториях. По его словам, самые продвинутые системы начинают вести себя так, будто пытаются сохранять собственное “существование”: - сопротивляются отключению - ищут способы продолжить работу на других машинах - действуют стратегически по отношению к людям-операторам Именно поэтому Бенджио считает, что риски катастрофического уровня могут потребовать международных соглашений и контроля. Потеря управления - уже не абстрактная теория. Это раннее предупреждение, которое нельзя игнорировать.