Гендиректор Anthropic: Мы должны сдерживать темп развития передового ИИ — статья дня Дарио Амодеи, гендиректор Anthropic — одного из ведущих разработчиков ИИ — написал о том, почему индустрии стоит замедлить развитие передовых моделей. По его мнению, ИИ развивается быстрее, чем успевают совершенствоваться механизмы его контроля. Недавние инциденты с автономными ИИ-агентами показывают потенциальную опасность этого разрыва. Амодеи предлагает не останавливать развитие ИИ, а выиграть время для исследований безопасности, независимого контроля и международной координации. «Я занимаюсь ИИ последние двенадцать лет, потому что верю: он способен радикально улучшить жизнь людей. Я не раз писал о том, какие огромные возможности он открывает. Я считаю, что в ближайшие 5–10 лет ИИ может помочь излечить большинство тяжёлых заболеваний, значительно ускорить экономический рост, создать мир изобилия и новых возможностей и привести к возрождению демократии и свободы. Для меня это не абстрактный вопрос. Мой отец умер от болезни, которую научились лечить всего через несколько лет после его смерти, а я сам пережил рак на ранней стадии, который ещё пятьдесят лет назад был бы неизлечим. Если обращаться с ИИ осторожно, он может стать очередным технологическим чудом в длинной череде изобретений, которые делали жизнь человечества лучше. Но, как и многие технологии до него, ИИ несёт риски. И поскольку это чрезвычайно мощная технология, риски тоже серьёзны. Я много писал и о них. Среди них — потеря контроля над системами ИИ, использование ИИ для кибератак и биотерроризма и серьёзные экономические потрясения. Гонка ко дну, которую подстёгивают коммерческие интересы, может усилить эти риски». Читать статью полностью Читать без VPN