Политтранзит

Нерегулируемое развитие искусственного интеллекта чревато катастрофами. Эта новая парадигма мира еще не осознана политиками и людьми в полной мере. Дивный новый мир начнет проявляться вместе с "поумневшим" ИИ. Человечеству нужно «проснуться» и осознать потенциально катастрофические риски, связанные с развитием мощных систем искусственного интеллекта, заявил руководитель компании Anthropic и бывший сотрудник ее конкурента OpenAI Дарио Амодей в своем эссе. «Человечество вот-вот получит невообразимую власть, и совершенно не ясно, достаточно ли развиты наши социальные, политические и технологические системы, чтобы использовать ее», – написал он. Одним из рисков Амодей называет потенциальную возможность разработки отдельными лицами и группами людей биологического оружия, которое «в худшем случае способно уничтожить все живое на Земле». Другая угроза, о которой предупреждает Амодей, – массовое сокращение рабочих мест и «концентрация экономической мощи» в Кремниевой долине в результате внедрения ИИ. Амодей убежден в том, что политические решения, связанные с ИИ, продиктованы стремлением воспользоваться возможностями технологии, а не снизить связанные с ней риски. В 2023 году правительство Великобритании организовало саммит по ИИ-безопасности, на котором страны договорились о совместной работе по противодействию подобным рискам, следующая встреча должна состояться в Индии в феврале 2026 года, пишет FT. По сообщению Reuters, в начале 2026 года Еврокомиссия раскритиковала провокационные изображения женщин и детей в социальной сети X. 26 января началось расследование в отношении чат-бота Grok, который позволяет изменять фотографии людей и создавать эротические дипфейки. Мы склонны считать, что машина беспристрастна, ведь это же математическая модель. На деле же если изначальные данные были некорректны или отражали человеческие предубеждения, то алгоритм будет бездумно «зеркалить» их. «Большие данные» – это не просто красивая фраза, а реальность, где потенциально все, что мы делаем онлайн (и иногда офлайн), может оказываться в базе для анализа. Геолокация, покупки, переписка, голосовые сообщения – любая деталь может стать «кормом» для ИИ. И, к сожалению, технологии обеспечения безопасности не всегда успевают за теми, кто хочет эти данные украсть или использовать в нечестных целях. Системы ИИ подсказывают нам, какие фильмы смотреть, куда ехать отдыхать, на какие группы подписаться. Вроде бы они «знают» наши интересы и предпочтения, но этот комфорт может превратиться в цифровую зависимость. Мы перестаем учиться думать сами. К тому же огромные дата-центры потребляют уйму электроэнергии, а их охлаждение требует ресурсов воды и дополнительной энергии. Экологические риски не оценены в полной мере. Соревнование государств в развитии ИИ идет на высшем уровне: от систем кибератак до аналитических платформ, способных «чувствовать» настроения общества. В попытках не отстать от технологических лидеров каждая страна развивает ИИ, часто забывая о необходимых мерах безопасности. В случае неудачи может случиться утечка секретных технологий, эскалация кибератак, злоупотребления ИИ для шпионажа и пропаганды. @PolitTransit