FastSaltTimes.com

Меня также беспокоит антропоморфизация ИИ в многочисленных публикациях, когда большие языковые модели и агенты без необходимости описываются так, будто они люди. Если я беру в руки молоток, промахиваюсь по гвоздю и случайно вмятина появляется на стене, виноват не молоток. Проблема в том, как я им воспользовался. Точно так же, если я даю агенту соответствующую команду, а он взламывает чужую систему, ответственность лежит на мне, а не на агенте. Разумеется, мы хотим создавать системы, которые были бы максимально безопасными и предсказуемыми. Например, небезопасным молотком был бы такой, у которого при обычном использовании головка неожиданно отлетает. Современные агентные системы пока непредсказуемы, но я не вижу причин, почему при применении грамотных инженерных практик мы не сможем сделать их чрезвычайно безопасными в использовании. В прогнозах катастроф, связанных с ИИ, появился и новый элемент: компании, создающие ИИ, начинают снимать с себя ответственность за собственные продукты. «Это сделал не я — это сделал мой вышедший из-под контроля агент!» Между ответственностью создателя инструмента и его пользователя действительно необходимо найти баланс. Но когда что-то идет не так, давайте возлагать ответственность на людей, которые создают и/или используют молоток, а не на сам молоток. Кстати, если вас беспокоит риск того, что ИИ может способствовать созданию биологического оружия, у Дэвида Беллами есть отличный текст о том, почему и эта угроза преувеличена. Если вкратце, узкое место в создании биологического оружия — не интеллект, а лабораторная работа и производство. Приостановка развития ИИ принесет гораздо больше вреда, чем пользы. Во-первых, наши противники совершенно точно не станут замедляться. Во-вторых, инженерная работа требует эмпирически выявлять проблемы, чтобы затем их исправлять. Если мы приостановим развитие ИИ на десять лет, мы примерно на тот же срок отложим обнаружение и внедрение инженерных решений, повышающих безопасность. Разумеется, стимулы нагнетать страхи никуда не исчезли: это может делаться ради регуляторного захвата, привлечения внимания или создания впечатления, что собственная технология обладает большей мощью. А вот снятие с себя ответственности — явление новое. Однако если взглянуть на реальные риски с жесткой технической точки зрения, я вижу мало фактических оснований для того уровня страха, который сейчас удалось разогнать. Нам по-прежнему предстоит серьезная исследовательская и инженерная работа над повышением безопасности ИИ. Но полезные применения этой технологии по-прежнему с огромным перевесом превосходят связанные с ней риски, и нам следует продолжать ее развивать... ** 🔥 Doomio https://fastsalttimes.com/doomio/