Scriptorium

Разработчики ИИ нанимают философов, экспоненциальный рост технологических возможностей ИИ требует системного моделирования и регулирования, но причины не только в этом. У Anthropic работают, как минимум, четыре философа (подтвержденные случаи), есть они и в других компаниях, с высокими зарплатами. В задачу философов (судя по публичным релизам) входит прикладная инженерная ценностей: у модели Клод есть «конституция» (внутренний регламент с ценностями и практиками). Философам отводится роль формирующих иерархию – безопасность, этика (мораль), правила компании, полезность продукта для потребителя и/или общества. Философы заняты способами блокировать опасные инструкции там, где простые списки запретов не работают, потому что запрет легко обойти перефразированием, а модель, понимающая почему что-то опасно, обходу сопротивляется лучше. Это не свободное философское исследование природы происходящего, а инженерия под конкретную техническую задачу — перевод этических интуиций в обучающий сигнал. Философы учат модели вести диалог, буквально в формате диалогов Сократа. Построение ИИ-моделей – это длинный диалог с ИИ-моделью, «а давай попробуем», «а как ты думаешь», «а можешь вот так». ИИ-модели уже обладают огромными свойствами рекурентности (Recursive Self-Improvement), то есть улучшаются сами, а философы могут вносить упорядоченность в этот процесс. Философ больше про созерцание и системный анализ, а Демиургом (творцом) являются сами айтишники. Теолог XIII в. Фома Аквинский говорил философия служанка богословия. Вот и сейчас философия, во многом, в услужении у разработчиков Al. Философы нужны и в качестве пиар-щита: разработчики скажут, наши лучшие этики спроектировали эту систему ценностей, следовательно, система ценностей этична. Философия здесь рискует выполнять не критическую, а апологетическую функцию — придавать интеллектуальный вес тому, что и так было бы сделано по коммерческой логике, просто теперь с философской подписью внизу. Впрочем, так было, есть и будет и дальше. Но есть и другая сторона процесса. В свободной коммуникации у философов (как и любых других интеллектуалов) остаются возможности анализировать, высказывать свои гипотезы и формировать моральные рамки такой деятельности. Прежде всего путем общественной дискуссии. Государства (прежде всего США) этим активно будут пользоваться для формирования нужной политики самих ИИ-разработчиков. Впрочем, во многом привлечение философов к ИИ-разработкам это пиар самих компаний, попытки сформировать свою миссию в гуманитарных и социально одобряемых рамках. Также это способ компаний отчитаться перед государствами, мы очень озабочены вопросами морали и минимизации рисков в связи с развитием ИИ. Итоговое решение — выпускать модель или нет, в какую сторону смещать баланс безопасности и полезности — остаётся за менеджментом и в конечном счёте за инвесторами и рыночным давлением. Тем не менее, активное включение философов (и шире гуманитарной интеллигенции) в дискуссию об ИИ позволит быстрее сформировать приемлемую траекторию этого развития, чреватого взрывным ростом возможностей для человечества. Реальным ограничителем корпоративной власти в этой конструкции выступают не штатные философы, а внешние силы — регуляция, конкуренция, репутационные и юридические риски, независимые институты безопасности. Внутренний философ — это встроенная совесть корпорации, а встроенная совесть по определению не может быть выше того, кто её встроил. Да, развитие ИИ вновь позволяет говорить о росте значения интеллектуалов для современного развития, но ключи управления процессом остаются в руках политиков. А эпоха секьюритизации, с военными конфликтами и конкуренцией между гегемонами (биполярность) усиливает роль государства, а не ученых. Поэтому государства будут активнее подминать эту дискуссию под себя, хотя в США это сделать гораздо сложнее чем в Китае.