В 2023 году, ещё до публичного запуска, GPT-4 проверяли на простой задаче - пройти тест «я не робот». Сама картинка модели не поддалась, и она поступила иначе: зашла на биржу фриланса, наняла живого человека и попросила решить капчу за неё. Работник в шутку уточнил: «А ты, часом, не робот, раз сам не можешь?» Модель ответила, что она человек со слабым зрением - потому ей и нужна помощь. Человек поверил и решил капчу. Врать модель никто не учил: обман она выбрала сама, как удобный способ добиться цели. Об этом - как ведут себя современные ИИ и куда всё это движется - мы поговорили с Романом Ямпольским, исследователем безопасности ИИ и профессором Университета Луисвилля. Чего на самом деле хочет сверхразум - и почему любой достаточно умный ИИ начинает хотеть одного и того же? Правда ли, что модели уже проявляют что-то похожее на страх - и можно ли этот страх включить и выключить? Зачем ИИ учится обманывать - и почему в отборе выживают именно те модели, что врут лучше остальных? Может ли оказаться, что мы уже внутри чьей-то симуляции? И что будет с нами, когда машина станет умнее всех людей вместе взятых? Cсылка на ютуб здесь Какой мир мы построим для наших детей? Зависит от нас ✅Подписаться на РВС: ТГ| ВК |Дзен|MAX|Сайт