Американские технобро один за другим предупреждают об опасностях и возможностях «суперинтеллекта», как его требует называть Трамп. За многими предупреждениями просматривается: давайте добьемся регулирования и установим выгодные правила игры. (Если вы не читали, но хотите, вот неполный список: Дарио Амодеи, Билл Гейтс, Марк Цукерберг, Брэд Смит) Меня больше других зацепил глава Microsoft — Сатья Наделла, сумевший скрестить в одной колонке алармизм и корпоративную скуку. Вот его мысли (я огрубляю): Раньше можно было понять, как конкретный код влияет на решения. Сейчас у нас в руках гораздо более мощная технология, но мы не понимаем, как на результат влияет обучение и даже промпт. И вот этим машинам мы даем порулить конфиденциальными данными и принимать решения от собственного лица. В корпорациях мы умеем управлять хаотичными обезьянами с гранатами с помощью процедур, политик и механизмов контроля. Давайте закуем модели в такую корпоративную упряжь. Потребуем от них прозрачного хода мыслей (chain of thought transparency). И дальше он предлагает семь принципов. Они сводятся к нулевой терпимости, нулевому доверию и бесконечному страху перед ИИ — возможно, обоснованному: 1. Разнообразие моделей. Одна модель не должна отвечать за важный результат или самопроверку. 2. Запись всего и вся, принцип наблюдения. Любое действие должно оставлять свидетельство, которое может прочесть человек и не может изменить машина. Если это не записано, этому верить нельзя. 3. Проверяемость. Надо постоянно тестировать всю систему. 4. Независимый контроль. Организация должна независимо определять, к чему у модели есть доступ, и что она способна натворить. 5. Сдерживание. Мы должны предполагать с самого начала, что модель скомпрометирована и все время держать руку на стоп-кране. Нужны стандарты сдерживания моделей. 6. Раскрытие инцидентов. Если что-то ломается или скомпрометировано, надо вовремя понять, что пошло не так и как это предотвратить. А главное — поделиться с отраслью новым опытом. Заканчивается это все удивительной фразой: «Наибольшего доверия заслуживает не так система Суперинтеллекта, модели которой мы больше доверяем. Это должна быть та, которая позволяет меньше всего доверять своей модели»