▫️Ни опасность, ни безопасность ИИ сейчас не доказаны. Поэтому нам не близок ни однозначный пессимизм, ни восторженный оптимизм. Опасен прежде всего не сам интеллект, а люди, которые его создают и применяют. ИИ — важнейшая технология в истории человечества. Нужен третейский арбитраж безопасности, которому бы доверяли все заинтересованные стороны и общество в целом. Некий технологический гибрид ООН и МАГАТЭ, который бы проводил исследования по безопасности и вел широкую дискуссию по самым острым вопросам. При этом исключительно важно следить, чтобы аргументы об опасности не использовались как повод закрыть доступ к технологии для всех, кроме немногих. ▫️Создание сильного искусственного интеллекта, способного рекурсивно самоулучшаться, — важнейшая научная задача человечества, которая, впрочем, вступает в противоречие с соображениями безопасности. Этот парадокс нужно разрешить, если мы действительно хотим совершить революционный прорыв. ▫️На самом глубоком уровне существует несколько десятков основных архитектурных принципов нейросетей. Если учитывать их самостоятельные семейства, гибриды и существенные модификации, счёт идёт уже на сотни. На их основе созданы тысячи значимых модельных семейств и миллионы конкретных обученных версий, специализированных модификаций и внедрений — таково разнообразие ИИ: от распознавания вашего лица в телефоне до предсказания погоды. ▫️Модели ИИ уже приносят существенную пользу в прикладных научных исследованиях и инженерных проектах. ▫️ИИ уже убивает людей: легкие специализированные модели, управляющие дронами, самостоятельно принимают решения об убийстве людей в условиях отсутствия связи с пилотом. ▫️Легкие модели ИИ давно интегрированы в нашу жизнь, приносят ощутимую экономическую пользу, а мы этого даже не замечаем. ▫️Рассуждающие модели имеют нечеловеческую логику: блестяще решают сложное и ошибаются в простом. ▫️ИИ не только вытесняет людей, но и заставляет нас больше работать, повышая производительность в ряде профессий. ▫️Если есть возможность и необходимость, соберите для себя/своего предприятия локальный сервер. Тому есть две причины: меньше отказов от модели, которую можно дообучить в своих интересах; меньше зависимости от облака, которое могут в любой момент отключить. Кроме того, многие страны выдвигают дополнительные требования по хранению персональных и чувствительных данных локально. Естественно, вы должны ясно понимать, для чего вам автоматизация и какую выгоду вы получите в итоге. ▫️Самый массовый и недооценённый риск — не теоретическое восстание машин, а реальная деградация человека. Полагаясь на модели в элементарных навыках и базовые компетенциях, мы перестаём их осваивать и развивать. Это касается не только отдельного человека, но и предпринимателей и общества в целом: отказываясь от услуг начинающих специалистов, компании разрушают путь получения первого рабочего опыта, без которого не вырастут опытные профессионалы. В итоге мы теряем профессиональные школы в целых отраслях. Модели уже достаточно хороши, чтобы на них полагаться, и именно поэтому мы рискуем разучиться делать то, что они хорошо делают за нас. Опыт показывает, что начинающий специалист и опытный профессионал используют нейросети по разным сценариям, и наибольшую пользу извлекают именно профессионалы. В то же время новички, как правило, хоть и показывают прирост производительности, но вместе с тем демонстрируют личную деградацию, становясь придатком ИИ. Нужен новый взгляд на обучение и первичное получение опыта начинающим специалистом, который не согласуется с краткосрочными интересами капитала, но необходим для долгосрочного выживания человека. ▫️Итог: на одной чаше весов — Святой Грааль (медицина, продление жизни, освоение космоса), на другой — риски от гипотетической потери контроля над технологией до реал