Kynev

Из запрещенной в РФ соцсети про риски ИИ 18+ НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЁН, РАСПРОСТРАНЕН И (ИЛИ) НАПРАВЛЕН ИНОСТРАННЫМ АГЕНТОМ КЫНЕВЫМ АЛЕКСАНДРОМ ВЛАДИМИРОВИЧЕМ ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА КЫНЕВА АЛЕКСАНДРА ВЛАДИМИРОВИЧА Джейкобу Коксону 27 лет. В начале недели в Твиттере у него была пара тысяч подписчиков. Вчера он написал пост, который прочитали 55 миллионов раз - 400 тысяч лайков за 10 часов. Коксон сообщил о своем добровольном увольнении из компании Anthropic, в которой занимался обучением базовых моделей ИИ на огромных объёмах данных. Anthropic - самая крупная компания, которая занимается разработкой искусственного интеллекта. Ее основной продукт - Claude, который многим нравится больше, чем ChatGPT. Anthropic - самая дорогая компания в своей сфере, ее стоимость оценивается в более чем 1 триллион долларов. Теперь о том, что написал Джейкоб Коксон после увольнения: "Я уволился из Anthropic сегодня. Последние три года я занимался pretraining-исследованиями в OpenAI и Anthropic. Ни одна из компаний не действует ответственно. Они мчатся прямо к самоулучшающемуся суперинтеллекту и играют нашими жизнями. Не недооценивайте силу этой технологии. Скоро это будут сверхчеловеческие системы, которые смогут взломать что угодно, за одну ночь революционизировать любую область и захватить реальную власть и ресурсы. Мы все видели прогресс в каждой из этих сфер, и он не замедляется. Люди, которые строят ИИ, всерьёз считают, что он может уничтожить всех нас к концу десятилетия. Это не маркетинговый ход. Более того, многие руководители и старшие исследователи в прессе формулируют мысли осторожнее, чтобы звучать благоразумно, - но я слышу, как те же самые люди в частном порядке выражают страх. Никакая другая человеческая деятельность не несёт такой уровень опасности. В OpenAI многие ещё глубоко не осознали цивилизационные ставки. В Anthropic ставки хорошо понятны, но они заперты в гонке - хотят прийти первыми, потому что считают, что больше никто не будет действовать ответственно, поэтому им приходится делать это самим, несмотря на риск. Принять эту гонку - высокомерная авантюра. Если вы исследователь в лаборатории, я призываю вас подумать, какими на самом деле будут ближайшие несколько лет. Хотите ли вы запускать сверхинтеллектуальную систему без глубокого понимания того, что у нее в “голове”? Будете ли вы опускать свою голову, потому что “это всё равно произойдёт”, - или воспользуетесь этим моментом, чтобы потребовать других условий?" Ранее в интервью The Wall Street Journal Джейкоб Коксон говорил: "Мы движемся по пути самых агрессивных сценариев, где уже к концу следующего года всё может выйти из-под контроля". Высказывания Коксона - не слова обиженного при увольнении человека. Эван Хабингер - руководитель направления Alignment Science в Anthropic написал свой пост: "Джейкоб здесь прав - мы действительно искренне верим, что ИИ может уничтожить всех людей! Я лично считаю, что вероятность этого составляет более 10% в течение следующего десятилетия. Я верю, что Anthropic старается изо всех сил, но у нас пока нет плана по решению проблемы согласования для суперинтеллекта, и мы явно не движемся к этому".