)@b@d-дорога в Ад

@xabad_lyubavichi · news · Russian · active

Subscribers 7.4K Subscribers, last 30 days: 7.4K → 7.4K +0 24h · −10 7d
Reach per post (ERR) 3.4%251 avg views
Posting 94.7/day last 39 minutes ago
Reactions per 1K views 6.3 👍 😡 💯
repost from Алексей Скрипченко

2026-09-10 Интересное обращение Джейкоба Коксона, сотрудника ИИ-компании ANTHROPIC, который, по его словам, вчера уволился из компании из-за реальной угрозы, которую несёт в себе гонка развития ИИ. "Сегодня я уволился из компании Anthropic. Последние три года я занимался исследованиями в области предварительного обучения (pretraining) - сначала в OpenAI, затем в Anthropic. Действия обеих компаний безответственны. Они мчатся к созданию самосовершенствующегося суперинтеллекта, рискуя нашими жизнями. Не стоит недооценивать мощь этой технологии. Вскоре появятся системы, превосходящие человеческий интеллект - они смогут взломать что угодно, в одночасье совершить революцию в любой сфере и получить доступ к реальной власти и ресурсам. Мы все видим прогресс в этих областях, и темпы его не снижаются. Люди, создающие ИИ, искренне верят, что к концу десятилетия он может погубить нас всех. Это не маркетинговый ход. Напротив, многие руководители и ведущие исследователи в публичных заявлениях подбирают слова так, чтобы казаться рассудительными, но в частных беседах я слышу от них те же опасения. Никакая другая человеческая деятельность не несёт в себе такой угрозы. Часто можно услышать вопрос: «Если они действительно в это верят, почему продолжают разработку?» В OpenAI многие до конца не осознали, что на кону стоит судьба цивилизации. В Anthropic масштаб рисков понимают хорошо, но компания втянута в гонку за первенство: там считают, что никто другой не будет действовать ответственно, поэтому нужно брать инициативу на себя, несмотря на опасность. Участие в этой гонке и переход к «финальной стадии» - это самоуверенная авантюра, решение о которой не должно приниматься в корпоративном чате частной компании. Попытка форсировать решение проблемы согласования целей ИИ (alignment) требует абсолютной уверенности в том, что не существует более безопасных путей развития. Я с оптимизмом смотрю на возможности координации усилий. «Предупредительные выстрелы», такие, как атака на Hugging Face - сделали соглашения о темпах разработки между американскими лабораториями более реальными. Однако у меня нет ощущения, что мы движемся к предотвращению глобальной гонки. Возможно, для этого потребуются радикальные меры: например, временный запрет на наращивание возможностей моделей. Если вы исследователь в одной из таких лабораторий, я призываю вас задуматься о том, что нас ждёт в ближайшие годы. Хотите ли вы запускать процесс обучения суперинтеллекта с подкреплением (RL), не имея четкого представления о том, как устроено его «мышление»? Стоит ли просто продолжать работу, полагая, что «это все равно произойдет», или лучше воспользоваться моментом и призвать к изменению условий?" Источник https://x.com/hilbertspaess/status/2097476196791709843 ✈️.Telegram | ✉️.VK | 🇧🇾

Views over time

010020030040029 Sep 08:2613 Nov 23:4732129 Sep 08:26: 0 views13 Nov 23:47: 321 views
Snapshots we took after posting.
WhenViews
29 Sep 2026, 08:260
13 Nov 2026, 23:47321

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.