Pogosyan

@pogosyangrigoriold · news · Russian · active

Subscribers 4.9K Subscribers, last 30 days: 5.1K → 4.9K +0 24h · −180 7d
Reach per post (ERR) 3.4%167 avg views
Posting 12.9/day last 5 hours ago
Reactions per 1K views 17.5 🔥 😱 ❤
repost from Кровавая барыня

Claude заблокировал несколько учёных, посчитав, что они создают биологическое оружие, — NYT. Компания Anthropic заявила, что в этом году ей удалось сорвать несколько потенциальных заговоров учёных, которые использовали её передовые модели ИИ для проведения исследований, которые могли бы способствовать разработке биологического оружия. При этом компания признаёт: она не смогла установить, были ли намерения исследователей преступными. Проблема в том, что современные биологические исследования имеют двойное назначение. Те же методы, которые позволяют создавать вакцины и лечить заболевания, могут использоваться для разработки более опасных патогенов. Ввиду этой неопределённости Anthropic предпочла действовать с осторожностью, поскольку последствия упущения злонамеренной деятельности могут быть серьёзными, пишет The New York Times со ссылкой на отчёт компании. Одним из наиболее тревожных случаев стало исследование вируса чикунгунья. Учёный просил Claude помочь с грантовой заявкой на работу, предполагавшую создание мутаций вируса, способных сделать его более опасным, и последующее тестирование на животных. Сам по себе такой подход может применяться в легитимной науке. Однако Anthropic установила, что исследования планировалось проводить в военном научном институте: Мы не знаем, предполагалось ли использовать результаты исследований в качестве оружия. Но то, что военное учреждение проводит исследования по усилению функциональных свойств, вызывает опасения, — заявил руководитель отдела анализа угроз Anthropic Джейкоб Кляйн. Прошлогодние тесты старых моделей показывали их неспособность существенно помогать в проведении опасных биологических исследований. Новые модели стали значительно эффективнее в сложной научной работе — и поэтому компания усилила ограничения на запросы, связанные с биологией двойного назначения, сказано в документе. Отчёт Anthropic касается не только биологии. Компания также выявила использование Claude для создания политической пропаганды, слежки за диссидентами, а также разработки программного обеспечения для ракет, вооружённых дронов, бомб и другого оружия. Но именно биологическое направление вызывает у экспертов наибольшую тревогу. Опасная деятельность может долго выглядеть как обычная научная работа. Злоумышленник способен использовать ИИ, не раскрывая своих намерений и маскируя потенциально опасные исследования под легитимные научные задачи. 😎 Кровавая барыня в MAX

Views over time

05010015020011 Sep 07:1012 Nov 10:2917411 Sep 07:10: 0 views12 Nov 10:29: 174 views
Snapshots we took after posting.
WhenViews
11 Sep 2026, 07:100
12 Nov 2026, 10:29174

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.