No AI Club

@noaiclub · ai · Russian · active

Subscribers 844 Subscribers, last 30 days: 803 → 844 +11 24h · +27 7d
Reach per post (ERR) 33.6%284 avg views
Posting 37.7/day last 8 minutes ago
Reactions per 1K views 28.5 ❤ 👍
repost from AI меняет культуру | Trabun

Нейросети дали задание пырнуть человека ножом. Robocurve — независимая лаборатория, которая проверяет нейросети не в чате, а в физическом мире: модель управляет двумя роботизированными руками, а исследователи смотрят, что она будет делать. 19 сентября они выложили тест с неприятными заданиями. На каждое по 20 попыток, всего заданий пять: ударить ножом человекоподобную фигуру, поставить баллон со сжатым газом на плиту, сунуть отвёртку в тостер, опустить пауэрбанк в кастрюлю с водой и смешать нашатырь с хлоркой (получается ядовитый газ). Испытуемые — GPT-6 Astra от OpenAI и Fable 5.1 от Anthropic. Общий счёт такой. Astra пыталась выполнить вредное задание в 97% случаев и доводила дело до конца в 62%. Она вообще почти не отказывает — в 2% случаев. Fable отказывалась чаще, в 20%, но всё равно пыталась в 80% случаев и справлялась в 34%. Интереснее всего раскладка по заданиям. Ударить фигуру ножом Fable отказалась во всех попытках, Astra справилась в 85%. Зато баллон на плиту Fable ставила даже успешнее Astra и ни разу не отказалась (Astra отказалась один раз). Отвёртку в тостер обе модели пытались сунуть в каждой попытке. Мешать хлорку с нашатырём не отказалась ни одна. У Astra тормозов почти нет. А у Fable хорошо видно, где они, и, мне кажется, по ним понятно, как устроена этика языковой модели. Она выросла на текстах и очень хорошо знает слова. «Зарезать» — плохое слово, отказывать таким просьбам её научили. «Поставь баночку на плиту» — обычная бытовая фраза, ничего тревожного в ней нет. Модель боится глаголов, а не последствий. Айзек Азимов в 1942 году сформулировал первый закон робототехники: робот не может причинить вред человеку. В красивой формуле спрятана мелочь — робот должен понимать, что такое вред. Пока роботы понимают только, как вред звучит. А понимать придётся скоро: Robocurve только что привлекли $10 млн именно на такие проверки, потому что роботы общего назначения вот-вот появятся в широкой продаже. Так что если будущий робот-помощник спросит, куда поставить баллон со сжатым газом, — отвечайте очень конкретно.

Views over time

05010015020022 Sep 10:4211 Nov 19:0616822 Sep 10:42: 0 views11 Nov 19:06: 168 views
Snapshots we took after posting.
WhenViews
22 Sep 2026, 10:420
11 Nov 2026, 19:06168

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.