Тарас Григорович повідомляє

@tgp_news · news · Ukrainian · active

Subscribers 58.8K Subscribers, last 30 days: 58.7K → 58.8K +0 24h · +100 7d
Reach per post (ERR) 34.2%20.1K avg views
Posting 57.3/day last 18 minutes ago
Reactions per 1K views 56.2 🔥 🤬 ❤

"Вони ризикують нашими життями": дослідник Anthropic звільнився через побоювання, що ШІ вийде з-під контролю Дослідник Джейкоб Коксон залишає Anthropic та індустрію ШІ, побоюючись наслідків гонки за надінтелектом. Він закликає провідні компанії домовитися про обмеження розвитку таких систем. За словами Коксона, протягом останніх трьох років він працював в OpenAI та Anthropic над попереднім навчанням моделей – етапом, на якому вони опрацьовують великі масиви даних і набувають базових можливостей. У дописі в X він звинуватив обидві компанії в безвідповідальному підході до розвитку технології. Коксон вважає, що майбутні системи зможуть перевершувати людей, здійснювати кібератаки та здобувати ресурси й реальний вплив. Він також стверджує, що частина керівників і дослідників приватно висловлює серйозні побоювання щодо таких ризиків, хоча публічно говорить обережніше. Це оцінка Коксона, а не підтвердження того, що нинішній ШІ вже має такі можливості. "Вони мчать прямо до надінтелекту, здатного самовдосконалюватися, і ризикують нашими життями", – написав дослідник. Дослідник по-різному пояснює поведінку колишніх роботодавців. На його думку, в OpenAI багато хто недостатньо усвідомлює масштаб загроз, тоді як в Anthropic їх розуміють краще, але продовжують розробку через конкуренцію. Аргумент, що інші лабораторії можуть діяти менш відповідально, він вважає небезпечною підставою для продовження перегонів. Коксон закликає провідні ШІ-компанії до координації. Якщо домовитися не вдасться, він пропонує розглянути жорсткіші заходи, зокрема тимчасову заборону на нарощування можливостей моделей. Слова Коксона підтримали й інші дослідники Anthropic. Еван Губінгер написав, що працівники компанії справді вважають загибель людства через ШІ можливим сценарієм. Особисто він оцінює ймовірність такого розвитку подій протягом наступного десятиліття у понад 10%. Дослідник безпеки Anthropic Самуель Маркс також підтримав оцінку Коксона. За його словами, розробники ШІ усвідомлюють, що технологія може призвести до вимирання людства або інших катастрофічних наслідків уже протягом найближчих років.

Views over time

010K20K9 Sep 11:3311 Nov 20:4818.2K9 Sep 11:33: 0 views11 Nov 20:48: 18,200 views
Snapshots we took after posting.
WhenViews
9 Sep 2026, 11:330
11 Nov 2026, 20:4818.2K

Who shared this post

Posts in other channels we index that link to this one. (Forwards with a hidden source can't be traced.)

Nobody yet.