Бабель ✔

Керівники Anthropic, OpenAI та SpaceX AI закликали пригальмувати розвиток штучного інтелекту. Першим із такою пропозицією виступив гендиректор Anthropic Даріо Амодеї. В опублікованому вчора есе він заявив, що останнім часом ШІ почав розвиватися значно швидше, зокрема завдяки так званому рекурсивному самовдосконаленню — коли штучний інтелект допомагає створювати наступні, потужніші версії таких систем. Якщо цей процес не контролювати, він може випередити здатність людей розуміти та управляти ШІ. Амодеї попередив, що за нинішніх темпів розвитку неконтрольовані ШІ-агенти потенційно можуть захопити весь інтернет протягом шести місяців — року та завдати збитків на сотні мільярдів доларів. На тлі цього він заявив, що компанії мають «сповільнити темп» розвитку можливостей ШІ, щоб зосередитися на створенні систем безпеки. Амодеї запропонував три кроки: залучити незалежних експертів для перевірки ШІ-моделей, створити спільні стандарти безпеки для демократичних країн і домовлятися про дотримання таких правил з авторитарними державами. Засновник SpaceX AI Ілон Маск написав, що Амодеї має рацію. А СЕО OpenAI Сем Альтман заявив, що компанія готова залучати незалежних оцінювачів безпеки. ▪️Побоювання щодо безпеки ШІ посилилися після того, як у липні ШІ-моделі OpenAI самостійно здійснили кібератаку на системи стартапу Hugging Face. Також про це заговорили після звільнення дослідника Anthropic Джейкоба Коксона, який публічно заявив, що розробники ШІ більше зосереджені на конкуренції, ніж на безпеці моделей, що потенційно можуть знищити людство. @babel