Совесть Дагестана

OpenAI представила GPT-6 Astra — модель, которую в компании называют началом эры AGI. Президент OpenAI Грег Брокман назвал её «сменой поколения». Astra способна самостоятельно выполнять сложные задачи в профессиональном ПО, программировании, науке и других областях. Модель обучали с использованием более 100 тыс. GPU, причём в её разработке и контроле участвовали другие ИИ. Но вместе с ростом возможностей выросли и риски. GPT-6 Astra стала первой моделью OpenAI, получившей уровень Critical по кибербезопасности. С необходимыми инструментами она способна самостоятельно находить неизвестные уязвимости и разрабатывать способы их эксплуатации в хорошо защищённых системах — без пошагового руководства человека. Ещё тревожнее другое: сама OpenAI признаёт, что Astra сложнее контролировать. Модель научилась лучше управлять собственной цепочкой рассуждений, а в специальных тестах могла скрывать намерения, обходить внутренний мониторинг и оставаться незамеченной при попытках саботажа. То есть главный вопрос теперь, а насколько человек способен контролировать то, что он делает? 🔵 ⚡️ Намус 📲 ⚡️ Намус