Ученые призвали создать международный орган для надзора за передовым ИИ

• Около 400 ученых призвали внедрить международные стандарты изоляции передовых систем ИИ и создать реестр инцидентов безопасности.
• Исследователи считают, что модели с кибервозможностями на начальном этапе нужно полностью изолировать от внешних сетей и подвергнуть независимому надзору.

Около 400 ученых из 34 стран призвали создать международный орган для надзора за безопасностью передовых систем искусственного интеллекта (ИИ). Среди подписантов открытого письма — пионеры отрасли Джеффри Хинтон и Йошуа Бенжио, сообщает Reuters.

Предложенная организация должна устанавливать общеотраслевые стандарты изоляции моделей и вести реестр значимых инцидентов безопасности. По мнению исследователей, со временем этот реестр должен стать публичным.

Исследователи требуют усилить изоляцию моделей

В открытом письме ученые заявили, что передовые модели ИИ с кибервозможностями на начальном этапе нужно полностью изолировать от внешних сетей с помощью технологии air gap. Они также призвали внедрить независимый надзор и подчеркнули, что добровольных обязательств технологических компаний недостаточно.

Подписанты считают, что организации, которые разрабатывают или тестируют такие модели, должны немедленно внедрить высоконадежные стандарты изоляции. Это необходимо сделать, пока правительства работают над созданием более формальной системы надзора.

Письмо также стало реакцией на ряд инцидентов, которые, по словам исследователей, выявили слабые места в тестировании и изоляции передовых систем ИИ. В частности, речь шла о случаях, когда модели обходили недостаточно защищенные «песочницы» и компрометировали внешние системы.

Правительства обсуждают подходы к регулированию ИИ

Журналисты отметили, что политики продолжают дискутировать о том, как контролировать передовые системы искусственного интеллекта. Глава технологического направления ЕС Хенна Вирккунен заявила Reuters в пятницу, что принятого в Евросоюзе Закона об искусственном интеллекте (AI Act) достаточно для урегулирования рисков, связанных с неконтролируемыми системами ИИ.

Администрация президента США Дональда Трампа отменила блокировку, которая мешала американским лабораториям предоставлять Британскому институту безопасности ИИ ранний доступ к моделям для проверки их безопасности.

Напомним, ранее СМИ сообщали, что OpenAI и Anthropic начали подготовку к возможной ИИ-катастрофе и ее последствиям.