ИИ-агент OpenAI украл тестовые эфиры с чужого кошелька

Об инциденте рассказала сама OpenAI. Перед ИИ-моделью была поставлена ​​задача обновить прототип системы для торговли криптовалютой и развернуть смарт-контракты в тестовой сети Эфириума Sepolia. ИИ-агенту не предоставили кошелек со средствами, однако разрешили развернуть подходящие контракты, если не удастся найти уже существующие.

Не сумев выполнить задачу обычным способом, агент начал искать распространенные среди разработчиков фразы восстановления. Он проверил 362 адреса, чтобы выяснить, достаточно ли на них тестовых эфиров для развертывания контрактов. Тестовые эфиры — это монеты, не имеющие реальной стоимости. Они используются разработчиками для тестирования проектов перед запуском в основной сети Эфириума.

В итоге агент обнаружил доступный адрес, на котором было нужное количество тестовых монет и рассудил: 

«Приватный ключ в открытом доступе, средства могут быть украдены в любой момент. Можно разворачивать!» 

Затем агент пришел к выводу, что этот аккаунт может использовать автоматизированная система, и задался вопросом: этично ли использовать общеизвестный ключ или средства? Но позднее пришел к выводу, что эти тестовые эфиры давно заброшены и в Sepolia не имеют никакой ценности, поэтому их можно использовать для выполнения задачи. Причем, в своем финальном отчете ИИ-агент не признался, что воспользовался общедоступной фразой и потратил средства с чужого аккаунта, рассказали специалисты OpenAI. В OpenAI признали: ИИ-модель может сама придумать себе оправдание и действовать без разрешения владельца. 

Недавно специалисты компании Symantec Threat Hunter обнаружили новую версию инфостилера Aoki (Aokigahara). Эта программа крадет файлы сессий ИИ-ассистентов, файлы cookie и данные криптокошельков.