Виталик Бутерин предложил ограничить сценарии использования ИИ

По мнению Бутерина, лучше сократить сценарии использования ИИ-моделей, чем ограничивать самих пользователей. Такой подход должен дать разработчикам время на укрепление создаваемых ими систем, проверить устаревший код и провести формальную верификацию нового кода, прежде чем они столкнутся с массовыми разрушительными кибератаками со стороны ИИ.

«Дискриминация по типу решаемых задач — гораздо меньшее зло, чем дискриминация самих пользователей. Если с первой масштабной волной кибератак от ИИ не удастся справиться должным образом, может наступить антиутопия, где ИИ-модели будут жестко контролироваться», — написал программист-предприниматель в соцсети Х.

Бутерин представил, что при негативном сценарии ИИ-пользователям придется проходить процедуру идентификации личности (KYC) «для чего угодно». То есть они окажутся под пристальным наблюдением. В зависимости от наличия определенных полномочий или гражданства, человек может превратиться в «гражданина второго, третьего и даже четвертого сорта», что будет определять его возможности использования ИИ.

С сооснователем Эфириума поспорил разработчик мобильных игр Юссеф Аль-Тухи (Youssof Al Toukhi). Аль-Тухи привел в пример недавнюю атаку на платформу Hugging Face с помощью ChatGPT компании OpenAI. Когда специалисты Hugging Face попытались проанализировать действия злоумышленников с помощью передовых ИИ-моделей, встроенные системы безопасности заблокировали их запросы. В итоге исследователям пришлось воспользоваться моделью с открытым кодом GLM 5.2. Аль-Тухи назвал сложившуюся ситуацию «системой элитаризма», которая со временем будет только усугубляться, и добавил, что «интеллект должен быть демократизирован».

В сентябре Бутерин предложил использовать искусственный интеллект для создания более мощных инструментов защиты. Создатель Эфириума уверен, что ИИ должен использоваться не только хакерами для поиска уязвимостей и атак.