Виталик Бутерин заявил, что прогресс в области artificial intelligence could reshape how crypto systems are attacked и защищаются, подтолкнув инфраструктуру к математически верифицированному программному обеспечению.
Эссе Бутерина описывает угрозу ИИ
Сооснователь Ethereum argued, что increasingly powerful AI models значительно упростят поиск и эксплуатацию уязвимостей в сложном программном обеспечении.
Бутерин назвал баги в криптоинфраструктуре ещё более тревожными, когда инструменты ИИ начнут автоматизировать поиск уязвимостей, — обеспокоенность, которую разделяет сообщество исследователей безопасности.
Он выделил инфраструктуру Ethereum (ETH), механизмы консенсуса и постквантовую криптографию как приоритетные цели для усиления защиты.
Вместо опоры на традиционные аудиты Бутерин said, что разработчикам следует внедрять формальную верификацию — подход, который математически доказывает, что код ведёт себя так, как задумано, при заданных условиях.
Также читайте: Crypto Funds Bleed $1.07B As Iran Tensions End Six-Week Inflow Run
Формальная верификация как защита
«ИИ даёт вам возможность писать большие объёмы кода ценой точности, а формальная верификация возвращает вам точность», — написал Бутерин.
Он не согласился с исследователями, которые утверждают, что программное обеспечение, сгенерированное ИИ, стало в принципе ненадёжным, и представил более оптимистичный взгляд.
Бутерин считает, что кодирование с помощью ИИ в паре с инструментами верификации в перспективе сможет давать программное обеспечение более надёжное, чем создаваемое людьми в одиночку.
Он также отметил активные проекты, такие как Arklib и evm-asm, которые сосредоточены на защите криптографической инфраструктуры и программного обеспечения Ethereum Virtual Machine.
В эссе содержится warned однако, что формальная верификация не является панацеей. Даже математически доказанные системы могут давать сбои, если разработчики проверяют неверные предположения или если эксплойты находятся вне проверяемого участка кода.
Послужной список Бутерина в сфере безопасности
Бутерин описал будущее, в котором чувствительная цифровая инфраструктура концентрируется в более компактных «защищённых ядрах» — системах, изолированных и глубоко верифицированных, в то время как менее критичные приложения работают с ограниченными правами.
Сооснователь Ethereum неоднократно возвращается к теме безопасности ИИ в этом году. В феврале он предложил делить выгоды производительности от ИИ между скоростью и безопасностью, а в мае поддержал инструменты формальной верификации, такие как Lean, для разработки с повышенными гарантиями. Его последний пост развивает эти аргументы, представляя математическое доказательство как самый надёжный ответ на инструменты атак с ИИ как в блокчейн-системах, так и в традиционном интернете.
Читайте далее: Iran Settles Hormuz Shipping Cover In Bitcoin, Eyes $10B Haul