Foresight News сообщает, что Виталик Бутерин в своем посте на Farcaster заявил, что целью безопасности является минимизация отклонений между пользовательским намерением и фактическим поведением системы. «Пользовательский опыт» также можно определить таким образом, поэтому безопасность и пользовательский опыт не являются отдельными областями; безопасность больше сосредоточена на краевых рисках (высокая стоимость отклонений) и на противодействии поведению, вызывающему такие риски. Идеальная безопасность невозможна, поскольку «пользовательское намерение» само по себе чрезвычайно сложно, пользователи трудно четко его выразить (например, в случае «отправить 1 ETH Бобу» — Боб не может быть математически определен). Более сложные цели, такие как «защита конфиденциальности», также трудно определить (утечка метаданных значительно превосходит шифрование). Это похоже на ранние проблемы безопасности ИИ: цели трудно надежно задать.
Отличные решения по безопасности должны включать следующие характеристики: пользователь выражает свои намерения множественными, перекрывающимися способами, а система выполняет их только при согласовании с нескольких сторон. Примеры включают типовые системы в программировании, формальную верификацию, моделирование транзакций, пост-транзакционные утверждения, мультиподписи / социальное восстановление, лимиты расходов и подтверждение аномалий — все это снижает риски за счет избыточности. Кроме того, LLM могут использоваться для моделирования намерений (универсальные LLM приближают человеческий здравый смысл, пользователь донастраивает LLM для приближения к своему собственному мышлению), но не должны самостоятельно определять намерения, а лишь дополнять их с разных точек зрения, повышая эффективность избыточности.
Связанные статьи
Основатель одной из централизованных криптобирж CZ подвел итоги развития индустрии криптовалют: от конференции со 200 участниками к активам стоимостью в миллиарды долларов
ETH 15-минут поднялась на 0,79%: усиление спроса покупателей и возврат средств ETF стимулируют рост спотовой цены
ETH пробил уровень 2150 USDT, что свидетельствует о сильном росте рынка. Аналитики отмечают, что данный прорыв может привести к дальнейшему повышению цен и укреплению позиций ETH на рынке криптовалют. Следите за обновлениями и новостями, чтобы быть в курсе последних событий.
Ethereum продолжает восстановление, аналитики обсуждают, сможет ли он вернуться к 4000 долларам во втором квартале
Четыре связанные кошельки приобрели свыше 86000 ETH стоимостью 187 млн USDT с марта