Foresight News повідомляє, що Віталік Бутерін у своєму дописі на Farcaster зазначив, що мета безпеки — мінімізувати відхилення між намірами користувача та фактичною поведінкою системи. «Користувацький досвід» також можна так визначити, тому безпека і користувацький досвід не є незалежними сферами; безпека більше зосереджена на крайових ризиках (великі витрати на відхилення) та на протидії поведінковим ризикам. Ідеальна безпека неможлива, оскільки «намір користувача» сам по собі надзвичайно складний, і користувачам важко чітко його висловити (наприклад, у випадку «відправити 1 ETH Бобу», де Бобу важко математично визначити). Більш складні цілі, такі як «захист приватності», також важко визначити (метадані витікають значно більше, ніж шифрування). Це схоже на ранні проблеми безпеки ШІ: цілі важко стабільно визначити.
Відмінні рішення з безпеки повинні мати такі характеристики: користувачі виражають наміри у кілька способів, що перекриваються, і система виконує їх лише при узгодженні з кількох точок зору. Приклади включають типові системи у програмуванні, формальну верифікацію, симуляцію транзакцій, постфактумні твердження, мультипідпис / соціальне відновлення, обмеження витрат і підтвердження аномалій — все це через надмірність зменшує ризик. Крім того, LLM може використовуватися для моделювання намірів (загальні LLM наближають людський досвід, а тонке налаштування LLM — наближає його до користувача), але не може самостійно визначати наміри, а лише слугує додатковим засобом з різних точок зору для підвищення ефективності надмірності.
Пов'язані статті
Ціна Ethereum утримує ключову підтримку: чи стане $2,200 наступним випробуванням для ETH?
Culper Research Shorts ETH, каже, що ціна Ethereum йде вниз
Контрактовий гігант pension-usdt.eth зменшує короткі позиції по Bitcoin, знизивши їх з 1000 до 900 монет
Прихований ризик «смертельної спіралі»! Ефіріум та Bitmine названі цільовими об'єктами для коротких позицій з боку короткострокових інвесторів
Ethereum спотовий ETF вчора зазнав чистого відтоку в розмірі 82 85,19 мільйонів доларів, дев'ять ETF не мали чистого притоку