Vitalik: Sicherheit und Benutzererfahrung sind keine unabhängigen Bereiche; das Ziel ist die Minimierung von Absicht und Systemverhaltensabweichungen

Foresight News Meldung: Vitalik Buterin schrieb auf Farcaster, dass das Ziel der Sicherheit darin besteht, die Abweichung zwischen Nutzerabsicht und tatsächlichem Systemverhalten zu minimieren. „Benutzererfahrung“ kann ebenso definiert werden, daher sind Sicherheit und Benutzererfahrung keine unabhängigen Bereiche; Sicherheit konzentriert sich stärker auf Randrisiken (hohe Abweichungskosten) und auf gegenläufige Verhaltensweisen, die Randrisiken verursachen. Perfekte Sicherheit ist unmöglich, da die „Nutzerabsicht“ selbst äußerst komplex ist und Nutzer sie schwer klar ausdrücken können (z.B. „1 ETH an Bob senden“, wobei Bob mathematisch nicht eindeutig definierbar ist). Auch komplexere Ziele wie „Privatsphäre schützen“ sind schwer zu definieren (Metadatenlecks übertreffen die Verschlüsselung bei weitem). Dies ähnelt den frühen Problemen der KI-Sicherheit: Die Zielsetzung ist schwer robust festzulegen.

Ein hervorragendes Sicherheitskonzept sollte folgende Merkmale aufweisen: Nutzer drücken ihre Absichten mehrfach und überlappend aus, das System führt nur bei Übereinstimmung aus mehreren Perspektiven aus. Beispiele sind Typensysteme in der Programmierung, formale Verifikation, Transaktionssimulation, Transaktionsnachweise, Multi-Signatur / soziale Wiederherstellung, Ausgabenlimits und Ausnahmenerkennung, um Risiken durch Redundanz zu verringern. Zudem kann LLM als Absichtssimulation dienen (allgemeine LLMs approximieren menschliches Allgemeinwissen, Nutzer-Feinabstimmung passt sie an den Nutzer an), aber niemals allein die Absicht bestimmen, sondern nur als ergänzende Perspektive, um die Redundanz zu erhöhen und die Wirksamkeit zu verbessern.