Переслати оригінальний заголовок: d/acc: через рік
Приблизно рік тому я написавстаття про техно-оптимізм, описуючи мій загальний ентузіазм щодо технологій і величезних переваг, які вони можуть принести, а також мою обережність щодо кількох конкретних проблем, в основному зосереджених навколо надрозумного штучного інтелекту, і ризику того, що він може призвести або до загибелі, або до незворотного безсилля людини, якщо технологія буде побудована неправильним чином. Однією з основних ідей мого допису була філософія децентралізованого та демократичного, диференційованого захисного прискорення. Прискорюйте технології, але диференційовано зосереджуйтеся на технологіях, покращуючи нашу здатність захищати, а не нашу здатність завдавати шкоди, і в технологіях, які розподіляють владу, а не концентрують її в руках єдиної еліти, яка вирішує, що є правдою, брехнею, добром чи злом від імені всіх. Оборона, як у демократичному Швейцаріяі історично квазі-анархістськийЗомія, не так, як пані та замки середньовічного феодалізму.
Протягом року філософія та ідеї значно удосконалилися. Я говорив про ідеї на 80 000 годин, і побачили багато відгуків, в основному позитивних і деякі критичні. Сама робота продовжується і приносить плоди: ми бачення прогресув перевіреномувакцини з відкритим кодом, зростаюче визнання цінності здорового внутрішнього повітря, Community Notes продовжують сяяти, проривний рік дляпрогностичні ринки як інструмент інформації, ZK-SNARKs в ідентифікаційний документ урядуісоціальні медіа (і забезпеченняEthereumгаманцічерезабстракція облікового запису), інструменти для зображень з відкритим кодомз застосуванням у медицині та BCI, і більше. Восени ми мали першу значну подію d/acc: "d/acc Discovery Day" (d/aDDy) на Devcon, який включав повний день доповідачів з усіх стовпчиків d/acc (біо, фізичних, кібернетичних, інформаційних оборони, а також нейротехнологій). Люди, які працюють над цими технологіями протягом років, все більше усвідомлюють роботу один одного, а люди ззовні все більше усвідомлюють більшу історію: ті самі цінності, що надихнули Ethereum та криптовалютуможе бути застосований до ширшого світу.
Рік 2042. Ви бачите звіти в медіа про нову можливу пандемію у вашому місті. Ви звикли до цього: люди занадто збуджуються через кожну мутацію тваринної хвороби, і більшість з них виявляються нічим. Попередні дві потенційні пандемії були виявлені дуже рано черезмоніторинг стічних вод та відкритий аналіз соціальних медіа, і зовсім зупинилися на своєму шляху. Але цього разу ринки прогнозів показують 60% ймовірність щонайменше 10 000 випадків, тому ви більше хвилюєтеся.
Послідовність для вірусу була виявлена вчора. Оновлення програмного забезпечення для вашого кишенькового комп'ютеравипробувач повітря Для того, щоб він міг виявити новий вірус (з одного вдиху або з 15 хвилин перебування в приміщенні в приміщенні), вже є в наявності. Інструкції з відкритим вихідним кодом та код для генерації вакцини за допомогою обладнання, яке можна знайти в будь-якому сучасному медичному закладі світу, мають бути доступні протягом кількох тижнів. Більшість людей поки що не вживають жодних заходів, покладаючись в основному на широке впровадження фільтрації повітря та вентиляції для їх захисту. У вас є захворювання імунітету, тому будьте обережнішими: ваш персональний помічник з відкритим вихідним кодом, який виконує, серед інших завдань, навігацію та рекомендації щодо ресторанів і заходів, також враховує дані тестерів повітря в реальному часі та CO2, щоб рекомендувати лише найбезпечніші місця. Дані надаються багатьма тисячами учасників та пристроїв, які використовують Zk-SNARKsідиференційна приватністьщоб мінімізувати ризик витоку або зловживання даними для будь-якого іншого призначення (якщо ви хочете надати дані для цих наборів даних, є інші особисті помічники АІ, які перевіряють формальні докази того, що ці криптографічні пристрої насправді працюють).
Через два місяці пандемія зникла: здається, що 60% людей, які дотримуються основного протоколу надягати маску, якщо повітряний тестер пищить і показує наявність вірусу, і залишатися вдома, якщо їхній тест виявився позитивним, було достатньо, щоб знизити рівень передачі, який вже був суттєво зменшений завдяки пасивному важкому повітряному фільтруванню, до значення менше 1. Хвороба, яка за симуляціями може бути в п'ять разів гіршою, ніж Covid двадцять років тому, виявилася неважливою сьогодні.
![]() | ![]() |
День роботи д/аккаунтів Devcon
Один з найбільш позитивних висновків з d/acc події на Devcon полягає в тому, наскільки успішно d/acc змогла об'єднати людей з дуже різних галузей і зацікавити їх роботою один одного.
Створення подій з «різноманіттям» легко, але зробити так, щоб різні люди з різними фонами та інтересами насправді могли співпрацювати одне з одним, важко. У мене все ще є спогади про те, як мене змушували дивитися довгі опери в середній та старшій школі, і особисто мені це здавалося нудним. Я знав, що я «повинен» їх цінувати, оскільки якщо я цього не зроблю, то я буду некультурним комп'ютерним науковцем, але я не відчував зміст на більш відвертому рівні. D/acc day зовсім не схожий на це: це було так, ніби люди насправді насолоджувалися вивченням дуже різних видів робіт в різних галузях.
Якщо ми хочемо створити яскраву альтернативу домінуванню, сповільненню та загибелі, нам потрібен саме такий широкий коаліційний підхід. d/acc, здається, дійсно вдається досягти цього, і це вже само по собі демонструє цінність ідеї.
Основна ідея d/acc проста: децентралізоване та демократичне диференційне оборонне прискорення. Створюйте технології, які зсувають баланс між атакою та обороною на користь оборони, і робіть це таким чином, щоб не розраховуватися на передачу більшої влади централізованим органам. Існує внутрішній зв'язок між цими двома сторонами: будь-яка форма децентралізованої, демократичної або ліберальної політичної структури процвітає найкраще, коли оборона легка, і найбільше страждає, коли оборона складна - у таких випадках набагато ймовірнішим результатом є певний період війни всіх проти всіх, і, в кінцевому підсумку, рівновага влади найсильнішого.
Основний принцип d/acc поширюється на багато галузей:
Діаграма зМій Техно-оптимізм, минулого року
Один з способів зрозуміти важливість спроби бути децентралізованим, оборонним та спрямованим на прискорення одночасно, полягає в порівнянні його з філософією, яку ви отримуєте, коли відмовляєтесь від кожного з трьох.
На мою думку, цей підхід може уникнути ризику глобальної людської диктатури конкретного племені, про яке ви хвилюєтеся, але він не вирішує основної структурної проблеми: в умовах, коли перевагу надають нападам, постійно існує ризик або катастрофи, або того, що хтось позиціонує себе як захисника і назавжди закріплюється на вершині. У конкретному випадку ШІ, він також не має гарної відповіді на ризик того, що люди загалом стануть менш впливовими порівняно з ШІ.
Ризик такого підходу, звісно, полягає в тому, що центр часто є сам джерелом ризику. Ми бачили це в Covid, де дослідження здобуття функції, фінансованібагато країн-членів Всесвітньої організаціїможе бути джерелом пандемії, централізована епістемологія призвела до ВООЗне визнаючидлярокищо Covid є повітряним, і примусовимсоціальна дистанціяівакцинамандати спричинили політичну реакцію, яка може відчуватися протягом десятиліть. Подібна ситуація, швидше за все, може трапитися навколо будь-яких ризиків, пов'язаних з штучним інтелектом або іншими ризиковими технологіями. Децентралізований підхід краще впорається з ризиками з самого центру.
Виклик цієї стратегії подвійний. По-перше, технології та економічний зріст загалом були надзвичайно корисними для людства, і будь-яке затримання цьогонакладає витратищо єважко переоцінитиПо-друге, в ненаталітарному світі нерозвиток є нестабільним: той, хто «обманює» найбільше та знаходить можливість розвиватися в будь-якому випадку, випереджатиме інших. Децелератистські стратегії можуть працювати до певної міри в деяких контекстах: європейська їжа, яка є здоровішою, ніж американська, - це один приклад, успіх у нерозповсюдженні ядерної зброї наразі - інший. Але вони не можуть працювати завжди.
З д/розрахунком ми хочемо:
Ще один спосіб подумати про d/acc - повернутися до кадру зрух Піратської партіїв Європі наприкінці 00-х років: самовизначення.
Мета полягає в побудові світу, де ми зберігаємо людське агентство, досягаючи обидванегативна свобода уникати активного втручання (чи то від інших людей, що діють як приватні громадяни, або від урядів, або від суперінтелектуальних ботів) у нашу здатність визначати власну долю, і позитивна свобода забезпечення наявності знань та ресурсів для цього. Це відзвук столітньої класично-ліберальної традиції, до якої також належить фокус Стюарта Бренда на " доступ до інструментів" та Джона Ст'юарта Мілля акцент на освітупоруч зволяяк ключові складові людського прогресу - і можливо, можна додати, бажання Бакмінстера Фуллера бачити процес глобального вирішення бутиучасть та широко розповсюджені. Ми бачимо d/acc як спосіб досягнення тих самих цілей у контексті технологічного ландшафту 21-го століття.
У своєму минулорічному дописі d/acc спеціально зосередився на оборонних технологіях: фізичному захисті, біозахисті, кіберзахисті та інформаційному захисті. Однак децентралізованої оборони недостатньо, щоб зробити світ великим: вам також потрібне далекоглядне позитивне бачення того, для чого людство може використовувати свою новознайдену децентралізацію та безпеку.
Минулорічний пост містив позитивний візію, у двох місцях:
Але ці два пункти здавалися відірваними від аргументу d/acc: «ось кілька ідей щодо створення більш демократичного та сприятливого для оборони світу на базовому рівні, і, до речі, ось деякі не пов'язані між собою ідеї щодо того, як ми можемо зробити суперінтелект».
Однак, на мою думку, насправді існують дуже важливі зв'язки між тим, що було позначено вище як «захисна» та «прогресивна» технологія d/acc. Давайте розширимо діаграму d/acc з минулорічного допису, додавши цю вісь (також, давайте перейменуємо її "вижити проти процвітаннядо діаграми та подивіться, що виходить:
Існує стійкий шаблон, що охоплює всі сфери, коли наукові знання, ідеї та інструменти, які можуть допомогти нам «вижити» в одній сфері, тісно пов'язані з науковими знаннями, ідеями та інструментами, які можуть допомогти нам «процвітати». Деякі приклади:
Крім цього, існують важливі взаємозалежності між предметними областями:
Різні люди мають дуже різні графіки розвитку штучного інтелекту. Графік від Zuzalu в Чорногорії, 2023.
Аргументом проти моєї минулорічної публікації, яку я вважав найбільш переконливою, була критика з боку спільноти безпеки штучного інтелекту. Аргумент звучить так: «Звичайно, якщо у нас є півстоліття, перш ніж ми отримаємо сильний штучний інтелект, ми зможемо сконцентрувати свою енергію та створити всі ці хороші речі. Але насправді, схоже, що у нас є три роки до AGI і ще три роки до суперінтелекту. І тому, якщо ми не хочемо, щоб світ був зруйнований або іншим чином потрапив у незворотну пастку, ми не можемо просто прискорити хороше, ми також повинні сповільнити погане, а це означає прийняття потужних правил, які можуть засмутити впливових людей». У своєму минулорічному дописі я справді не закликав до якоїсь конкретної стратегії «уповільнення поганого», окрім розпливчастих закликів не створювати ризикованих форм суперінтелекту. І тому тут варто звернутися безпосередньо до питання: якщо ми живемо в найменш зручний світ, де ризик штучного інтелекту високий, а строки часу потенційно можуть бути п'ять років, яку регуляцію я підтримую?
Минулого року основним запропонованим регулюванням штучного інтелекту було Законопроект SB-1047 в Каліфорнії. SB-1047 вимагав від розробників найпотужніших моделей (тех, що потребують понад 100 млн. доларів для навчання або понад 10 млн. доларів у разі тонкої настройки) прийняти певні заходи щодо тестування безпеки перед випуском. Крім того, він накладав відповідальність на розробників моделей штучного інтелекту, якщо вони не дбають достатньо про безпеку. Багато критиків стверджували, що законопроект був «загроза для відкритого джерела“; Я не погодився, оскільки порогові витрати означали, що це впливало лише на найпотужніші моделі: навіть LLama3 була мабуть під порогом. Однак, оглядаючись назад, я думаю, що в законопроекті була більш велика проблема: як і більшість регулювань, він був підігнаний під сучасну ситуацію. Фокус на витрати на навчання виявляється крихким перед новою технологією вже зараз: останній сучасний якісний модель Deepseek v3 була навчена за вартістю лише $6 мільйонів, і в нових моделях, як о1витрати змінюються з навчання на виведення більш загально.
По-друге, найімовірніші суб'єкти, які насправді несуть відповідальність за сценарій загибелі суперінтелекту ШІ, є реально військовими. Як ми бачив за останні півстоліття біобезпеки(і не тільки), війська готові робити страшні речі, і вони можуть легко допускати помилки. Використання штучного інтелекту у військовій сфері сьогодні швидко розвивається (див. Україна, Gaza. І будь-які правила безпеки, які уряд приймає, за замовчуванням не стосуються їх власної військової сили та корпорацій, що тісно співпрацюють з військом.
Звичайно, ці аргументи не є причинами для зневіри та бездіяльності. Навпаки, ми можемо використовувати їх як орієнтир і спробувати розробити правила, які б найменше спричиняли ці обурення.
Якщо хтось діє якимось чином, що призводить до юридично обґрунтованої шкоди, вони Може бути позивали в суд. Це не вирішує проблеми ризику від військових та інших "надзаконних" суб'єктів, але це дуже універсальний підхід, який уникне перенадмірної пристосованості та частопідтримується за лібертаріанським ухилом економістиз цієї саме причини.
Основні цілі щодо відповідальності, які були розглянуті до цього часу, є:
Покладання відповідальності на користувачів здається найбільш сумісним зі стимулами. У той час як зв'язок між тим, як розробляється модель, і тим, як вона використовується в кінцевому підсумку часто буває незрозуміло, користувач сам вирішує, як саме використовувати ШІ. Відповідальність за користувачів створює сильний тиск на те, що я вважаю правильним: зосередитися на створенні меха-костюмів для людського розуму, а не на створенні нових форм самодостатнього розумного життя. Перший регулярно реагує на наміри користувача, і тому не спричинить катастрофічних дій, якщо користувач цього не захоче. Останні матимуть найбільший ризик піти та створити класичний сценарій «ШІ стає ізгоєм». Ще одна перевага розміщення відповідальності якомога ближче до кінцевого використання полягає в тому, що це мінімізує ризик того, що відповідальність призведе до того, що люди вчинять дії, які є шкідливими іншими способами (наприклад, закритий вихідний код, KYC та стеження, змова між державою та бізнесом для таємного обмеження користувачів, як, наприклад, дебанкінг, блокування великих регіонів світу).
Існує класичний аргумент проти покладання відповідальності виключно на користувачів: користувачі можуть бути звичайними людьми без зайвих грошей або навіть анонімними, не залишаючи нікого, хто міг би реально заплатити за катастрофічну шкоду. Цей аргумент можна переоцінити: навіть якщо деякі користувачі занадто малі, щоб бути притягнутими до відповідальності, середньостатистичний клієнт розробника ШІ таким не є, і тому розробники ШІ все одно будуть зацікавлені у створенні продуктів, які можуть дати своїм користувачам впевненість у тому, що вони не зіткнуться з високим ризиком відповідальності. Тим не менш, це все ще вагомий аргумент, і його потрібно вирішувати. Вам потрібно стимулювати когось, хто має ресурси, щоб зробити це належним рівнем обережності, а розгортачі та розробники є легкодоступними цілями мати багато впливупро те, наскільки безпечною або небезпечною є модель.
Відповідальність розробника здається розумною. Часто цитованою проблемою є те, що вона не підходить для моделей з відкритим вихідним кодом, але це здається управляється, особливо оскільки є висока ймовірність того, що найпотужніші моделі будуть закритими джерелами (а якщо вони виявляться відкритими, то хоча відповідальність розробника не виявиться дуже корисною, вона також не завдаватиме багато шкоди). Відповідальність розробника має ту ж саму проблему (хоча з відкритими моделями з вихідним кодом є деяка перешкода в необхідності налаштувати модель, щоб змусити її зробити щось, що спочатку було заборонено), але застосовується та ж контраргумент. Як загальний принцип, збільшення «податків» на контроль та фактично говорити «ви можете створюйте речі, які ви не контролюєте, або ви можете будувати те, що ви контролюєте, але якщо ви будуєте те, що ви контролюєте, то 20% контролю має бути використано для наших цілей», здається розумною позицією для правових систем.
Одна ідея, яка здається недостатньо дослідженою, полягає в покладанні відповідальності на інших учасників ланцюга постачання, які мають більш впевнені ресурси. Одна ідея, яка дуже підходить для д/р відносин, - покласти відповідальність на власників або операторів будь-якого обладнання, яке штучний інтелект захоплює (наприклад, шляхом вторгнення) в процесі здійснення якої-небудь катастрофічно шкідливої дії. Це створило б дуже широкий інцентив для роботи над тим, щоб зробити інфраструктуру світу (особливо обчислювальну та біологічну) якнайбільш безпечною.
Якби я був переконаний, що нам потрібно щось більш «мускулисте», ніж правила відповідальності, ось на що я б пішов. Метою було б мати можливість зменшити глобально доступний обчислювальний потенціал на ~90-99% протягом 1-2 років у критичний період, щоб купити більше часу для підготовки людства. Значення 1-2 років не повинно бути переоціненим: рік «режиму воєнного часу» може легко вартий століть роботи в умовах самовдоволеності. Шляхи реалізації «паузаБули досліджені різні варіанти, включаючи конкретні пропозиції, такі як потребує реєстраціїіПідтвердження місцезнаходження апаратного забезпечення.
Більш просунутий підхід полягає у використанні хитрих криптографічних хитрощів: наприклад, апаратне забезпечення штучного інтелекту промислового масштабу (але не споживче), яке виробляється, може бути оснащене довіреним апаратним чіпом, який дозволяє йому продовжувати роботу лише в тому випадку, якщо він отримує 3/3 підписів раз на тиждень від основних міжнародних організацій, включаючи принаймні одну не пов'язану з військовими структуру. Підписи будуть незалежними від пристрою (за бажанням ми навіть можемо вимагати доказ з нульовим розголошенням, що вони були опубліковані в блокчейні), тому це буде все або нічого: не буде практичного способу дозволити одному пристрою продовжувати роботу без авторизації всіх інших пристроїв.
Це виглядає так, ніби воно «відмічає галочки» з точки зору максимізації переваг і мінімізації ризиків:
Регулювання апаратного забезпечення вже розглядається дуже серйозно, хоча загалом в контекстіекспортний контроль, які в суті мають філософію «ми довіряємо нашій стороні, але не довіряємо іншій стороні». Відомо, що Леопольд Ашенбреннер підтримував думку, що США повинні гонка за отримання рішучої переваги а потім по суті змусити Китайпідписати протокол, що обмежує кількість боксів, яким їм дозволено працювати. На мою думку, такий підхід здається ризикованим і може поєднувати уразливостібагатополярні гонкиі централізації. Якщо нам доводиться обмежувати людей, здається краще обмежувати всіх на рівних умовах і докладати зусиль, щоб спробувати співпрацювати та організувати це замість того, щоб одна сторона намагалась панувати над усіма іншими.
Обидві ці стратегії (відповідальність і кнопка апаратної паузи) мають дірки, і зрозуміло, що вони є лише тимчасовими зупинками: якщо щось стане можливим зробити на суперкомп'ютері в момент часу T, це, швидше за все, буде можливо на ноутбуці в момент часу T + 5 років. І тому нам потрібно щось більш стабільне, щоб виграти час. Тут доречні багато технологій d/acc. Ми можемо поглянути на роль технології d/acc наступним чином: якщо штучний інтелект захопить світ, як він це зробить?
Як коротко зазначалося вище, правила відповідальності є природним стилем регулювання, дружнім до d/acc, оскільки вони можуть дуже ефективно мотивувати всі частини світу прийняти ці засоби захисту та сприймати їх серйозно. Тайвань експериментує з відповідальністю за недостовірну рекламу останнім часом, що може бути розглянуто як один приклад використання відповідальності для стимулювання захисту інформації. Ми не повинні бути занадто ентузіастичними щодо розміщення відповідальності всюди, і пам'ятати про переваги звичайної старої свободи, яка дозволяє маленькому гравцеві брати участь у нововведеннях без страху перед позовами, але там, де ми хочемо зробити сильнішу спробу бути безпечними, відповідальність може бути досить гнучкою і ефективною.
Багато з д/відбувається далеко за межами типових тем блокчейну: біозахист, BCI та інструменти колаборативного дискурсу здаються далекими від речей, про які зазвичай говорить криптовалютна особа. Однак, я вважаю, що існують деякі важливі зв'язки між крипто та д/відбувається, зокрема:
Cursive, додаток, який використовує повністю гомоморфну шифрування (FHE), щоб дозволити користувачам виявити спільні інтереси з іншими користувачами, зберігаючи приватність. Це було використано в місті Едж, одному з багатьох відгалужень gate.Zuzalu, в Чіанг Май.
Крім цих прямих перетинів, є ще одна важлива спільна точка інтересу: механізми фінансування.
Один з моїх постійних інтересів - це розробка кращих механізмів фінансування громадських благ: проектів, які є цінними для дуже великих груп людей, але якіне матиґейтквадратичне фінансуванняі його використання вGitcoin Grants, ретро PGF, і більш пізньо глибоке фінансування.
Багато людей сумніваються у загальних благах як концепції. Скептицизм, як правило, виникає з двох джерел:
Це важливі критики, і добрі критики. Однак я стверджую, що сильне фінансування децентралізованих громадських благ є невід'ємною частиною візії d/acc, оскільки одна з ключових цілей d/acc (мінімізація центральних точок контролю) неодмінно зіткнулася з багатьма традиційними бізнес-моделями. Можливо побудувати успішні бізнеси на відкритому коді - декількаБалвігарантуєроблять це - але в деяких ситуаціях це достатньо важко, що важливі проекти потребують додаткової постійної підтримки. Тому нам доведеться зробити важке, і зрозуміти, як забезпечити фінансування громадських благ способом, що враховує обидві зазначені вище критики.
Рішення першої проблеми, в основному,достовірна нейтральністьі@VitalikButerin/сутність-децентралізації-a0c92b76a274">децентралізація. Централізоване планування є проблематичним, оскільки воно передає контроль елітам, які можуть стати зловживати, і через те, що часто перенагружається на поточну ситуаціюі стає менш ефективним з плином часу. Квадратичне фінансування та подібні механізми були саме про фінансування громадських благ способом, який є достовірно нейтральним та (архітектурно та політично) децентралізованим.
Друга проблема є складнішою. З квадратичним фінансуванням загальною критикою було те, щошвидко стає конкурсом популярності, що вимагає від спонсорів проекту витрачати багато зусиль на публічну агітацію. Крім того, проекти, які знаходяться «перед очима людей» (наприклад, додатки кінцевих користувачів), отримують фінансування, але проекти, які більше знаходяться на задньому плані (архетипи)залежність, підтримувана хлопцем в Небрасці«) не отримують жодного фінансування. Фінансування ретро-оптимізму ґрунтується на меншій кількості володарів експертних значків; тут ефект популярного конкурсу зменшується, але соціальні ефекти того, що є тісні особисті зв'язки з володарями значків, збільшуються.
Глибоке фінансуванняце моя власна остання спроба вирішити цю проблему. Deep funding має два основних інновації:
Але глибоке фінансування є лише останнім прикладом; раніше були ідеї механізмів фінансування громадських благ, і в майбутньому їх буде ще багато.allo.expertробить чудову роботу з їх каталогізації. Основна мета полягає в створенні суспільного гаджета, який може фінансувати громадські блага з рівнем точності, справедливості та відкритого доступу, що принаймні наближається до того, як ринки фінансують приватні блага. Він не повинен бути ідеальним; в кінці кінців, ринки далекі від ідеальних самих по собі. Але він повинен бути достатньо ефективним, щоб розробники, які працюють над проектами відкритого коду високої якості, що приносять користь усім, могли дозволити собі продовжувати це робити, не почуваючи потреби робити неприйнятні компроміси.
Сьогодні провідні проекти в більшості областей підприємництва: вакцини, BCI, "передова BCI" подібна міозелектрика зап'ястя та відстеження очей, антивікові ліки, апаратне забезпечення та інше, є власністю. Це має великі недоліки щодо забезпечення довіри громадськості, як ми бачили в багатоз звищеобластівже. Вона також переносить увагу на конкурентну динаміку („НАША КОМАНДА повинна перемогти в цій критичній галузі!“), і відводить увагу від більшої конкуренції, щоб забезпечити, що ці технології приходять достатньо швидко, щоб захистити нас у світі надлюдського ШІ. З цих причин розгалужене фінансування громадських благ може бути сильним катализатором відкритості та свободи. Це ще один спосіб, яким криптоспільнота може допомогти d/acc: серйозно займатися дослідженням цих механізмів фінансування та забезпечувати їх успішну роботу в межах власного контексту, підготовляючи їх до більш широкого прийняття для науки та технологій з відкритим кодом взагалі.
Наступні кілька десятиліть приносять важливі виклики. Є дві проблеми, які останнім часом займають мою увагу:
Однак кожне з цих викликів має срібне обладнання. По-перше, у нас зараз є дуже потужні інструменти для швидшого виконання залишкової роботи:
По-друге, тепер, коли багато принципів, які нам дорогі, більше не зайняті кількома окремими сегментами старої гвардії, вони можуть бути відновлені широкою коаліцією, до якої може приєднатися будь-хто у світі. Це, мабуть, найбільший плюс нещодавніх політичних «перегрупувань» у всьому світі, і ним варто скористатися. Криптовалюта вже виконала чудову роботу, скориставшись цим і знайшовши глобальну привабливість; d/acc може робити те ж саме.
Доступ до інструментів означає, що ми здатні адаптувати та покращувати наші біології та наше середовище, а частина "оборони" d/acc означає, що ми здатні робити це без порушення свободи інших робити те ж саме.Ліберальні плюралістичні принципиозначає, що ми можемо мати багато різноманітності в тому, як це робиться, і наша зобов'язаність перед загальнолюдськими цілями означає, що це повинно бути зроблено.
Ми, люди, продовжуємо бути найяскравішою зіркою. Завдання перед нами, побудувати ще яскравіший XXI століття, яке збереже людське виживання, свободу і можливість діяти, коли ми рухаємося до зірок, є складним. Але я впевнений, що ми з цим справимося.
Переслати оригінальний заголовок: d/acc: через рік
Приблизно рік тому я написавстаття про техно-оптимізм, описуючи мій загальний ентузіазм щодо технологій і величезних переваг, які вони можуть принести, а також мою обережність щодо кількох конкретних проблем, в основному зосереджених навколо надрозумного штучного інтелекту, і ризику того, що він може призвести або до загибелі, або до незворотного безсилля людини, якщо технологія буде побудована неправильним чином. Однією з основних ідей мого допису була філософія децентралізованого та демократичного, диференційованого захисного прискорення. Прискорюйте технології, але диференційовано зосереджуйтеся на технологіях, покращуючи нашу здатність захищати, а не нашу здатність завдавати шкоди, і в технологіях, які розподіляють владу, а не концентрують її в руках єдиної еліти, яка вирішує, що є правдою, брехнею, добром чи злом від імені всіх. Оборона, як у демократичному Швейцаріяі історично квазі-анархістськийЗомія, не так, як пані та замки середньовічного феодалізму.
Протягом року філософія та ідеї значно удосконалилися. Я говорив про ідеї на 80 000 годин, і побачили багато відгуків, в основному позитивних і деякі критичні. Сама робота продовжується і приносить плоди: ми бачення прогресув перевіреномувакцини з відкритим кодом, зростаюче визнання цінності здорового внутрішнього повітря, Community Notes продовжують сяяти, проривний рік дляпрогностичні ринки як інструмент інформації, ZK-SNARKs в ідентифікаційний документ урядуісоціальні медіа (і забезпеченняEthereumгаманцічерезабстракція облікового запису), інструменти для зображень з відкритим кодомз застосуванням у медицині та BCI, і більше. Восени ми мали першу значну подію d/acc: "d/acc Discovery Day" (d/aDDy) на Devcon, який включав повний день доповідачів з усіх стовпчиків d/acc (біо, фізичних, кібернетичних, інформаційних оборони, а також нейротехнологій). Люди, які працюють над цими технологіями протягом років, все більше усвідомлюють роботу один одного, а люди ззовні все більше усвідомлюють більшу історію: ті самі цінності, що надихнули Ethereum та криптовалютуможе бути застосований до ширшого світу.
Рік 2042. Ви бачите звіти в медіа про нову можливу пандемію у вашому місті. Ви звикли до цього: люди занадто збуджуються через кожну мутацію тваринної хвороби, і більшість з них виявляються нічим. Попередні дві потенційні пандемії були виявлені дуже рано черезмоніторинг стічних вод та відкритий аналіз соціальних медіа, і зовсім зупинилися на своєму шляху. Але цього разу ринки прогнозів показують 60% ймовірність щонайменше 10 000 випадків, тому ви більше хвилюєтеся.
Послідовність для вірусу була виявлена вчора. Оновлення програмного забезпечення для вашого кишенькового комп'ютеравипробувач повітря Для того, щоб він міг виявити новий вірус (з одного вдиху або з 15 хвилин перебування в приміщенні в приміщенні), вже є в наявності. Інструкції з відкритим вихідним кодом та код для генерації вакцини за допомогою обладнання, яке можна знайти в будь-якому сучасному медичному закладі світу, мають бути доступні протягом кількох тижнів. Більшість людей поки що не вживають жодних заходів, покладаючись в основному на широке впровадження фільтрації повітря та вентиляції для їх захисту. У вас є захворювання імунітету, тому будьте обережнішими: ваш персональний помічник з відкритим вихідним кодом, який виконує, серед інших завдань, навігацію та рекомендації щодо ресторанів і заходів, також враховує дані тестерів повітря в реальному часі та CO2, щоб рекомендувати лише найбезпечніші місця. Дані надаються багатьма тисячами учасників та пристроїв, які використовують Zk-SNARKsідиференційна приватністьщоб мінімізувати ризик витоку або зловживання даними для будь-якого іншого призначення (якщо ви хочете надати дані для цих наборів даних, є інші особисті помічники АІ, які перевіряють формальні докази того, що ці криптографічні пристрої насправді працюють).
Через два місяці пандемія зникла: здається, що 60% людей, які дотримуються основного протоколу надягати маску, якщо повітряний тестер пищить і показує наявність вірусу, і залишатися вдома, якщо їхній тест виявився позитивним, було достатньо, щоб знизити рівень передачі, який вже був суттєво зменшений завдяки пасивному важкому повітряному фільтруванню, до значення менше 1. Хвороба, яка за симуляціями може бути в п'ять разів гіршою, ніж Covid двадцять років тому, виявилася неважливою сьогодні.
![]() | ![]() |
День роботи д/аккаунтів Devcon
Один з найбільш позитивних висновків з d/acc події на Devcon полягає в тому, наскільки успішно d/acc змогла об'єднати людей з дуже різних галузей і зацікавити їх роботою один одного.
Створення подій з «різноманіттям» легко, але зробити так, щоб різні люди з різними фонами та інтересами насправді могли співпрацювати одне з одним, важко. У мене все ще є спогади про те, як мене змушували дивитися довгі опери в середній та старшій школі, і особисто мені це здавалося нудним. Я знав, що я «повинен» їх цінувати, оскільки якщо я цього не зроблю, то я буду некультурним комп'ютерним науковцем, але я не відчував зміст на більш відвертому рівні. D/acc day зовсім не схожий на це: це було так, ніби люди насправді насолоджувалися вивченням дуже різних видів робіт в різних галузях.
Якщо ми хочемо створити яскраву альтернативу домінуванню, сповільненню та загибелі, нам потрібен саме такий широкий коаліційний підхід. d/acc, здається, дійсно вдається досягти цього, і це вже само по собі демонструє цінність ідеї.
Основна ідея d/acc проста: децентралізоване та демократичне диференційне оборонне прискорення. Створюйте технології, які зсувають баланс між атакою та обороною на користь оборони, і робіть це таким чином, щоб не розраховуватися на передачу більшої влади централізованим органам. Існує внутрішній зв'язок між цими двома сторонами: будь-яка форма децентралізованої, демократичної або ліберальної політичної структури процвітає найкраще, коли оборона легка, і найбільше страждає, коли оборона складна - у таких випадках набагато ймовірнішим результатом є певний період війни всіх проти всіх, і, в кінцевому підсумку, рівновага влади найсильнішого.
Основний принцип d/acc поширюється на багато галузей:
Діаграма зМій Техно-оптимізм, минулого року
Один з способів зрозуміти важливість спроби бути децентралізованим, оборонним та спрямованим на прискорення одночасно, полягає в порівнянні його з філософією, яку ви отримуєте, коли відмовляєтесь від кожного з трьох.
На мою думку, цей підхід може уникнути ризику глобальної людської диктатури конкретного племені, про яке ви хвилюєтеся, але він не вирішує основної структурної проблеми: в умовах, коли перевагу надають нападам, постійно існує ризик або катастрофи, або того, що хтось позиціонує себе як захисника і назавжди закріплюється на вершині. У конкретному випадку ШІ, він також не має гарної відповіді на ризик того, що люди загалом стануть менш впливовими порівняно з ШІ.
Ризик такого підходу, звісно, полягає в тому, що центр часто є сам джерелом ризику. Ми бачили це в Covid, де дослідження здобуття функції, фінансованібагато країн-членів Всесвітньої організаціїможе бути джерелом пандемії, централізована епістемологія призвела до ВООЗне визнаючидлярокищо Covid є повітряним, і примусовимсоціальна дистанціяівакцинамандати спричинили політичну реакцію, яка може відчуватися протягом десятиліть. Подібна ситуація, швидше за все, може трапитися навколо будь-яких ризиків, пов'язаних з штучним інтелектом або іншими ризиковими технологіями. Децентралізований підхід краще впорається з ризиками з самого центру.
Виклик цієї стратегії подвійний. По-перше, технології та економічний зріст загалом були надзвичайно корисними для людства, і будь-яке затримання цьогонакладає витратищо єважко переоцінитиПо-друге, в ненаталітарному світі нерозвиток є нестабільним: той, хто «обманює» найбільше та знаходить можливість розвиватися в будь-якому випадку, випереджатиме інших. Децелератистські стратегії можуть працювати до певної міри в деяких контекстах: європейська їжа, яка є здоровішою, ніж американська, - це один приклад, успіх у нерозповсюдженні ядерної зброї наразі - інший. Але вони не можуть працювати завжди.
З д/розрахунком ми хочемо:
Ще один спосіб подумати про d/acc - повернутися до кадру зрух Піратської партіїв Європі наприкінці 00-х років: самовизначення.
Мета полягає в побудові світу, де ми зберігаємо людське агентство, досягаючи обидванегативна свобода уникати активного втручання (чи то від інших людей, що діють як приватні громадяни, або від урядів, або від суперінтелектуальних ботів) у нашу здатність визначати власну долю, і позитивна свобода забезпечення наявності знань та ресурсів для цього. Це відзвук столітньої класично-ліберальної традиції, до якої також належить фокус Стюарта Бренда на " доступ до інструментів" та Джона Ст'юарта Мілля акцент на освітупоруч зволяяк ключові складові людського прогресу - і можливо, можна додати, бажання Бакмінстера Фуллера бачити процес глобального вирішення бутиучасть та широко розповсюджені. Ми бачимо d/acc як спосіб досягнення тих самих цілей у контексті технологічного ландшафту 21-го століття.
У своєму минулорічному дописі d/acc спеціально зосередився на оборонних технологіях: фізичному захисті, біозахисті, кіберзахисті та інформаційному захисті. Однак децентралізованої оборони недостатньо, щоб зробити світ великим: вам також потрібне далекоглядне позитивне бачення того, для чого людство може використовувати свою новознайдену децентралізацію та безпеку.
Минулорічний пост містив позитивний візію, у двох місцях:
Але ці два пункти здавалися відірваними від аргументу d/acc: «ось кілька ідей щодо створення більш демократичного та сприятливого для оборони світу на базовому рівні, і, до речі, ось деякі не пов'язані між собою ідеї щодо того, як ми можемо зробити суперінтелект».
Однак, на мою думку, насправді існують дуже важливі зв'язки між тим, що було позначено вище як «захисна» та «прогресивна» технологія d/acc. Давайте розширимо діаграму d/acc з минулорічного допису, додавши цю вісь (також, давайте перейменуємо її "вижити проти процвітаннядо діаграми та подивіться, що виходить:
Існує стійкий шаблон, що охоплює всі сфери, коли наукові знання, ідеї та інструменти, які можуть допомогти нам «вижити» в одній сфері, тісно пов'язані з науковими знаннями, ідеями та інструментами, які можуть допомогти нам «процвітати». Деякі приклади:
Крім цього, існують важливі взаємозалежності між предметними областями:
Різні люди мають дуже різні графіки розвитку штучного інтелекту. Графік від Zuzalu в Чорногорії, 2023.
Аргументом проти моєї минулорічної публікації, яку я вважав найбільш переконливою, була критика з боку спільноти безпеки штучного інтелекту. Аргумент звучить так: «Звичайно, якщо у нас є півстоліття, перш ніж ми отримаємо сильний штучний інтелект, ми зможемо сконцентрувати свою енергію та створити всі ці хороші речі. Але насправді, схоже, що у нас є три роки до AGI і ще три роки до суперінтелекту. І тому, якщо ми не хочемо, щоб світ був зруйнований або іншим чином потрапив у незворотну пастку, ми не можемо просто прискорити хороше, ми також повинні сповільнити погане, а це означає прийняття потужних правил, які можуть засмутити впливових людей». У своєму минулорічному дописі я справді не закликав до якоїсь конкретної стратегії «уповільнення поганого», окрім розпливчастих закликів не створювати ризикованих форм суперінтелекту. І тому тут варто звернутися безпосередньо до питання: якщо ми живемо в найменш зручний світ, де ризик штучного інтелекту високий, а строки часу потенційно можуть бути п'ять років, яку регуляцію я підтримую?
Минулого року основним запропонованим регулюванням штучного інтелекту було Законопроект SB-1047 в Каліфорнії. SB-1047 вимагав від розробників найпотужніших моделей (тех, що потребують понад 100 млн. доларів для навчання або понад 10 млн. доларів у разі тонкої настройки) прийняти певні заходи щодо тестування безпеки перед випуском. Крім того, він накладав відповідальність на розробників моделей штучного інтелекту, якщо вони не дбають достатньо про безпеку. Багато критиків стверджували, що законопроект був «загроза для відкритого джерела“; Я не погодився, оскільки порогові витрати означали, що це впливало лише на найпотужніші моделі: навіть LLama3 була мабуть під порогом. Однак, оглядаючись назад, я думаю, що в законопроекті була більш велика проблема: як і більшість регулювань, він був підігнаний під сучасну ситуацію. Фокус на витрати на навчання виявляється крихким перед новою технологією вже зараз: останній сучасний якісний модель Deepseek v3 була навчена за вартістю лише $6 мільйонів, і в нових моделях, як о1витрати змінюються з навчання на виведення більш загально.
По-друге, найімовірніші суб'єкти, які насправді несуть відповідальність за сценарій загибелі суперінтелекту ШІ, є реально військовими. Як ми бачив за останні півстоліття біобезпеки(і не тільки), війська готові робити страшні речі, і вони можуть легко допускати помилки. Використання штучного інтелекту у військовій сфері сьогодні швидко розвивається (див. Україна, Gaza. І будь-які правила безпеки, які уряд приймає, за замовчуванням не стосуються їх власної військової сили та корпорацій, що тісно співпрацюють з військом.
Звичайно, ці аргументи не є причинами для зневіри та бездіяльності. Навпаки, ми можемо використовувати їх як орієнтир і спробувати розробити правила, які б найменше спричиняли ці обурення.
Якщо хтось діє якимось чином, що призводить до юридично обґрунтованої шкоди, вони Може бути позивали в суд. Це не вирішує проблеми ризику від військових та інших "надзаконних" суб'єктів, але це дуже універсальний підхід, який уникне перенадмірної пристосованості та частопідтримується за лібертаріанським ухилом економістиз цієї саме причини.
Основні цілі щодо відповідальності, які були розглянуті до цього часу, є:
Покладання відповідальності на користувачів здається найбільш сумісним зі стимулами. У той час як зв'язок між тим, як розробляється модель, і тим, як вона використовується в кінцевому підсумку часто буває незрозуміло, користувач сам вирішує, як саме використовувати ШІ. Відповідальність за користувачів створює сильний тиск на те, що я вважаю правильним: зосередитися на створенні меха-костюмів для людського розуму, а не на створенні нових форм самодостатнього розумного життя. Перший регулярно реагує на наміри користувача, і тому не спричинить катастрофічних дій, якщо користувач цього не захоче. Останні матимуть найбільший ризик піти та створити класичний сценарій «ШІ стає ізгоєм». Ще одна перевага розміщення відповідальності якомога ближче до кінцевого використання полягає в тому, що це мінімізує ризик того, що відповідальність призведе до того, що люди вчинять дії, які є шкідливими іншими способами (наприклад, закритий вихідний код, KYC та стеження, змова між державою та бізнесом для таємного обмеження користувачів, як, наприклад, дебанкінг, блокування великих регіонів світу).
Існує класичний аргумент проти покладання відповідальності виключно на користувачів: користувачі можуть бути звичайними людьми без зайвих грошей або навіть анонімними, не залишаючи нікого, хто міг би реально заплатити за катастрофічну шкоду. Цей аргумент можна переоцінити: навіть якщо деякі користувачі занадто малі, щоб бути притягнутими до відповідальності, середньостатистичний клієнт розробника ШІ таким не є, і тому розробники ШІ все одно будуть зацікавлені у створенні продуктів, які можуть дати своїм користувачам впевненість у тому, що вони не зіткнуться з високим ризиком відповідальності. Тим не менш, це все ще вагомий аргумент, і його потрібно вирішувати. Вам потрібно стимулювати когось, хто має ресурси, щоб зробити це належним рівнем обережності, а розгортачі та розробники є легкодоступними цілями мати багато впливупро те, наскільки безпечною або небезпечною є модель.
Відповідальність розробника здається розумною. Часто цитованою проблемою є те, що вона не підходить для моделей з відкритим вихідним кодом, але це здається управляється, особливо оскільки є висока ймовірність того, що найпотужніші моделі будуть закритими джерелами (а якщо вони виявляться відкритими, то хоча відповідальність розробника не виявиться дуже корисною, вона також не завдаватиме багато шкоди). Відповідальність розробника має ту ж саму проблему (хоча з відкритими моделями з вихідним кодом є деяка перешкода в необхідності налаштувати модель, щоб змусити її зробити щось, що спочатку було заборонено), але застосовується та ж контраргумент. Як загальний принцип, збільшення «податків» на контроль та фактично говорити «ви можете створюйте речі, які ви не контролюєте, або ви можете будувати те, що ви контролюєте, але якщо ви будуєте те, що ви контролюєте, то 20% контролю має бути використано для наших цілей», здається розумною позицією для правових систем.
Одна ідея, яка здається недостатньо дослідженою, полягає в покладанні відповідальності на інших учасників ланцюга постачання, які мають більш впевнені ресурси. Одна ідея, яка дуже підходить для д/р відносин, - покласти відповідальність на власників або операторів будь-якого обладнання, яке штучний інтелект захоплює (наприклад, шляхом вторгнення) в процесі здійснення якої-небудь катастрофічно шкідливої дії. Це створило б дуже широкий інцентив для роботи над тим, щоб зробити інфраструктуру світу (особливо обчислювальну та біологічну) якнайбільш безпечною.
Якби я був переконаний, що нам потрібно щось більш «мускулисте», ніж правила відповідальності, ось на що я б пішов. Метою було б мати можливість зменшити глобально доступний обчислювальний потенціал на ~90-99% протягом 1-2 років у критичний період, щоб купити більше часу для підготовки людства. Значення 1-2 років не повинно бути переоціненим: рік «режиму воєнного часу» може легко вартий століть роботи в умовах самовдоволеності. Шляхи реалізації «паузаБули досліджені різні варіанти, включаючи конкретні пропозиції, такі як потребує реєстраціїіПідтвердження місцезнаходження апаратного забезпечення.
Більш просунутий підхід полягає у використанні хитрих криптографічних хитрощів: наприклад, апаратне забезпечення штучного інтелекту промислового масштабу (але не споживче), яке виробляється, може бути оснащене довіреним апаратним чіпом, який дозволяє йому продовжувати роботу лише в тому випадку, якщо він отримує 3/3 підписів раз на тиждень від основних міжнародних організацій, включаючи принаймні одну не пов'язану з військовими структуру. Підписи будуть незалежними від пристрою (за бажанням ми навіть можемо вимагати доказ з нульовим розголошенням, що вони були опубліковані в блокчейні), тому це буде все або нічого: не буде практичного способу дозволити одному пристрою продовжувати роботу без авторизації всіх інших пристроїв.
Це виглядає так, ніби воно «відмічає галочки» з точки зору максимізації переваг і мінімізації ризиків:
Регулювання апаратного забезпечення вже розглядається дуже серйозно, хоча загалом в контекстіекспортний контроль, які в суті мають філософію «ми довіряємо нашій стороні, але не довіряємо іншій стороні». Відомо, що Леопольд Ашенбреннер підтримував думку, що США повинні гонка за отримання рішучої переваги а потім по суті змусити Китайпідписати протокол, що обмежує кількість боксів, яким їм дозволено працювати. На мою думку, такий підхід здається ризикованим і може поєднувати уразливостібагатополярні гонкиі централізації. Якщо нам доводиться обмежувати людей, здається краще обмежувати всіх на рівних умовах і докладати зусиль, щоб спробувати співпрацювати та організувати це замість того, щоб одна сторона намагалась панувати над усіма іншими.
Обидві ці стратегії (відповідальність і кнопка апаратної паузи) мають дірки, і зрозуміло, що вони є лише тимчасовими зупинками: якщо щось стане можливим зробити на суперкомп'ютері в момент часу T, це, швидше за все, буде можливо на ноутбуці в момент часу T + 5 років. І тому нам потрібно щось більш стабільне, щоб виграти час. Тут доречні багато технологій d/acc. Ми можемо поглянути на роль технології d/acc наступним чином: якщо штучний інтелект захопить світ, як він це зробить?
Як коротко зазначалося вище, правила відповідальності є природним стилем регулювання, дружнім до d/acc, оскільки вони можуть дуже ефективно мотивувати всі частини світу прийняти ці засоби захисту та сприймати їх серйозно. Тайвань експериментує з відповідальністю за недостовірну рекламу останнім часом, що може бути розглянуто як один приклад використання відповідальності для стимулювання захисту інформації. Ми не повинні бути занадто ентузіастичними щодо розміщення відповідальності всюди, і пам'ятати про переваги звичайної старої свободи, яка дозволяє маленькому гравцеві брати участь у нововведеннях без страху перед позовами, але там, де ми хочемо зробити сильнішу спробу бути безпечними, відповідальність може бути досить гнучкою і ефективною.
Багато з д/відбувається далеко за межами типових тем блокчейну: біозахист, BCI та інструменти колаборативного дискурсу здаються далекими від речей, про які зазвичай говорить криптовалютна особа. Однак, я вважаю, що існують деякі важливі зв'язки між крипто та д/відбувається, зокрема:
Cursive, додаток, який використовує повністю гомоморфну шифрування (FHE), щоб дозволити користувачам виявити спільні інтереси з іншими користувачами, зберігаючи приватність. Це було використано в місті Едж, одному з багатьох відгалужень gate.Zuzalu, в Чіанг Май.
Крім цих прямих перетинів, є ще одна важлива спільна точка інтересу: механізми фінансування.
Один з моїх постійних інтересів - це розробка кращих механізмів фінансування громадських благ: проектів, які є цінними для дуже великих груп людей, але якіне матиґейтквадратичне фінансуванняі його використання вGitcoin Grants, ретро PGF, і більш пізньо глибоке фінансування.
Багато людей сумніваються у загальних благах як концепції. Скептицизм, як правило, виникає з двох джерел:
Це важливі критики, і добрі критики. Однак я стверджую, що сильне фінансування децентралізованих громадських благ є невід'ємною частиною візії d/acc, оскільки одна з ключових цілей d/acc (мінімізація центральних точок контролю) неодмінно зіткнулася з багатьма традиційними бізнес-моделями. Можливо побудувати успішні бізнеси на відкритому коді - декількаБалвігарантуєроблять це - але в деяких ситуаціях це достатньо важко, що важливі проекти потребують додаткової постійної підтримки. Тому нам доведеться зробити важке, і зрозуміти, як забезпечити фінансування громадських благ способом, що враховує обидві зазначені вище критики.
Рішення першої проблеми, в основному,достовірна нейтральністьі@VitalikButerin/сутність-децентралізації-a0c92b76a274">децентралізація. Централізоване планування є проблематичним, оскільки воно передає контроль елітам, які можуть стати зловживати, і через те, що часто перенагружається на поточну ситуаціюі стає менш ефективним з плином часу. Квадратичне фінансування та подібні механізми були саме про фінансування громадських благ способом, який є достовірно нейтральним та (архітектурно та політично) децентралізованим.
Друга проблема є складнішою. З квадратичним фінансуванням загальною критикою було те, щошвидко стає конкурсом популярності, що вимагає від спонсорів проекту витрачати багато зусиль на публічну агітацію. Крім того, проекти, які знаходяться «перед очима людей» (наприклад, додатки кінцевих користувачів), отримують фінансування, але проекти, які більше знаходяться на задньому плані (архетипи)залежність, підтримувана хлопцем в Небрасці«) не отримують жодного фінансування. Фінансування ретро-оптимізму ґрунтується на меншій кількості володарів експертних значків; тут ефект популярного конкурсу зменшується, але соціальні ефекти того, що є тісні особисті зв'язки з володарями значків, збільшуються.
Глибоке фінансуванняце моя власна остання спроба вирішити цю проблему. Deep funding має два основних інновації:
Але глибоке фінансування є лише останнім прикладом; раніше були ідеї механізмів фінансування громадських благ, і в майбутньому їх буде ще багато.allo.expertробить чудову роботу з їх каталогізації. Основна мета полягає в створенні суспільного гаджета, який може фінансувати громадські блага з рівнем точності, справедливості та відкритого доступу, що принаймні наближається до того, як ринки фінансують приватні блага. Він не повинен бути ідеальним; в кінці кінців, ринки далекі від ідеальних самих по собі. Але він повинен бути достатньо ефективним, щоб розробники, які працюють над проектами відкритого коду високої якості, що приносять користь усім, могли дозволити собі продовжувати це робити, не почуваючи потреби робити неприйнятні компроміси.
Сьогодні провідні проекти в більшості областей підприємництва: вакцини, BCI, "передова BCI" подібна міозелектрика зап'ястя та відстеження очей, антивікові ліки, апаратне забезпечення та інше, є власністю. Це має великі недоліки щодо забезпечення довіри громадськості, як ми бачили в багатоз звищеобластівже. Вона також переносить увагу на конкурентну динаміку („НАША КОМАНДА повинна перемогти в цій критичній галузі!“), і відводить увагу від більшої конкуренції, щоб забезпечити, що ці технології приходять достатньо швидко, щоб захистити нас у світі надлюдського ШІ. З цих причин розгалужене фінансування громадських благ може бути сильним катализатором відкритості та свободи. Це ще один спосіб, яким криптоспільнота може допомогти d/acc: серйозно займатися дослідженням цих механізмів фінансування та забезпечувати їх успішну роботу в межах власного контексту, підготовляючи їх до більш широкого прийняття для науки та технологій з відкритим кодом взагалі.
Наступні кілька десятиліть приносять важливі виклики. Є дві проблеми, які останнім часом займають мою увагу:
Однак кожне з цих викликів має срібне обладнання. По-перше, у нас зараз є дуже потужні інструменти для швидшого виконання залишкової роботи:
По-друге, тепер, коли багато принципів, які нам дорогі, більше не зайняті кількома окремими сегментами старої гвардії, вони можуть бути відновлені широкою коаліцією, до якої може приєднатися будь-хто у світі. Це, мабуть, найбільший плюс нещодавніх політичних «перегрупувань» у всьому світі, і ним варто скористатися. Криптовалюта вже виконала чудову роботу, скориставшись цим і знайшовши глобальну привабливість; d/acc може робити те ж саме.
Доступ до інструментів означає, що ми здатні адаптувати та покращувати наші біології та наше середовище, а частина "оборони" d/acc означає, що ми здатні робити це без порушення свободи інших робити те ж саме.Ліберальні плюралістичні принципиозначає, що ми можемо мати багато різноманітності в тому, як це робиться, і наша зобов'язаність перед загальнолюдськими цілями означає, що це повинно бути зроблено.
Ми, люди, продовжуємо бути найяскравішою зіркою. Завдання перед нами, побудувати ще яскравіший XXI століття, яке збереже людське виживання, свободу і можливість діяти, коли ми рухаємося до зірок, є складним. Але я впевнений, що ми з цим справимося.