Переслати оригінальний заголовок: d/acc: через рік

Приблизно рік тому я написавстаття про техно-оптимізм, описуючи мій загальний ентузіазм щодо технологій і величезних переваг, які вони можуть принести, а також мою обережність щодо кількох конкретних проблем, в основному зосереджених навколо надрозумного штучного інтелекту, і ризику того, що він може призвести або до загибелі, або до незворотного безсилля людини, якщо технологія буде побудована неправильним чином. Однією з основних ідей мого допису була філософія децентралізованого та демократичного, диференційованого захисного прискорення. Прискорюйте технології, але диференційовано зосереджуйтеся на технологіях, покращуючи нашу здатність захищати, а не нашу здатність завдавати шкоди, і в технологіях, які розподіляють владу, а не концентрують її в руках єдиної еліти, яка вирішує, що є правдою, брехнею, добром чи злом від імені всіх. Оборона, як у демократичному Швейцаріяі історично квазі-анархістськийЗомія, не так, як пані та замки середньовічного феодалізму.

Протягом року філософія та ідеї значно удосконалилися. Я говорив про ідеї на 80 000 годин, і побачили багато відгуків, в основному позитивних і деякі критичні. Сама робота продовжується і приносить плоди: ми бачення прогресув перевіреномувакцини з відкритим кодом, зростаюче визнання цінності здорового внутрішнього повітря, Community Notes продовжують сяяти, проривний рік дляпрогностичні ринки як інструмент інформації, ZK-SNARKs в ідентифікаційний документ урядуісоціальні медіа (і забезпеченняEthereumгаманцічерезабстракція облікового запису), інструменти для зображень з відкритим кодомз застосуванням у медицині та BCI, і більше. Восени ми мали першу значну подію d/acc: "d/acc Discovery Day" (d/aDDy) на Devcon, який включав повний день доповідачів з усіх стовпчиків d/acc (біо, фізичних, кібернетичних, інформаційних оборони, а також нейротехнологій). Люди, які працюють над цими технологіями протягом років, все більше усвідомлюють роботу один одного, а люди ззовні все більше усвідомлюють більшу історію: ті самі цінності, що надихнули Ethereum та криптовалютуможе бути застосований до ширшого світу.

Зміст

• Що таке d/acc і що не є
• Третя розмірність: вижити й процвітати
• Важке питання: безпека ШІ, короткі терміни та регулювання
• Роль криптовалюти в д/облікові
• d/acc та фінансування громадських благ
• Майбутнє

Що таке і що не є

Рік 2042. Ви бачите звіти в медіа про нову можливу пандемію у вашому місті. Ви звикли до цього: люди занадто збуджуються через кожну мутацію тваринної хвороби, і більшість з них виявляються нічим. Попередні дві потенційні пандемії були виявлені дуже рано черезмоніторинг стічних вод та відкритий аналіз соціальних медіа, і зовсім зупинилися на своєму шляху. Але цього разу ринки прогнозів показують 60% ймовірність щонайменше 10 000 випадків, тому ви більше хвилюєтеся.

Послідовність для вірусу була виявлена вчора. Оновлення програмного забезпечення для вашого кишенькового комп'ютеравипробувач повітря Для того, щоб він міг виявити новий вірус (з одного вдиху або з 15 хвилин перебування в приміщенні в приміщенні), вже є в наявності. Інструкції з відкритим вихідним кодом та код для генерації вакцини за допомогою обладнання, яке можна знайти в будь-якому сучасному медичному закладі світу, мають бути доступні протягом кількох тижнів. Більшість людей поки що не вживають жодних заходів, покладаючись в основному на широке впровадження фільтрації повітря та вентиляції для їх захисту. У вас є захворювання імунітету, тому будьте обережнішими: ваш персональний помічник з відкритим вихідним кодом, який виконує, серед інших завдань, навігацію та рекомендації щодо ресторанів і заходів, також враховує дані тестерів повітря в реальному часі та CO2, щоб рекомендувати лише найбезпечніші місця. Дані надаються багатьма тисячами учасників та пристроїв, які використовують Zk-SNARKsідиференційна приватністьщоб мінімізувати ризик витоку або зловживання даними для будь-якого іншого призначення (якщо ви хочете надати дані для цих наборів даних, є інші особисті помічники АІ, які перевіряють формальні докази того, що ці криптографічні пристрої насправді працюють).

Через два місяці пандемія зникла: здається, що 60% людей, які дотримуються основного протоколу надягати маску, якщо повітряний тестер пищить і показує наявність вірусу, і залишатися вдома, якщо їхній тест виявився позитивним, було достатньо, щоб знизити рівень передачі, який вже був суттєво зменшений завдяки пасивному важкому повітряному фільтруванню, до значення менше 1. Хвороба, яка за симуляціями може бути в п'ять разів гіршою, ніж Covid двадцять років тому, виявилася неважливою сьогодні.

День роботи д/аккаунтів Devcon

Один з найбільш позитивних висновків з d/acc події на Devcon полягає в тому, наскільки успішно d/acc змогла об'єднати людей з дуже різних галузей і зацікавити їх роботою один одного.

Створення подій з «різноманіттям» легко, але зробити так, щоб різні люди з різними фонами та інтересами насправді могли співпрацювати одне з одним, важко. У мене все ще є спогади про те, як мене змушували дивитися довгі опери в середній та старшій школі, і особисто мені це здавалося нудним. Я знав, що я «повинен» їх цінувати, оскільки якщо я цього не зроблю, то я буду некультурним комп'ютерним науковцем, але я не відчував зміст на більш відвертому рівні. D/acc day зовсім не схожий на це: це було так, ніби люди насправді насолоджувалися вивченням дуже різних видів робіт в різних галузях.

Якщо ми хочемо створити яскраву альтернативу домінуванню, сповільненню та загибелі, нам потрібен саме такий широкий коаліційний підхід. d/acc, здається, дійсно вдається досягти цього, і це вже само по собі демонструє цінність ідеї.

Основна ідея d/acc проста: децентралізоване та демократичне диференційне оборонне прискорення. Створюйте технології, які зсувають баланс між атакою та обороною на користь оборони, і робіть це таким чином, щоб не розраховуватися на передачу більшої влади централізованим органам. Існує внутрішній зв'язок між цими двома сторонами: будь-яка форма децентралізованої, демократичної або ліберальної політичної структури процвітає найкраще, коли оборона легка, і найбільше страждає, коли оборона складна - у таких випадках набагато ймовірнішим результатом є певний період війни всіх проти всіх, і, в кінцевому підсумку, рівновага влади найсильнішого.

Основний принцип d/acc поширюється на багато галузей:

Діаграма зМій Техно-оптимізм, минулого року

Один з способів зрозуміти важливість спроби бути децентралізованим, оборонним та спрямованим на прискорення одночасно, полягає в порівнянні його з філософією, яку ви отримуєте, коли відмовляєтесь від кожного з трьох.

• Децентралізоване прискорення, але не варто перейматися «диференціальною захисною» частиною. По суті, будь e/acc, але децентралізований. Є багато людей, які підходять до цього питання,дещохто називають себе d/acc, але корисно описують свою спрямованість як «OFFENSE», але також багато інших, хто захоплюється «децентралізованою штучною інтелектуальністю» та подібними темами більш помірним способом, але на мою думку приділяють недостатню увагу «оборонному» аспекту.

На мою думку, цей підхід може уникнути ризику глобальної людської диктатури конкретного племені, про яке ви хвилюєтеся, але він не вирішує основної структурної проблеми: в умовах, коли перевагу надають нападам, постійно існує ризик або катастрофи, або того, що хтось позиціонує себе як захисника і назавжди закріплюється на вершині. У конкретному випадку ШІ, він також не має гарної відповіді на ризик того, що люди загалом стануть менш впливовими порівняно з ШІ.

• Диференційна оборонна прискорення, але не цікавтеся «децентралізованою та демократичною». Прийняття централізованого контролю в інтересах безпеки має постійний привабливий бік для підмножини людей, і без сумніву читачі вже знайомі з багатьма прикладами і недоліками їх. Останнім часом деякі хвилюються, що екстремальний централізований контроль є єдиним рішенням для екстремів майбутніх технологій: дивіться цей гіпотетичний сценарійде «Кожен обладнається «тегом свободи» - послідовністю більш обмежених носимих пристроїв для спостереження, звичайних сьогодні, таких як накладний браслет, який використовується в декількох країнах як альтернатива в'язниці ... зашифроване відео та аудіо постійно завантажується та машинно інтерпретується в реальному часі». Однак централізоване управління - це спектр. Одна більш пом'якшена версія централізованого управління, яка зазвичай не враховується, але все ще шкідлива, - це опір громадському контролю в біотехнології (наприклад.їжа,вакцини), і закриті стандарти, що дозволяють цьому опору залишатися безвідповіддю.

Ризик такого підходу, звісно, полягає в тому, що центр часто є сам джерелом ризику. Ми бачили це в Covid, де дослідження здобуття функції, фінансованібагато країн-членів Всесвітньої організаціїможе бути джерелом пандемії, централізована епістемологія призвела до ВООЗне визнаючидлярокищо Covid є повітряним, і примусовимсоціальна дистанціяівакцинамандати спричинили політичну реакцію, яка може відчуватися протягом десятиліть. Подібна ситуація, швидше за все, може трапитися навколо будь-яких ризиків, пов'язаних з штучним інтелектом або іншими ризиковими технологіями. Децентралізований підхід краще впорається з ризиками з самого центру.

• Децентралізована оборона, але нехай не хвилюється про прискорення - в основному, намагається сповільнити технологічний прогрес або економічнийдеекономіка.

Виклик цієї стратегії подвійний. По-перше, технології та економічний зріст загалом були надзвичайно корисними для людства, і будь-яке затримання цьогонакладає витратищо єважко переоцінитиПо-друге, в ненаталітарному світі нерозвиток є нестабільним: той, хто «обманює» найбільше та знаходить можливість розвиватися в будь-якому випадку, випереджатиме інших. Децелератистські стратегії можуть працювати до певної міри в деяких контекстах: європейська їжа, яка є здоровішою, ніж американська, - це один приклад, успіх у нерозповсюдженні ядерної зброї наразі - інший. Але вони не можуть працювати завжди.

З д/розрахунком ми хочемо:

• Будьте принциповані в час, коли багато світу стає схильним до відділення, і не просто будуйте все, але ми хочемо будувати конкретні речі, які роблять світ безпечнішим і кращим.
• Прийміть, що експоненційний технологічний прогрес означає, що світ стане дуже дивним, і загальний "слід" людства на всесвіті лише збільшиться. Наша здатність запобігати шкоді вразливим тваринам, рослинам і людям має покращуватися, але єдиний вихід - вперед.
• Створюйте технології, які забезпечують нашу безпеку, не вважаючи, що "добрі хлопці (або хороші ШІ) керують ситуацією". Ми досягаємо цього, будуючи інструменти, які є природно більш ефективнийколи використовується для будівництва і захисту, ніж коли використовується для знищення.

Ще один спосіб подумати про d/acc - повернутися до кадру зрух Піратської партіїв Європі наприкінці 00-х років: самовизначення.

Мета полягає в побудові світу, де ми зберігаємо людське агентство, досягаючи обидванегативна свобода уникати активного втручання (чи то від інших людей, що діють як приватні громадяни, або від урядів, або від суперінтелектуальних ботів) у нашу здатність визначати власну долю, і позитивна свобода забезпечення наявності знань та ресурсів для цього. Це відзвук столітньої класично-ліберальної традиції, до якої також належить фокус Стюарта Бренда на " доступ до інструментів" та Джона Ст'юарта Мілля акцент на освітупоруч зволяяк ключові складові людського прогресу - і можливо, можна додати, бажання Бакмінстера Фуллера бачити процес глобального вирішення бутиучасть та широко розповсюджені. Ми бачимо d/acc як спосіб досягнення тих самих цілей у контексті технологічного ландшафту 21-го століття.

Третє вимір: вижити і процвітати

У своєму минулорічному дописі d/acc спеціально зосередився на оборонних технологіях: фізичному захисті, біозахисті, кіберзахисті та інформаційному захисті. Однак децентралізованої оборони недостатньо, щоб зробити світ великим: вам також потрібне далекоглядне позитивне бачення того, для чого людство може використовувати свою новознайдену децентралізацію та безпеку.

Минулорічний пост містив позитивний візію, у двох місцях:

1. Зосередившись на викликах надлюдського інтелекту, я запропонував шлях (далекий від оригіналу для мене), яким ми можемо мати надлюдський інтелект без позбавлення сили:
   1. Сьогодні будуйте штучний інтелект як інструменти, а не як високоавтономних агентів
   2. Завтра використовуйте інструменти, такі як віртуальна реальність, міоелектричні і інтерфейси мозок-комп'ютер для створення все більш тісного і тісного зворотного зв'язку між ШІ і людьми
   3. З часом рухатися до кінцевої гри, де надлюдський інтелект є тісно зв'язаною комбінацією машин і нас.
2. Говорячи про інформаційну оборону, я також упоминав, що крім _оборонних_ соціальних технологій, які намагаються допомогти спільнотам зберегти єдність та мати якісну дискусію перед атаками, є також прогресивні соціальні технології, які можуть допомогти спільнотам більш швидко приймати якісні рішення: pol.is - це один приклад, а прогнозринкице інші.

Але ці два пункти здавалися відірваними від аргументу d/acc: «ось кілька ідей щодо створення більш демократичного та сприятливого для оборони світу на базовому рівні, і, до речі, ось деякі не пов'язані між собою ідеї щодо того, як ми можемо зробити суперінтелект».

Однак, на мою думку, насправді існують дуже важливі зв'язки між тим, що було позначено вище як «захисна» та «прогресивна» технологія d/acc. Давайте розширимо діаграму d/acc з минулорічного допису, додавши цю вісь (також, давайте перейменуємо її "вижити проти процвітаннядо діаграми та подивіться, що виходить:

Існує стійкий шаблон, що охоплює всі сфери, коли наукові знання, ідеї та інструменти, які можуть допомогти нам «вижити» в одній сфері, тісно пов'язані з науковими знаннями, ідеями та інструментами, які можуть допомогти нам «процвітати». Деякі приклади:

• Багато останніх досліджень з противірусними властивостями COVID зосереджуються наРоль вірусної персистенції в організмі як механізм того, чому Long Covid є такою проблемою. Останнім часом також з'являються ознаки того, що вірусна персистенція може бути відповідальним за хворобу Альцгеймера - якщо це правда, це означає, що вирішення проблеми старіння може бути пов'язано з подоланням вірусної стійкості у всіх типах тканин.
• Низька вартість та мініатюрністьінструменти для зображеньтакі, як ті, що єстворено Openwaterможе бути потужним для лікуваннямікротромби, або вірусної персистенції, онкологічних захворювань, а також їх можна використовувати для BCI.
• Дуже подібні ідеї мотивують створення соціальних інструментів, призначених для високоризикових середовищ, таких як gate.Замітки спільноти, а також соціальні інструменти, створені для розумно кооперативного середовища, такі як pol.is.
• Ринки передбачень єціннийв обохвисоке співробітництвоівисока складністьсередовища.
• Докази з нульовим знанням та подібні технології для виконання обчислень на даних зі збереженням конфіденційності як збільшують доступні дані для корисної роботи, таку як наука, так і підвищують рівень конфіденційності.
• Сонячна енергія та акумулятори чудово підходять для Прискорення наступної хвилі чистого економічного зростання, а також вони дивовижні для децентралізації та фізичної стійкості.

Крім цього, існують важливі взаємозалежності між предметними областями:

• BCI дуже актуальний як технологія інформаційної оборони та співпраці, оскільки він може забезпечити нам набагато більш детальну комунікацію наших думок і намірів. BCI - це не просто взаємодія між ботом та свідомістю: вона також може бути взаємодією свідомості-бота-свідомості. Це віддзеркалюєРізноманітні ідеї про цінність BCI.
• Багато в біотехнології залежить від обміну інформацією, і в багатьох контекстах люди будуть комфортно ділитися інформацією лише в тому випадку, якщо вони впевнені, що вона буде використовуватися лише для одного застосування. Це залежить від технології конфіденційності (наприклад, ZKP, FHE, затемнення...)
• Технології співпраці можуть бути використані для координації фінансування будь-яких інших технологічних галузей

Важке питання: безпека штучного інтелекту, короткі терміни та регулювання

Різні люди мають дуже різні графіки розвитку штучного інтелекту. Графік від Zuzalu в Чорногорії, 2023.

Аргументом проти моєї минулорічної публікації, яку я вважав найбільш переконливою, була критика з боку спільноти безпеки штучного інтелекту. Аргумент звучить так: «Звичайно, якщо у нас є півстоліття, перш ніж ми отримаємо сильний штучний інтелект, ми зможемо сконцентрувати свою енергію та створити всі ці хороші речі. Але насправді, схоже, що у нас є три роки до AGI і ще три роки до суперінтелекту. І тому, якщо ми не хочемо, щоб світ був зруйнований або іншим чином потрапив у незворотну пастку, ми не можемо просто прискорити хороше, ми також повинні сповільнити погане, а це означає прийняття потужних правил, які можуть засмутити впливових людей». У своєму минулорічному дописі я справді не закликав до якоїсь конкретної стратегії «уповільнення поганого», окрім розпливчастих закликів не створювати ризикованих форм суперінтелекту. І тому тут варто звернутися безпосередньо до питання: якщо ми живемо в найменш зручний світ, де ризик штучного інтелекту високий, а строки часу потенційно можуть бути п'ять років, яку регуляцію я підтримую?

Спочатку, аргументи на користь обережності щодо нових регуляцій

Минулого року основним запропонованим регулюванням штучного інтелекту було Законопроект SB-1047 в Каліфорнії. SB-1047 вимагав від розробників найпотужніших моделей (тех, що потребують понад 100 млн. доларів для навчання або понад 10 млн. доларів у разі тонкої настройки) прийняти певні заходи щодо тестування безпеки перед випуском. Крім того, він накладав відповідальність на розробників моделей штучного інтелекту, якщо вони не дбають достатньо про безпеку. Багато критиків стверджували, що законопроект був «загроза для відкритого джерела“; Я не погодився, оскільки порогові витрати означали, що це впливало лише на найпотужніші моделі: навіть LLama3 була мабуть під порогом. Однак, оглядаючись назад, я думаю, що в законопроекті була більш велика проблема: як і більшість регулювань, він був підігнаний під сучасну ситуацію. Фокус на витрати на навчання виявляється крихким перед новою технологією вже зараз: останній сучасний якісний модель Deepseek v3 була навчена за вартістю лише $6 мільйонів, і в нових моделях, як о1витрати змінюються з навчання на виведення більш загально.

По-друге, найімовірніші суб'єкти, які насправді несуть відповідальність за сценарій загибелі суперінтелекту ШІ, є реально військовими. Як ми бачив за останні півстоліття біобезпеки(і не тільки), війська готові робити страшні речі, і вони можуть легко допускати помилки. Використання штучного інтелекту у військовій сфері сьогодні швидко розвивається (див. Україна, Gaza. І будь-які правила безпеки, які уряд приймає, за замовчуванням не стосуються їх власної військової сили та корпорацій, що тісно співпрацюють з військом.

Звичайно, ці аргументи не є причинами для зневіри та бездіяльності. Навпаки, ми можемо використовувати їх як орієнтир і спробувати розробити правила, які б найменше спричиняли ці обурення.

Стратегія 1: Відповідальність

Якщо хтось діє якимось чином, що призводить до юридично обґрунтованої шкоди, вони Може бути позивали в суд. Це не вирішує проблеми ризику від військових та інших "надзаконних" суб'єктів, але це дуже універсальний підхід, який уникне перенадмірної пристосованості та частопідтримується за лібертаріанським ухилом економістиз цієї саме причини.

Основні цілі щодо відповідальності, які були розглянуті до цього часу, є:

• Користувачі - люди, які використовують штучний інтелект
• Deployers - посередники, які пропонують штучний інтелект як сервіс для користувачів
• Розробники - люди, які створюють штучний інтелект

Покладання відповідальності на користувачів здається найбільш сумісним зі стимулами. У той час як зв'язок між тим, як розробляється модель, і тим, як вона використовується в кінцевому підсумку часто буває незрозуміло, користувач сам вирішує, як саме використовувати ШІ. Відповідальність за користувачів створює сильний тиск на те, що я вважаю правильним: зосередитися на створенні меха-костюмів для людського розуму, а не на створенні нових форм самодостатнього розумного життя. Перший регулярно реагує на наміри користувача, і тому не спричинить катастрофічних дій, якщо користувач цього не захоче. Останні матимуть найбільший ризик піти та створити класичний сценарій «ШІ стає ізгоєм». Ще одна перевага розміщення відповідальності якомога ближче до кінцевого використання полягає в тому, що це мінімізує ризик того, що відповідальність призведе до того, що люди вчинять дії, які є шкідливими іншими способами (наприклад, закритий вихідний код, KYC та стеження, змова між державою та бізнесом для таємного обмеження користувачів, як, наприклад, дебанкінг, блокування великих регіонів світу).

Існує класичний аргумент проти покладання відповідальності виключно на користувачів: користувачі можуть бути звичайними людьми без зайвих грошей або навіть анонімними, не залишаючи нікого, хто міг би реально заплатити за катастрофічну шкоду. Цей аргумент можна переоцінити: навіть якщо деякі користувачі занадто малі, щоб бути притягнутими до відповідальності, середньостатистичний клієнт розробника ШІ таким не є, і тому розробники ШІ все одно будуть зацікавлені у створенні продуктів, які можуть дати своїм користувачам впевненість у тому, що вони не зіткнуться з високим ризиком відповідальності. Тим не менш, це все ще вагомий аргумент, і його потрібно вирішувати. Вам потрібно стимулювати когось, хто має ресурси, щоб зробити це належним рівнем обережності, а розгортачі та розробники є легкодоступними цілями мати багато впливупро те, наскільки безпечною або небезпечною є модель.

Відповідальність розробника здається розумною. Часто цитованою проблемою є те, що вона не підходить для моделей з відкритим вихідним кодом, але це здається управляється, особливо оскільки є висока ймовірність того, що найпотужніші моделі будуть закритими джерелами (а якщо вони виявляться відкритими, то хоча відповідальність розробника не виявиться дуже корисною, вона також не завдаватиме багато шкоди). Відповідальність розробника має ту ж саму проблему (хоча з відкритими моделями з вихідним кодом є деяка перешкода в необхідності налаштувати модель, щоб змусити її зробити щось, що спочатку було заборонено), але застосовується та ж контраргумент. Як загальний принцип, збільшення «податків» на контроль та фактично говорити «ви можете створюйте речі, які ви не контролюєте, або ви можете будувати те, що ви контролюєте, але якщо ви будуєте те, що ви контролюєте, то 20% контролю має бути використано для наших цілей», здається розумною позицією для правових систем.

Одна ідея, яка здається недостатньо дослідженою, полягає в покладанні відповідальності на інших учасників ланцюга постачання, які мають більш впевнені ресурси. Одна ідея, яка дуже підходить для д/р відносин, - покласти відповідальність на власників або операторів будь-якого обладнання, яке штучний інтелект захоплює (наприклад, шляхом вторгнення) в процесі здійснення якої-небудь катастрофічно шкідливої дії. Це створило б дуже широкий інцентив для роботи над тим, щоб зробити інфраструктуру світу (особливо обчислювальну та біологічну) якнайбільш безпечною.

Стратегія 2: Глобальна кнопка «м'якої паузи» на обладнанні промислового масштабу

Якби я був переконаний, що нам потрібно щось більш «мускулисте», ніж правила відповідальності, ось на що я б пішов. Метою було б мати можливість зменшити глобально доступний обчислювальний потенціал на ~90-99% протягом 1-2 років у критичний період, щоб купити більше часу для підготовки людства. Значення 1-2 років не повинно бути переоціненим: рік «режиму воєнного часу» може легко вартий століть роботи в умовах самовдоволеності. Шляхи реалізації «паузаБули досліджені різні варіанти, включаючи конкретні пропозиції, такі як потребує реєстраціїіПідтвердження місцезнаходження апаратного забезпечення.

Більш просунутий підхід полягає у використанні хитрих криптографічних хитрощів: наприклад, апаратне забезпечення штучного інтелекту промислового масштабу (але не споживче), яке виробляється, може бути оснащене довіреним апаратним чіпом, який дозволяє йому продовжувати роботу лише в тому випадку, якщо він отримує 3/3 підписів раз на тиждень від основних міжнародних організацій, включаючи принаймні одну не пов'язану з військовими структуру. Підписи будуть незалежними від пристрою (за бажанням ми навіть можемо вимагати доказ з нульовим розголошенням, що вони були опубліковані в блокчейні), тому це буде все або нічого: не буде практичного способу дозволити одному пристрою продовжувати роботу без авторизації всіх інших пристроїв.

Це виглядає так, ніби воно «відмічає галочки» з точки зору максимізації переваг і мінімізації ризиків:

• Це корисна здатність, яку варто мати: якщо ми отримаємо попередження про те, що надзвичайно розумний штучний інтелект починає робити речі, які потенційно загрожують катастрофічними наслідками, ми захочемо повільніше здійснювати перехід.
• Доки не настане такий критичний момент, просто мати можливість м'якого паузування майже не завдасть шкоди розробникам.
• Зосередження на промисловому обладнанні великого масштабу і мета, що ставиться від 90% до 99%, уникне створення дистопійного зусилля розміщувати шпигунські чіпи або вбивчі перемикачі в ноутбуках для споживачів або примушувати країни дотримуватися драконічних заходів проти їхньої волі.
• Зосередження на апаратному забезпеченні, здається, є дуже стійким до змін у технології. Ми бачили на протязі кількох поколінь штучного інтелекту, що якість значно залежить від наявних обчислень, особливо у початкових версіях нової парадигми. Тому, зменшення наявних обчислень на 10-100 разів може легко вплинути на рішення бігучої суперінтелектуальної штучного інтелекту, що виграє або програє швидкому бою проти людей, які намагаються зупинити його.
• Вбудована неприємність потреби входити в Інтернет один раз на тиждень для отримання підпису створює сильний тиск проти розширення програми на споживчу апаратуру.
• Це можна було перевірити за допомогою випадкової перевірки, і виконання цього на рівні апаратного забезпечення ускладнило б звільнення конкретних користувачів (підходи, що ґрунтуються на юридичному примусовому вимкненні, а не технічному, не мають цієї все-або-нічого властивості, що робить їх набагато більшим ризиком зізхідності у винятки для військових тощо)

Регулювання апаратного забезпечення вже розглядається дуже серйозно, хоча загалом в контекстіекспортний контроль, які в суті мають філософію «ми довіряємо нашій стороні, але не довіряємо іншій стороні». Відомо, що Леопольд Ашенбреннер підтримував думку, що США повинні гонка за отримання рішучої переваги а потім по суті змусити Китайпідписати протокол, що обмежує кількість боксів, яким їм дозволено працювати. На мою думку, такий підхід здається ризикованим і може поєднувати уразливостібагатополярні гонкиі централізації. Якщо нам доводиться обмежувати людей, здається краще обмежувати всіх на рівних умовах і докладати зусиль, щоб спробувати співпрацювати та організувати це замість того, щоб одна сторона намагалась панувати над усіма іншими.

d/acc технології в ризику штучного інтелекту

Обидві ці стратегії (відповідальність і кнопка апаратної паузи) мають дірки, і зрозуміло, що вони є лише тимчасовими зупинками: якщо щось стане можливим зробити на суперкомп'ютері в момент часу T, це, швидше за все, буде можливо на ноутбуці в момент часу T + 5 років. І тому нам потрібно щось більш стабільне, щоб виграти час. Тут доречні багато технологій d/acc. Ми можемо поглянути на роль технології d/acc наступним чином: якщо штучний інтелект захопить світ, як він це зробить?

• Це вторгається в наші комп'ютери → кібероборона
• Це створює суперчуму → біозахист
• Воно переконує нас (або вірити йому, або не довіряти один одному) → інфо-захист

Як коротко зазначалося вище, правила відповідальності є природним стилем регулювання, дружнім до d/acc, оскільки вони можуть дуже ефективно мотивувати всі частини світу прийняти ці засоби захисту та сприймати їх серйозно. Тайвань експериментує з відповідальністю за недостовірну рекламу останнім часом, що може бути розглянуто як один приклад використання відповідальності для стимулювання захисту інформації. Ми не повинні бути занадто ентузіастичними щодо розміщення відповідальності всюди, і пам'ятати про переваги звичайної старої свободи, яка дозволяє маленькому гравцеві брати участь у нововведеннях без страху перед позовами, але там, де ми хочемо зробити сильнішу спробу бути безпечними, відповідальність може бути досить гнучкою і ефективною.

Роль криптовалюти в д/обл

Багато з д/відбувається далеко за межами типових тем блокчейну: біозахист, BCI та інструменти колаборативного дискурсу здаються далекими від речей, про які зазвичай говорить криптовалютна особа. Однак, я вважаю, що існують деякі важливі зв'язки між крипто та д/відбувається, зокрема:

• d/acc - це розширення базових цінностей криптовалюти (децентралізація, опір цензурі, відкрита глобальна економіка та суспільство) на інші галузі технологій.
• Оскільки користувачі криптовалют є природними першими послідовниками, і існує узгодження цінностей, криптоспільноти є природними ранніми користувачами технології d/acc. Сильний акцент на спільноті (як онлайн, так і офлайн, наприклад, події та спливаючі вікна), а також той факт, що ці спільноти насправді роблять речі з високими ставками, а не просто спілкуються один з одним, робить криптоспільноти особливо привабливими інкубаторами та випробувальними майданчиками для технологій d/acc, які в основному працюють на групах, а не на окремих особах (наприклад, велика частка інформаційного захисту та біозахисту). Криптолюди просто роблять речі разом.
• Багато криптотехнологій можуть бути використані в областях d/програми: блокчейни для побудови більш надійної та децентралізованої фінансової, управлінської та соціальної інфраструктури, докази нульового знання для захисту приватності і т.д. Сьогодні багато найбільших ринків передбачень побудовані на блокчейнах, і вони поступово стають більш складними, децентралізованими та демократичними.
• Є також вигідні можливості співпраці в галузі крипто-прилеглих технологій, які є дуже корисними для криптопроектів, але також є ключовими для досягнення цілей d/acc: формальна верифікація, комп'ютерний софтвар та апаратний захист, а також змагально надійні технології управління. Ці речі роблять блокчейн Ethereum, гаманці та DAO більш безпечними та надійними, а також досягають важливих цілей цивілізаційного захисту, таких як зменшення нашої вразливості до кібератак, у тому числі потенційно з боку надрозумного штучного інтелекту.

Cursive, додаток, який використовує повністю гомоморфну шифрування (FHE), щоб дозволити користувачам виявити спільні інтереси з іншими користувачами, зберігаючи приватність. Це було використано в місті Едж, одному з багатьох відгалужень gate.Zuzalu, в Чіанг Май.

Крім цих прямих перетинів, є ще одна важлива спільна точка інтересу: механізми фінансування.

d/acc та фінансування громадських благ

Один з моїх постійних інтересів - це розробка кращих механізмів фінансування громадських благ: проектів, які є цінними для дуже великих груп людей, але якіне матиґейтквадратичне фінансуванняі його використання вGitcoin Grants, ретро PGF, і більш пізньо глибоке фінансування.

Багато людей сумніваються у загальних благах як концепції. Скептицизм, як правило, виникає з двох джерел:

1. Те, що громадські блага історично використовувалися як обґрунтування для роздрукованого центрального планування та втручання уряду в суспільство та економіку.
2. Загальне сприйняття, що фінансування громадських благ є недисциплінованою і проводиться на соціальний бажаний спотворення - те, що звучить добре, а не те, що є добрим - та виступає за тих, хто може вести соціальну гру.

Це важливі критики, і добрі критики. Однак я стверджую, що сильне фінансування децентралізованих громадських благ є невід'ємною частиною візії d/acc, оскільки одна з ключових цілей d/acc (мінімізація центральних точок контролю) неодмінно зіткнулася з багатьма традиційними бізнес-моделями. Можливо побудувати успішні бізнеси на відкритому коді - декількаБалвігарантуєроблять це - але в деяких ситуаціях це достатньо важко, що важливі проекти потребують додаткової постійної підтримки. Тому нам доведеться зробити важке, і зрозуміти, як забезпечити фінансування громадських благ способом, що враховує обидві зазначені вище критики.

Рішення першої проблеми, в основному,достовірна нейтральністьі@VitalikButerin/сутність-децентралізації-a0c92b76a274">децентралізація. Централізоване планування є проблематичним, оскільки воно передає контроль елітам, які можуть стати зловживати, і через те, що часто перенагружається на поточну ситуаціюі стає менш ефективним з плином часу. Квадратичне фінансування та подібні механізми були саме про фінансування громадських благ способом, який є достовірно нейтральним та (архітектурно та політично) децентралізованим.

Друга проблема є складнішою. З квадратичним фінансуванням загальною критикою було те, щошвидко стає конкурсом популярності, що вимагає від спонсорів проекту витрачати багато зусиль на публічну агітацію. Крім того, проекти, які знаходяться «перед очима людей» (наприклад, додатки кінцевих користувачів), отримують фінансування, але проекти, які більше знаходяться на задньому плані (архетипи)залежність, підтримувана хлопцем в Небрасці«) не отримують жодного фінансування. Фінансування ретро-оптимізму ґрунтується на меншій кількості володарів експертних значків; тут ефект популярного конкурсу зменшується, але соціальні ефекти того, що є тісні особисті зв'язки з володарями значків, збільшуються.

Глибоке фінансуванняце моя власна остання спроба вирішити цю проблему. Deep funding має два основних інновації:

1. Графік залежностей. Замість того, щоб ставити кожному присяжному глобальне запитання («У чому цінність проекту А для людства?»), ми ставимо локальне запитання («Чи є проект А чи проект Б більш цінним для результату В? А на скільки?"). Люди, як відомо, погано розбираються в глобальних питаннях: в відоме дослідженняНа запитання, скільки грошей вони заплатять за порятунок N птахів, респонденти відповіли, що приблизно 80 доларів за N=2000, N=20,000 і N=200,000. Місцеві питання набагато складніші. Потім ми об'єднуємо локальні відповіді в глобальну відповідь, підтримуючи «граф залежностей»: для кожного проекту які інші проекти сприяли його успіху і скільки?
2. ШІ як сконденсоване людське розуміння. Журорам лише надається випадковий невеликий зразок всіх питань. Існує відкритий конкурс, в рамках якого будь-хто може подати моделі штучного інтелекту, які намагаються ефективно заповнити всі краї графа. Кінцева відповідь - це зважена сума моделей, яка найбільше сумісна з відповідями журі. Дивіться тут для прикладу кодуЦей підхід дозволяє механізму масштабуватися до дуже великого розміру, при цьому вимагаючи від журі надсилати лише невелику кількість "бітів" інформації. Це зменшує можливість корупції і забезпечує те, що кожен біт є високої якості: журі може дозволити собі довго роздумувати над кожним питанням, замість швидкої прокрутки сотень. Використовуючи відкриту конкуренцію ШІ, ми зменшуємо упередженість будь-якого одного процесу тренування і адміністрування ШІ. Відкритий ринок ШІ як двигун, люди - як кермо.

Але глибоке фінансування є лише останнім прикладом; раніше були ідеї механізмів фінансування громадських благ, і в майбутньому їх буде ще багато.allo.expertробить чудову роботу з їх каталогізації. Основна мета полягає в створенні суспільного гаджета, який може фінансувати громадські блага з рівнем точності, справедливості та відкритого доступу, що принаймні наближається до того, як ринки фінансують приватні блага. Він не повинен бути ідеальним; в кінці кінців, ринки далекі від ідеальних самих по собі. Але він повинен бути достатньо ефективним, щоб розробники, які працюють над проектами відкритого коду високої якості, що приносять користь усім, могли дозволити собі продовжувати це робити, не почуваючи потреби робити неприйнятні компроміси.

Сьогодні провідні проекти в більшості областей підприємництва: вакцини, BCI, "передова BCI" подібна міозелектрика зап'ястя та відстеження очей, антивікові ліки, апаратне забезпечення та інше, є власністю. Це має великі недоліки щодо забезпечення довіри громадськості, як ми бачили в багатоз звищеобластівже. Вона також переносить увагу на конкурентну динаміку („НАША КОМАНДА повинна перемогти в цій критичній галузі!“), і відводить увагу від більшої конкуренції, щоб забезпечити, що ці технології приходять достатньо швидко, щоб захистити нас у світі надлюдського ШІ. З цих причин розгалужене фінансування громадських благ може бути сильним катализатором відкритості та свободи. Це ще один спосіб, яким криптоспільнота може допомогти d/acc: серйозно займатися дослідженням цих механізмів фінансування та забезпечувати їх успішну роботу в межах власного контексту, підготовляючи їх до більш широкого прийняття для науки та технологій з відкритим кодом взагалі.

Майбутнє

Наступні кілька десятиліть приносять важливі виклики. Є дві проблеми, які останнім часом займають мою увагу:

• Могут прийти новые мощные волны технологий, особенно сильного искусственного интеллекта, и эти технологии сопровождаются важными ловушками, которые нам нужно избегать. Это может занять пять лет, чтобы достичь «искусственного сверхразума», может занять пятьдесят. В любом случае, неясно, что автоматически положительный исход является стандартным, и как описано в этом посте и,попередній, є кілька пасток, яких потрібно уникати.
• Світ стає менш співпрацюючим. Багато потужних діячів, які раніше, здавалося, принаймні іноді діяли на основі високих принципів (космополітизм, свобода, загальна людяність... список можна продовжувати), тепер відкритіше й агресивніше дотримуються особистих або племінних інтересів.

Однак кожне з цих викликів має срібне обладнання. По-перше, у нас зараз є дуже потужні інструменти для швидшого виконання залишкової роботи:

• Сучасні та найближчі майбутній штучний інтелект може використовуватися для створення інших технологій, а також може використовуватися як складова частина управління (як у глибокому фінансуванні або інформація про фінанси). Це також пов'язано з BCI, яке само по собі може забезпечити ще більшу продуктивність.
• Тепер великомасштабна координація можлива на набагато більшому масштабі, ніж раніше. Інтернет і соціальні мережі розширили межі координації, глобальна фінансова система (включаючи криптовалюту) збільшила свою потужність, а тепер інструменти захисту і співпраці можуть підвищити його якість, а можливо невдовзі BCI у формі людина-комп'ютер-людина зможе збільшити його глибину.
• Формальна верифікація, пісочниця (веб-браузери, Docker, Qubes, GrapheneOS, і набагато більше), захищені апаратні модулі та інші технології постійно вдосконалюються настільки, що стає можливим забезпечити значно кращу кібербезпеку.
• Написання будь-якого програмного забезпечення зараз значно легше, ніж два роки тому.
• Нещодавні базові дослідження з розуміння того, як працюють віруси, особливо просте розуміння того, що найважливіша форма передачі, проти якої потрібно боротися, - це повітряна, показує набагато чіткіший шлях до покращення біооборони.
• Останні досягнення у біотехнології (наприклад, CRISPR,прогресиубіо-імеджинг) створюють різні види біотехнологій, чи то для оборони, чи то для довговічність, або супер-щастя, або дослідження множиннийновий біогіпотези, або просто роблять дійсно круті речі, набагато доступніше.
• Прогреси в області обчислювальної техніки та біотехнологій разом дозволяють використовувати синтетичні біоінструменти для пристосування, моніторингу та покращення вашого здоров'я. Технологія кіберзахисту, така як криптографія, робить персоналізовану складову цього набагато більш життєздатною.

По-друге, тепер, коли багато принципів, які нам дорогі, більше не зайняті кількома окремими сегментами старої гвардії, вони можуть бути відновлені широкою коаліцією, до якої може приєднатися будь-хто у світі. Це, мабуть, найбільший плюс нещодавніх політичних «перегрупувань» у всьому світі, і ним варто скористатися. Криптовалюта вже виконала чудову роботу, скориставшись цим і знайшовши глобальну привабливість; d/acc може робити те ж саме.

Доступ до інструментів означає, що ми здатні адаптувати та покращувати наші біології та наше середовище, а частина "оборони" d/acc означає, що ми здатні робити це без порушення свободи інших робити те ж саме.Ліберальні плюралістичні принципиозначає, що ми можемо мати багато різноманітності в тому, як це робиться, і наша зобов'язаність перед загальнолюдськими цілями означає, що це повинно бути зроблено.

Ми, люди, продовжуємо бути найяскравішою зіркою. Завдання перед нами, побудувати ще яскравіший XXI століття, яке збереже людське виживання, свободу і можливість діяти, коли ми рухаємося до зірок, є складним. Але я впевнений, що ми з цим справимося.

Відмова від відповідальності:

1. Ця стаття розміщується з [gateВіталік Бутерін]. Переслати оригінальний заголовок: d/acc: через рік. Усі авторські права належать оригінальному автору [Віталік Бутерін]. Якщо є заперечення до цього повторного видання, будь ласка, зв'яжіться з Gate Learn команди, і вони оперативно впораються з цим.
2. Відповідальність за відмову: Погляди та думки, висловлені в цій статті, належать виключно автору і не становлять жодних інвестиційних порад.
3. Команда gate Learn здійснює переклади статей на інші мови. Якщо не зазначено інше, копіювання, розповсюдження або плагіат перекладених статей заборонено.