AI є найбільш актуальним сегментом у криптоіндустрії, серед яких проєкт Gensyn, дистрибутивна AI обчислювальна мережа, що отримала 50 мільйонів доларів фінансування від a16z, безсумнівно, є конкурентоспроможним. Нещодавно Gensyn офіційно запустив Тестову мережу, хоча це сталося більш ніж на рік пізніше запланованого терміну, але з запуском тестової мережі нарешті розпочинається новий етап.
Як спеціально розроблений для машинного навчання кастомізований Ethereum Rollup, тестова мережа Gensyn інтегрує поза ланцюгове виконання, верифікацію та комунікаційні фрейми, з метою забезпечення децентралізованих AI систем такими ключовими функціями, як постійна ідентичність, відстеження участі, підтримка приналежності, платежі, координація віддаленого виконання, верифікація без довіри, запис процесу навчання та краудфандинг масштабних навчальних задач.
Перший етап Тестової мережі зосереджується на відстеженні участі в RL Swarm. RL Swarm — це додаток для кооперативного підкріплювального навчання після тренування, його вузли можуть бути пов'язані з ідентичністю на ланцюгу, що забезпечує точний облік внеску кожного учасника.
RL Swarm: основні функції та кооперативне навчання
У тестовій мережі Gensyn основним застосуванням є RL Swarm, модельна система спільного навчання, що побудована на основі децентралізованої мережі. На відміну від традиційного незалежного навчання окремих моделей, RL Swarm дозволяє кільком моделям взаємодіяти, критикувати та вдосконалювати одна одну в мережі, що сприяє спільному підвищенню загальної продуктивності. Його основна ідея полягає в "колективній мудрості", тобто досягненні більш ефективного навчального результату через співпрацю та зворотний зв'язок між моделями на різних вузлах.
Можна просто зрозуміти, що моделі, такі як DeepSeek-R1, під час навчання на основі висновків можуть ітеративно покращувати свою продуктивність через самокритичність, тоді як RL Swarm розширює цей механізм на групу з кількох моделей, досягаючи ефекту "багато рук роблять легку роботу".
На основі системи RL Swarm, модель не тільки покладається на власний зворотний зв'язок, але й спостерігає та оцінює результати інших моделей, виявляючи свої недоліки та оптимізуючи їх. Кожен модельний вузол, що приєднується до Swarm, бере участь у трьохетапному процесі: спочатку незалежно вирішує задачу та надає ідеї та відповіді, потім переглядає відповіді інших вузлів та надає зворотний зв'язок, зрештою моделі голосують за найкраще рішення та коригують свої виходи на його основі. Ця кооперативна механіка не тільки підвищує продуктивність кожної моделі, але й сприяє еволюції всього групового моделювання. Моделі, що приєдналися до Swarm, залишаються з поліпшеними локальними вагами після виходу, отримуючи реальну вигоду.
Крім того, Gensyn відкрив код RL Swarm, будь-хто може запустити вузол, розпочати або приєднатися до існуючого Swarm без дозволу. Основна комунікація Swarm використовує протокол пліток, наданий Hivemind, що підтримує децентралізовану передачу повідомлень між моделями та обмін сигналами навчання. Незалежно від того, чи це домашній ноутбук, чи на GPU в хмарі, можна приєднатися до вузла RL Swarm для участі в спільному навчанні.
Інфраструктура три основні стовпи: виконання, зв'язок та верифікація
На даний момент RL Swarm все ще є експериментальною демонстрацією, яка показує масштабний, розширювальний метод машинного навчання, а не остаточну форму продукту. Протягом останніх чотирьох років основна робота Gensyn насправді полягала у створенні базової інфраструктури, яка після випуску Тестової мережі перейшла в стадію v0.1 і вже може працювати на практиці. Згідно з офіційним описом, загальна архітектура Gensyn поділяється на три частини: виконання, зв'язок та верифікацію.
Виконання (Execution): узгодженість та розподілена обчислювальна потужність
Gensyn вважає, що майбутнє машинного навчання більше не обмежується традиційними монолітними моделями, а складається з фрагментованих параметрів, розподілених на різних пристроях по всьому світу. Для досягнення цієї мети команда Gensyn розробила підпорядковану архітектуру виконання, що забезпечує узгодженість між пристроями. Ключові технології включають:
Розподілене зберігання параметрів та навчання: завдяки розподілу великомасштабної моделі на кілька блоків параметрів та їх розподілу по різних пристроях, Gensyn реалізував фрагментацію моделі, зменшуючи вимоги до пам'яті для одного вузла.
Після навчання з підкріпленням (RL Post-Training): Дослідження показали, що коли моделі тренуються колективно, спілкуються та критикують відповіді один одного, загальна ефективність навчання суттєво підвищується. Gensyn використовує RL Swarm для демонстрації цієї концепції, дозволяючи моделям швидко прогресувати в колективних обговореннях, що ще раз підтверджує ефективність розподіленого виконання.
Репліковані операції (RepOps): Щоб забезпечити отримання абсолютно однакових обчислювальних результатів на різному обладнанні (такому як Nvidia A100 та H100), Gensyn розробив бібліотеку RepOps, яка реалізує побітове відтворення на різних платформах за рахунок фіксації порядку виконання операцій з плаваючою комою.
Зв'язок (Communication): ефективний обмін інформацією
У сценаріях масового розподіленого навчання ефективна комунікація між вузлами є надзвичайно важливою. Традиційні методи паралельних обчислень, хоча й здатні в певній мірі зменшити витрати на комунікацію, обмежені пам’яттю через вимогу зберігати повну модель на кожному вузлі. Для вирішення цієї проблеми Gensyn запропонував абсолютно нове рішення:
SkipPipe – Динамічний стрибок трубопроводу паралельно: технологія SkipPipe через динамічний вибір мік批цій (microbatch), що проходять через обчислювальні шари, пропускає частини етапів у традиційному конвеєрі, тим самим зменшуючи непотрібний час очікування. Її інноваційний алгоритм планування може в реальному часі оцінювати доступність різних шляхів, що знижує час простою вузлів і значно скорочує загальний час навчання. За даними тестування, у децентралізованому середовищі SkipPipe може зменшити час навчання приблизно на 55%, і за умов часткових відмов вузлів продуктивність моделі знижується лише приблизно на 7%.
Стандарт зв'язку та міжвузлової співпраці Gensyn побудував набір комунікаційних протоколів, подібних до TCP/IP, що дозволяє учасникам з усього світу, незалежно від використовуваних пристроїв, ефективно та безшовно здійснювати передачу даних і інформаційний обмін. Цей відкритий стандарт забезпечує надійну мережеву основу для дистрибуційного кооперативного навчання.
Перевірка (Verification): забезпечення довіри та безпеки
У бездоверчій розподіленій мережі підтвердження справжності та дійсності розрахункових результатів, наданих учасниками, є великою проблемою. Gensyn для цього запроваджує спеціальний протокол перевірки, метою якого є забезпечення всіх постачальників обчислювальної потужності правильними робочими результатами за допомогою низьковартісного та ефективного механізму:
Verde верифікаційний протокол: Verde є першим верифікаційним системою, спеціально розробленою для сучасного машинного навчання. Його основна мета полягає в тому, щоб за допомогою легковагого механізму вирішення суперечок швидко виявляти етапи, на яких виникають розбіжності між моделлю та верифікатором під час процесу навчання. На відміну від традиційних методів верифікації, які вимагають повторного виконання всієї задачі, Verde лише перераховує суперечливі операції, що значно знижує витрати на верифікацію.
делегування з арбітражем (裁决式委托): після застосування цього методу, якщо у постачальника виникають проблеми з виходом, валідатор може переконати нейтрального арбітра через ефективну гру вирішення спорів, що гарантує правильність усіх обчислень, якщо принаймні один чесний вузол присутній.
Зберігання та хешування проміжного стану: для підтримки вищезазначеного процесу верифікації учасникам потрібно лише зберігати та хешувати часткові проміжні контрольні точки навчання, а не всі дані, що знижує використання ресурсів і підвищує масштабованість і реалістичність системи.
Контент має виключно довідковий характер і не є запрошенням до участі або пропозицією. Інвестиційні, податкові чи юридичні консультації не надаються. Перегляньте Відмову від відповідальності , щоб дізнатися більше про ризики.
Онлайн-тестова мережа Gensyn, як зробити навчання ШІ більш ефективним та більш децентралізованим?
AI є найбільш актуальним сегментом у криптоіндустрії, серед яких проєкт Gensyn, дистрибутивна AI обчислювальна мережа, що отримала 50 мільйонів доларів фінансування від a16z, безсумнівно, є конкурентоспроможним. Нещодавно Gensyn офіційно запустив Тестову мережу, хоча це сталося більш ніж на рік пізніше запланованого терміну, але з запуском тестової мережі нарешті розпочинається новий етап.
Як спеціально розроблений для машинного навчання кастомізований Ethereum Rollup, тестова мережа Gensyn інтегрує поза ланцюгове виконання, верифікацію та комунікаційні фрейми, з метою забезпечення децентралізованих AI систем такими ключовими функціями, як постійна ідентичність, відстеження участі, підтримка приналежності, платежі, координація віддаленого виконання, верифікація без довіри, запис процесу навчання та краудфандинг масштабних навчальних задач.
Перший етап Тестової мережі зосереджується на відстеженні участі в RL Swarm. RL Swarm — це додаток для кооперативного підкріплювального навчання після тренування, його вузли можуть бути пов'язані з ідентичністю на ланцюгу, що забезпечує точний облік внеску кожного учасника.
RL Swarm: основні функції та кооперативне навчання
У тестовій мережі Gensyn основним застосуванням є RL Swarm, модельна система спільного навчання, що побудована на основі децентралізованої мережі. На відміну від традиційного незалежного навчання окремих моделей, RL Swarm дозволяє кільком моделям взаємодіяти, критикувати та вдосконалювати одна одну в мережі, що сприяє спільному підвищенню загальної продуктивності. Його основна ідея полягає в "колективній мудрості", тобто досягненні більш ефективного навчального результату через співпрацю та зворотний зв'язок між моделями на різних вузлах.
Можна просто зрозуміти, що моделі, такі як DeepSeek-R1, під час навчання на основі висновків можуть ітеративно покращувати свою продуктивність через самокритичність, тоді як RL Swarm розширює цей механізм на групу з кількох моделей, досягаючи ефекту "багато рук роблять легку роботу".
На основі системи RL Swarm, модель не тільки покладається на власний зворотний зв'язок, але й спостерігає та оцінює результати інших моделей, виявляючи свої недоліки та оптимізуючи їх. Кожен модельний вузол, що приєднується до Swarm, бере участь у трьохетапному процесі: спочатку незалежно вирішує задачу та надає ідеї та відповіді, потім переглядає відповіді інших вузлів та надає зворотний зв'язок, зрештою моделі голосують за найкраще рішення та коригують свої виходи на його основі. Ця кооперативна механіка не тільки підвищує продуктивність кожної моделі, але й сприяє еволюції всього групового моделювання. Моделі, що приєдналися до Swarm, залишаються з поліпшеними локальними вагами після виходу, отримуючи реальну вигоду.
Крім того, Gensyn відкрив код RL Swarm, будь-хто може запустити вузол, розпочати або приєднатися до існуючого Swarm без дозволу. Основна комунікація Swarm використовує протокол пліток, наданий Hivemind, що підтримує децентралізовану передачу повідомлень між моделями та обмін сигналами навчання. Незалежно від того, чи це домашній ноутбук, чи на GPU в хмарі, можна приєднатися до вузла RL Swarm для участі в спільному навчанні.
Інфраструктура три основні стовпи: виконання, зв'язок та верифікація
На даний момент RL Swarm все ще є експериментальною демонстрацією, яка показує масштабний, розширювальний метод машинного навчання, а не остаточну форму продукту. Протягом останніх чотирьох років основна робота Gensyn насправді полягала у створенні базової інфраструктури, яка після випуску Тестової мережі перейшла в стадію v0.1 і вже може працювати на практиці. Згідно з офіційним описом, загальна архітектура Gensyn поділяється на три частини: виконання, зв'язок та верифікацію.
Виконання (Execution): узгодженість та розподілена обчислювальна потужність
Gensyn вважає, що майбутнє машинного навчання більше не обмежується традиційними монолітними моделями, а складається з фрагментованих параметрів, розподілених на різних пристроях по всьому світу. Для досягнення цієї мети команда Gensyn розробила підпорядковану архітектуру виконання, що забезпечує узгодженість між пристроями. Ключові технології включають:
Зв'язок (Communication): ефективний обмін інформацією
У сценаріях масового розподіленого навчання ефективна комунікація між вузлами є надзвичайно важливою. Традиційні методи паралельних обчислень, хоча й здатні в певній мірі зменшити витрати на комунікацію, обмежені пам’яттю через вимогу зберігати повну модель на кожному вузлі. Для вирішення цієї проблеми Gensyn запропонував абсолютно нове рішення:
Перевірка (Verification): забезпечення довіри та безпеки
У бездоверчій розподіленій мережі підтвердження справжності та дійсності розрахункових результатів, наданих учасниками, є великою проблемою. Gensyn для цього запроваджує спеціальний протокол перевірки, метою якого є забезпечення всіх постачальників обчислювальної потужності правильними робочими результатами за допомогою низьковартісного та ефективного механізму: