ฉันยังไม่ได้สั่งสับเรื่องนี้

มันยังตามหาฉันเพราะมันเป็นการเดิมพันที่ชัดเจนที่สุดสำหรับผู้ที่สนใจ แต่ผมไม่ได้ลงทุนเลย

ไม่ มันไม่ใช่ฆาตกรของ Solana ต่อไป หรือ memecoin ที่มีหมาสวมหมวกตลก

มันคือ… NVIDIA

ราคาหุ้น NVDA ตลอดปีนี้ แหล่งที่มา: Google

ในเพียงหนึ่งปี NVDA 3x’d, เติบเต็มจากทุนตลาด 1 ล้านล้านเหรียญสูงสุดถึง 3 ล้านล้านเหรียญ มันได้แสดงผลดีกว่าบิตคอยน์ในช่วงเวลาเดียวกัน

แน่นอนว่าบางส่วนของมันเป็นการตบตาให้กับ AI แต่ส่วนสำคัญอย่างมากเป็นเรื่องจริง บริษัท NVIDIA รายงานรายได้ในปีงบประมาณ 2024 ที่มีมูลค่า 60 พันล้านดอลลาร์ โดยเติบโตอย่างน่าตื่นตาตื่นใจถึง 126% จากปี 2023 การเติบโตนี้เกิดจากการซื้อ GPU ของ Big Tech ในการแข่งขัน AI ระดับโลกเพื่อ AGI

ดังนั้นทำไมฉันพลาดมัน?

เป็นเวลาสองปี ฉันมุ่งเน้นไปที่คริปโตและไม่ได้มองด้านนอกไปที่เกิดขึ้นกับ AI นั่นเป็นข้อผิดพลาดที่ใหญ่ และยังคงทำให้ฉันรู้สึกผิด

แต่ฉันไม่ทำความผิดเดียวกันอีกครั้ง

วันนี้ คริปโต AI รู้สึกเหมือนกับเดิม เราอยู่บนขอบของการระเบิดนวัตกรรม ความคล้ายคลึงกับการเริ่มต้นของ Gold Rush ในแคลิฟอร์เนียในคริสต์ศตวรรษที่ 19 ยากที่จะไม่สนใจ - อุตสาหกรรมและเมืองก็เพิ่งเกิดขึ้นในตอนกลางคืน โครงสร้างพื้นฐานก็ก้าวหน้าด้วยความเร็วทะลุแท็ก และมีทรัพย์สินที่ถูกสร้างขึ้นโดยผู้ที่กล้ากระโดด

เหมือน NVIDIA ในวันก่อน คริปโต AI จะรู้สึกได้ถึงในภายหลัง

ในส่วนที่ I ของวิทยานิพนธ์ของฉัน, ฉันได้อธิบายว่าทำไม Crypto AI เป็นโอกาสที่น่าตื่นเต้นที่สุดสำหรับนักลงทุนและผู้สร้างวันนี้

นี่คือสรุปอย่างสั้น ๆ:

• Many still dismiss it as “vaporware.”
• คริปโต AI อยู่ในรอบต้น ๆ - อาจจะอยู่ห่างไกลจากเรื่องฮายองปี 1-2
• มีโอกาสเติบโตมากกว่า 230 พันล้านดอลลาร์ในพื้นที่นี้ อย่างน้อย

ที่แกนศูนย์ของมัน คริปโต AI คือ AI ที่มีโครงสร้างคริปโตชั้นบน ซึ่งหมายความว่ามันมีโอกาสมากกว่าที่จะติดตามแนวโน้มการเจริญเติบโตแบบกำลังสองของ AI มากกว่าตลาดคริปโตทั่วไป ดังนั้น เพื่อที่จะอยู่ข้างหน้า คุณต้องตั้งค่าให้เข้ากับการวิจัย AI ล่าสุดบน Arxiv และพูดคุยกับผู้ก่อตั้งที่เชื่อว่าพวกเขากำลังสร้างสิ่งใหญ่ถัดไป

ในส่วนที่ 2 ของวิทยานิพนธ์ของฉัน ฉันจะลงไปในสี่ส่วนย่อยที่มีความมั่นใจมากที่สุดใน Crypto AI:

1. การคำนวณแบบกระจาย: การฝึกอบรม การคาดการณ์และตลาด GPU
2. เครือข่ายข้อมูล
3. AI ที่สามารถยืนยันได้
4. เอไอเอเจนต์ที่อาศัยอยู่บนเชื่อมโยง

ชิ้นงานนี้เป็นผลสรุปของการวิจัยอย่างละเอียดเป็นสัปดาห์และการสนทนากับผู้ก่อตั้งและทีมงานใน Crypto AI landscape มันไม่ได้ถูกออกแบบเพื่อเป็นการลงทุนลึกลงไปในทุกๆ ภาคส่วน - นั่นคือรู่รอกสำหรับวันอื่น

แทนที่นั่น พิจารณาให้เป็นแผนที่ระดับสูงที่ออกแบบมาเพื่อกระตุ้นความอยากรู้ความคิดเชิงวิจัยและคำแนะนำในการลงทุน

กำหนดแผนที่ตัวเลือก

ฉันวาดภาพของระบบ AI แบบกระจายเป็นระบบนอกเลนส์: มันเริ่มต้นด้วยการคำนวณแบบกระจายและเครือข่ายข้อมูลเปิดบนด้านหนึ่ง ซึ่งเป็นพลังงานให้การฝึกฝนโมเดล AI แบบกระจาย

ทุกการอย่างจะถูกตรวจสอบจากในสู่นอก โดยใช้การบูรณาการของกลุ่มเข้ารหัส สิ่งกระตุ้นทางเศรษฐศาสตร์ทางคริปโต และเครือข่ายการประเมิน ผลลัพธ์ที่ถูกตรวจสอบเหล่านี้จะไหลเข้าสู่ตัวแทน AI ที่สามารถดำเนินการอิสระบนเชือกโซ่ รวมทั้งแอปพลิเคชัน AI สำหรับผู้บริโภคและองค์กร ที่ผู้ใช้สามารถเชื่อถือได้จริงๆ

เครือข่ายการประสานงานเชื่อมโยงทุกอย่างเข้าด้วยกันให้สื่อสารและร่วมมือได้อย่างราบรื่นทั่วระบบ

ในวิสัฉนานี้ ผู้ใดก็สามารถสร้างใน AI และสามารถเข้าถึงหนึ่งหรือมากกว่าหนึ่งชั้นของสแตกนี้ ขึ้นอยู่กับความต้องการที่เฉพาะเจาะจงของพวกเขา ไม่ว่าจะเป็นการใช้การคำนวณแบบกระจายสำหรับการฝึกโมเดลหรือใช้เครือข่ายการประเมินเพื่อให้มั่นใจว่าผลลัพธ์มีคุณภาพสูง สแตกนี้มีตัวเลือกหลากหลาย

ด้วยความสามารถในการประกอบกันของบล็อกเชนเอง ฉันเชื่อว่าเรากำลังเคลื่อนที่ไปในทิศทางของอนาคตแบบโมดูลาร์อย่างธรรมชาติ แต่ละชั้นกำลังกลายเป็นการเชี่ยวชาญอย่างเฉพาะเจาะจง ด้วยโปรโตคอลที่ถูกปรับแต่งให้เหมาะสมกับฟังก์ชันที่แตกต่างกัน ไม่ใช่การเข้าใจแบบ all-in-one

ต้นฉบับ: topology.vc

มีการระเบิดของ Cambrian ของสตาร์ทอัพที่กำลังสร้างขึ้นที่ทุกชั้นของระบบ AI แบบกระจาย ซึ่งมีบริษัทที่สร้างขึ้นมาในระยะเวลาเพียง 1 - 3 ปีที่ผ่านมาเท่านั้น มันชัดเจน: เรายังคงอยู่ในช่วงเริ่มต้น

แผนที่ที่ครอบคลุมและอัปเดตล่าสุดของ Crypto AI startup landscape ที่ฉันเคยเห็นคือการบำรุงรักษาโดย Casey และทีมของเธอที่ topology.vc. นั่นเป็นทรัพยากรที่มีค่าอันได้รับความนิยมสำหรับผู้ที่ติดตามพื้นที่ในทุกกรณี

เมื่อฉันลงตัวเข้าไปในพื้นที่ย่อยของ AI ในโลกคริปโต ฉันเสมอถามตัวเองว่าโอกาสที่นี่มีขนาดใหญ่ขนาดไหน? ฉันไม่สนใจการเดิมพันขนาดเล็ก ฉันกำลังมองหาตลาดที่สามารถขยายตัวไปสู่ร้อยล้านหรือพันล้านบาท

1. ขนาดตลาด

เรามาเริ่มต้นกับขนาดของตลาดกันเถอะ ขณะที่ฉันกำลังประเมินภาคย่อย ฉันถามตัวเองว่ามันกำลังสร้างตลาดใหม่หรือทำให้ตลาดที่มีอยู่ถูกทวีต?

ในทางกลับกัน เช่น ใช้การคำนวณแบบไม่มีกฎหมาย นี่เป็นหนึ่งในหมวดหมู่ที่ก่อให้เกิดการเปลี่ยนแปลงที่รุนแรง ซึ่งศักยภาพของมันสามารถประเมินได้โดยการมองไปที่ตลาดคอมพิวเตอร์คลาวด์ที่มีค่าประมาณ ~$680B วันนี้และคาดว่าจะถึง 2.5 ล้านล้านเหรียญในปี 2032

ตลาดใหม่ที่ไม่มีตัวอย่างเช่นเอเอไอเอเจนต์ยากมากที่จะประเมินค่าได้ โดยไม่มีข้อมูลประวัติศาสตร์การตลาดให้เป็นแนวคิดการเดาและการตรวจสอบผลสรุปในปัญหาที่พวกเขากำลังแก้ไข และข้อสรุปคือบางครั้งสิ่งที่ดูเหมือนเป็นตลาดใหม่นั้นคือเพียงแค่การหาสิ่งที่แก้ปัญหา

2. การจับเวลา

เวลาเป็นสิ่งที่สำคัญทุกอย่าง เทคโนโลยีมักจะดีขึ้นและถูกลงมาตามเวลา แต่ความก้าวหน้าของความคืบหน้านั้นแตกต่างกันไป

เทคโนโลยีมีความเป็นผู้ใหญ่เพียงใดในส่วนย่อยที่กําหนด? มันพร้อมที่จะขยายขนาดหรือยังอยู่ในขั้นตอนการวิจัยโดยมีการใช้งานจริงหลายปี? เวลาเป็นตัวกําหนดว่าภาคส่วนใดสมควรได้รับความสนใจทันทีหรือควรทิ้งไว้ในหมวดหมู่ “รอดู”

ในขณะนี้เรายังพบว่าเทคโนโลยีการเข้ารหัสแบบ Fully Homomorphic Encryption (FHE) ยังมีความเร็วที่ช้าเกินไปสำหรับการใช้งานทั่วไป น่าจะต้องใช้เวลาอีกหลายปีจึงจะเห็นความสามารถในการใช้งานได้แบบแพร่หลาย โดยการให้ความสำคัญกับการขยายขอบเขตในกลุ่มอุตสาหกรรมที่มีโอกาสในการเติบโตก่อนเป็นต้น ฉันสามารถใช้เวลาและพลังงานในจุดที่มีการเคลื่อนไหวและโอกาสในการเติบโต

หากฉันจะทำแผนที่หมวดหมู่เหล่านี้บนแผนภูมิขนาดเทียบกับเวลา มันจะดูเหมือนอย่างใดบางอย่างแบบนี้ โปรดทราบว่านี่มีลักษณะทางความคิดมากกว่าเป็นคู่มือที่แน่นอน มีความละเอียดมากมาย เช่นภายในการสรุปที่สามารถการันตีได้ วิธีการที่แตกต่างเช่น zkML และ opML อยู่ในระดับความพร้อมใช้งานที่แตกต่างกัน

ที่กล่าวว่าฉันเชื่อว่าขนาดของ AI จะใหญ่มากจนแม้แต่สิ่งที่ดูเหมือน “เฉพาะกลุ่ม” ในปัจจุบันก็สามารถพัฒนาเป็นตลาดที่สําคัญได้

ควรระวังว่าความคืบหน้าทางเทคโนโลยีไม่ได้เป็นเส้นตรงเสมอไป มันมักเกิดขึ้นอย่างกระโดดกระเด็น มุมมองของฉันต่อเวลาและขนาดตลาดจะเปลี่ยนไปเมื่อการพัฒนาที่เกิดขึ้นอย่างรุนแรง

โดยมีกรอบความคิดนี้ในใจ ให้เราแยกแยะแต่ละภาคย่อย

ภาคเรียนที่ 1: คอมพิวเตอร์ที่ไม่มีการจัดการ

สรุปสั้นๆ

• การคำนวณแบบกระจายเป็นสันนิษฐานของ AI แบบกระจาย
• ตลาด GPU, การฝึกอบรมแบบกระจายและการอุทยานแบบกระจายเชื่อมโยงกันอย่างหนาและเจริญรุ่งเรืองพร้อมกัน
• ฝั่งการผลิตมักมาจากศูนย์ข้อมูลระดับเล็กถึงกลางและ GPU สำหรับผู้บริโภค
• ด้านที่ต้องการเล็ก แต่กำลังเติบโต วันนี้มาจากผู้ใช้ที่สนใจราคา ผู้ใช้ที่ไม่สนใจความเร็วและธุรกิจสตาร์ทอัพขนาดเล็ก
• ความท้าทายที่สำคัญสุดสำหรับตลาด Web3 GPU ในปัจจุบันคือการทำให้มันทำงานได้จริง
• การจัดการ GPU บนเครือข่ายที่กระจายอย่างเรียบร้อยต้องใช้วิศวกรรมขั้นสูงและโครงสร้างเครือข่ายที่แข็งแรงและทันสมัย

1.1. ตลาด GPU / เครือข่ายคำนวณ

หลายทีม Crypto AI กำลังจัดตั้งตัวเพื่อใช้ประโยชน์จากขาดแคลนของ GPU ต่อความต้องการโดยการสร้างเครือข่ายที่กระจายอยู่ทั่วโลกเพื่อใช้พลังคอมพิวเตอร์ที่ถูกปิดกั้น

คุณค่าหลักของตลาด GPU คือ 3 สิ่ง

1. คุณสามารถเข้าถึงคำนวณได้ “ถึง 90% ถูกกว่า” โดยไม่ผ่าน AWS, ซึ่งมาจาก (1) การลบผู้กลางและ (2) เปิดทางด้านการจัดหา ในขณะที่ที่สำคัญ, ตลาดเหล่านี้ช่วยให้คุณสามารถเข้าถึงต้นทุนต่ำสุดของคำนวณทั่วโลก
2. ความยืดหยุ่นมากขึ้น: ไม่มีสัญญาล็อกอิน ไม่มี KYC ไม่มีเวลารอ
3. ความต้านทานการเซ็นเซอร์

เพื่อจัดการด้านการจัดหาของตลาดนี้ เว็บไซต์ตลาดเหล่านี้จะนำเสนอบริการคำนวณจาก:

• Enterprise-grade GPUs (e.g. A100s, H100s) from small-mid tier data centres struggling to find demand on their own or Bitcoin miners looking to diversify. I also know of teams tapping into large government-funded infrastructure projects, where data centres have been built as part of technology growth initiatives. These providers are often incentivized to keep their GPUs on the network, which helps them offset the amortization costs of their GPUs.
• Consumer-grade GPUs จากนักเล่นเกมและผู้ใช้ทั่วไป ที่เชื่อมต่อคอมพิวเตอร์ของพวกเขากับเครือข่ายเพื่อรับสิทธิ์ในการรับเหรียญตอบแทน

ในทางกลับกันด้านอุปสงค์สําหรับการประมวลผลแบบกระจายอํานาจในปัจจุบันมาจาก:

1. ผู้ใช้ที่สำคัญต่อราคา ไม่สำคัญต่อความล่าช้า กลุ่มนี้จะให้ความสำคัญกับความคุ้มค่ามากกว่าความเร็ว คิดถึงนักวิจัยที่กำลังสำรวจด้านใหม่ นักพัฒนา AI แบบอินดี้ และผู้ใช้ที่สำคัญต่อค่าใช้จ่ายที่ไม่จำเป็นต้องการการประมวลผลแบบเรียลไทม์ ด้วยข้อจำกัดของงบประมาณ มากมายในจำนวนผู้ใช้นั้นอาจต้องเผชิญกับปัญหาในการใช้บริการจากฮายเปอร์สเกลเทคโนโลยีเช่น AWS หรือ Azure และเนื่องจากพวกเขากระจายอยู่ทั่วทั้งประชากร การตลาดเป้าหมายเป็นสิ่งที่สำคัญที่จะดึงกลุ่มนี้มาเข้าร่วม
2. บริษัท AI ขนาดเล็กต้องเผชิญกับความท้าทายในการรักษาทรัพยากรคอมพิวเตอร์ที่ยืดหยุ่นและสามารถขยายขนาดได้โดยไม่ต้องผูกพันกับสัญญาที่ยาวนานกับผู้ให้บริการคลาวด์ชั้นนำ การพัฒนาธุรกิจมีความสำคัญในการดึงดูดกลุ่มนี้เนื่องจากพวกเขากำลังมองหาทางเลือกที่แตกต่างจากการผูกขาดกับฮายเปอร์สเคลอร์
3. สตาร์ทอัพด้านปัญญาประดิษฐ์ทางด้านคริปโตที่กำลังพัฒนาผลิตภัณฑ์ปัญญาประดิษฐ์แบบกระจาย แต่โดยไม่มีการจัดหาทรัพยากรคอมพิวเตอร์ของตัวเองจะต้องใช้ทรัพยากรจากเครือข่ายหนึ่งในเครือข่ายเหล่านี้
4. เกมในคลาวด์: ถึงจะไม่ได้ถูกขับเคลื่อนโดย AI โดยตรง แต่การเล่นเกมในคลาวด์กำลังเป็นที่ต้องการที่เพิ่มขึ้นสำหรับทรัพยากร GPU

สิ่งสำคัญที่จำไว้: นักพัฒนามักจัดลำดับความสำคัญให้กับต้นทุนและความเชื่อถือ

ความท้าทายที่แท้จริง: ความต้องการ ไม่ใช่การจำหน่าย

Startups in this space often tout the size of their GPU supply networks as a sign of success. But this is misleading—it is a vanity metric at best.

ข้อจำกัดจริงๆ ไม่ได้อยู่ที่การจัดหาวัสดุอุปกรณ์ แต่อยู่ที่ความต้องการ ตัวชี้วัดสำคัญที่จะต้องตรวจสอบไม่ใช่จำนวน GPU ที่มีอยู่ แต่เป็นอัตราการใช้งานและจำนวน GPU ที่เช่าจริงๆ

โทเค็นเป็นเรื่องยอดเยี่ยมในการเริ่มต้นข้างบนของด้านการจัดหาวัตถุดิบ เพื่อสร้างสิ่งส่งเสริมที่จำเป็นในการขยายมากขึ้นอย่างรวดเร็ว อย่างไรก็ตาม โทเค็นไม่ได้แก้ปัญหาด้านความต้องการอย่างตรงต่อเนื่อง การทดสอบจริงคือการนำสินค้าไปสู่สถานะที่เพียงพอดี ซึ่งทำให้ความต้องการที่ซ่อนอยู่เผยแพร่ออกมา

Haseeb Qureshi (Dragonfly) พูดถึงเรื่องดีที่สุด:

การทำให้เครือข่ายคอมพิวเตอร์ทำงานจริงๆ

นับตรงกับความเชื่อที่ได้รับความนิยม ความยากลำบากที่สุดสำหรับตลาด GPU กระจาย web3 ในปัจจุบันคือการทำให้พวกเขาทำงานได้อย่างเหมาะสม

นี่ไม่ใช่ปัญหาที่เล็กน้อย

การประสาน GPU ทั่วทั้งเครือข่ายแบบกระจายนั้นซับซ้อน โดยมีความท้าทายหลายชั้น เช่น การจัดสรรทรัพยากร การปรับขนาดปริมาณงานแบบไดนามิก การปรับสมดุลโหลดข้ามโหนดและ GPU การจัดการเวลาแฝง การถ่ายโอนข้อมูล ความทนทานต่อข้อผิดพลาด และการจัดการฮาร์ดแวร์ที่หลากหลายที่กระจัดกระจายไปทั่วภูมิภาคต่างๆ ผมสามารถไปต่อได้

การบรรลุความสำเร็จนี้ต้องใช้วิศวกรรมอย่างจริงจังและโครงสร้างเครือข่ายที่ออกแบบอย่างแข็งแรงและเหมาะสม

เพื่อให้เข้าใจได้ดี คุณสามารถพิจารณา Kubernetes ของ Google มันถูกพิจารณาว่าเป็นมาตรฐานทองสำหรับการจัดการคอนเทนเนอร์ ทำให้กระบวนการเช่นการทดสอบโหลดและปรับขนาดในสภาพแวดล้อมที่กระจาย-ที่มีความท้าทายที่คล้ายกันกับที่พบในเครือข่าย GPU ที่กระจาย Kubernetes เองถูกสร้างขึ้นบนประสบการณ์ของ Google มากกว่า 10 ปี และแม้แต่นั้นก็ใช้เวลาหลายปีของการทำซ้ำอย่างไม่รู้จบเพื่อให้ได้ถูกต้อง

บางส่วนของตลาดคอมพิวเตอร์ GPU ที่มีอยู่ในปัจจุบันสามารถจัดการกับโหลดงานขนาดเล็กได้ แต่เริ่มมีปัญหาเมื่อพยายามขยายมากขึ้น ฉันเชื่อว่าสาเหตุเกิดจากสถาปัตยกรรมที่ออกแบบไม่ดี

โอกาส/ความท้าทายอีกอย่างสำหรับเครือข่ายคอมพิวต์ที่แบ่งออกเป็นส่วนต่าง ๆ คือการให้ความเชื่อถือ: การยืนยันว่าแต่ละโหนดจริง ๆ กำลังให้พลังคำนวณตามที่อ้างอิง ปัจจุบัน การนี้ขึ้นอยู่กับชื่อเสียงของเครือข่าย และในบางกรณี ผู้ให้บริการคอมพิวต์ถูกจัดอันดับโดยคะแนนชื่อเสียง บล็อกเชนดูเหมือนจะเข้ากันได้เป็นธรรมชาติกับระบบการยืนยันโดยไม่มีการเชื่อถือ สตาร์ทอัพเช่นGensynและSpheronกำลังพยายามสร้างวิธีการที่ไม่ต้องเชื่อมั่นในการแก้ไขปัญหานี้

วันนี้ ทีม web3 มีทีมหลายทีมยังคงต้องนำผ่านอุปสรรค์เหล่านี้ ซึ่งหมายความว่าโอกาสยังมีอยู่อย่างแพร่หลาย

ขนาดตลาดการคำนวณที่ไม่มีการจัดสรรทรัพยากร

ขนาดของตลาดสำหรับเครือข่ายคำนวณที่ไม่ centralised มีขนาดเท่าไร?

ในปัจจุบันน่าจะเป็นเพียงเศษเล็กน้อยของอุตสาหกรรมคอมพิวเตอร์คลาวด์มูลค่า $680 พันล้านถึง $2.5 ล้านล้านเท่านั้น แต่ถึงอย่างไรก็ตาม ถ้าต้นทุนยังคงต่ำกว่าผู้ให้บริการแบบดั้งเดิม ก็จะมีความต้องการบ้างเสมอ

ฉันเชื่อว่าค่าใช้จ่ายจะยังคงต่ำในระยะเวลาใกล้ชิดถึงกลางระยะเวลาเนื่องจากมีการสนับสนุนโทเค็นและปลดล็อคการจัดหาจากผู้ใช้ที่ไม่สนใจราคา (ตัวอย่างเช่น หากฉันสามารถเช่าเล่นเกมของฉันเพื่อรับเงินเพิ่ม ฉันก็ดีใจไม่ว่าจะเป็น $20 หรือ $50 ต่อเดือน)

แต่โอกาสในการเติบโตจริงๆ สำหรับเครือข่ายคอมพิวเตอร์ที่ไม่มีการจัดกลุ่มและการขยายตัวจริงๆ ของ TAM ของพวกเขา จะเกิดขึ้นเมื่อ:

1. การฝึกอบรมการเรียนรู้ของโมเดล AI แบบกระจายกลายเป็นเรื่องจริง
2. ความต้องการในการอ่านอย่างละเอียดเพิ่มขึ้น และศูนย์ข้อมูลที่มีอยู่ไม่สามารถตอบสนองความต้องการได้ นี่เริ่มจะเกิดขึ้นแล้ว เจนเซน ฮวัง กล่าวว่า ความต้องการในการอ่านอย่างละเอียดกำลังเพิ่มขึ้น เพิ่มขึ้น “หนึ่งพันล้านเท่า”.
3. บริการเลิกการตกลงระดับบริการที่เหมาะสม (SLAs) เริ่มมีอยู่ ซึ่งเป็นอุปสรรคที่สำคัญสำหรับการนำเข้าระบบขององค์กร ณ ปัจจุบันการคำนวณแบบกระจายตัวทำงานตามหลักการที่ดีที่สุด ทำให้ผู้ใช้ต้องเผชิญกับระดับคุณภาพบริการที่แตกต่างกัน (เช่น % การทำงาน) ด้วย SLAs ที่มีอยู่ ระบบเครือข่ายเหล่านี้อาจให้มาตรฐานการเชื่อมั่นและการประสิทธิภาพที่เป็นที่ยอมรับ ทำให้การคำนวณแบบกระจายตัวเป็นทางเลือกที่เหมาะสมแทนผู้ให้บริการคำนวณแบบคลาวด์ดั้งเดิม

การคำนวณที่ไม่ต้องมีสิทธิ์ประกอบธุรกิจ ที่เป็นพื้นฐานสำหรับระบบโครงสร้างพื้นฐานที่มีการแจกแจงระบบ AI เพื่อให้เป็นไปตามหลักการแบบกระจาย

ถึงแม้ว่าจะมีการขยายตัวอย่างต่อเนื่องในโซ่อุปทานสำหรับซิลิคอน (เช่น GPU) ฉันเชื่อว่าเรายังอยู่ในยุคอัจฉริยะของมนุษย์เพียงแต่เริ่มต้นเท่านั้น จะมีความต้องการสูงสุดที่ไม่เพียงพอสำหรับการคำนวณ

เฝ้ารอจุดสัมผัสที่อาจเป็นสาเหตุให้เกิดการปรับราคาใหม่ของตลาด GPU ที่ทำงานอยู่ทั้งหมด น่าจะเกิดขึ้นเร็ว ๆ นี้

หมายเหตุอื่น ๆ:

• ตลาด GPU ที่มีการเล่นแบบสมบูรณ์เต็มไปด้วยการแข่งขันระหว่างแพลตฟอร์มที่ไม่ centralised และ การเติบโตของเว็บ 2 ประมวลผลทางปัญญาประดิษฐ์ neocloudsเช่น Vast.ai และ Lambda.
• โหนดขนาดเล็ก (เช่น 4 x H100) ไม่ได้เป็นที่ต้องการมากเนื่องจากการใช้งานจำกัด แต่โชคดีที่จะหาใครขายคลัสเตอร์ใหญ่ได้ยากมาก - ยังคงต้องการอย่างจริงจัง
• ผู้เล่นที่มีอิทธิพลจะรวมทรัพยากรคำนวณทั้งหมดสำหรับโปรโตคอลที่กระจาย หรือจะยังคงแยกเป็นหลายตลาด? ฉันเอาใจในทางแรกและการกระจายพลังงานในผลลัพธ์ เนื่องจากการรวมกันมักเป็นที่จำเป็นในโครงสร้างพื้นฐาน แต่มันจะใช้เวลาในการเล่นออกมา ในขณะเดียวกัน การแยกแยะและความสกปรกยังคงดำเนินต่อไป
• นักพัฒนาต้องการให้เน้นไปที่การสร้างแอปพลิเคชันไม่ใช่การจัดการการติดตั้งและการกำหนดค่า ตลาดต้องแยกข้อซับซ้อนเหล่านี้ออก เพื่อทำให้การเข้าถึงคอมพิวเตอร์เป็นไปอย่างไม่ลื่นไหลที่สุด

1.2. การฝึกอบรมแบบกระจาย

TL;dr

• หากกฎหมายการขยายถือว่าการฝึกอบรมรุ่นต่อไปของโมเดล AI ฟรอนเทียร์ในศูนย์ข้อมูลเดียวจะกลายเป็นเรื่องที่เป็นไปได้ในวันหนึ่ง ทางกายภาพ
• การฝึกโมเดล AI ต้องการการถ่ายโอนข้อมูลมากเพื่อระหว่าง GPUs ความเร็วในการถ่ายโอนข้อมูลต่ำ (การเชื่อมต่อระหว่างอุปกรณ์) ระหว่าง GPUs ที่กระจายอยู่เป็นอุปสรรคที่สำคัญที่สุด
• นักวิจัยกำลังสำรวจวิธีหลายวิธีพร้อมกัน และการพัฒนาที่สำคัญกำลังเกิดขึ้น (เช่น Open DiLoCo, DisTrO) ความก้าวหน้าเหล่านี้จะสร้างสะสมและเพิ่มความเร็วในการก้าวหน้าในพื้นที่
• อนาคตของการฝึกอบรมแบบกระจายน่าจะอยู่ในโมเดลที่เล็กลงและทางเฉพาะสำหรับการประยุกต์ทางสาขา ไม่ใช่โมเดลที่เน้นที่ด้านหน้าหรือ AGI
• ความต้องการการอ่านความหมายพร้อมที่จะเพิ่มขึ้นอย่างรวดเร็วด้วยการเปลี่ยนแนวทางในรูปแบบต่าง ๆ เช่น o1 ของ OpenAI ที่สร้างโอกาสให้เครือข่ายการอ่านความหมายแบบกระจายกัน

สมมติว่า: โมเดล AI ที่ใหญ่มากที่เปลี่ยนแปลงโลก ไม่ได้ถูกพัฒนาขึ้นในห้องปฏิบัติการที่ลับ ๆ แต่ถูกนำมาสู่ชีวิตโดยล้าน ๆ คนทั่ว ๆ ไป นักเล่นเกมที่ GPU ของพวกเขาโดยทั่วไปจะสร้างการระเบิดฉายเฉลี่ยของ Call of Duty ตอนนี้จะให้ฮาร์ดแวร์ของพวกเขาสู่สิ่งที่ยิ่งใหญ่ขึ้น - โมเดล AI แบบเปิดซอร์สที่เป็นเจ้าของร่วมกันโดยไม่มีผู้ควบคุมที่เป็นศูนย์กลาง

ในอนาคตนี้ รูปแบบขนาดพื้นฐานไม่ใช่แค่ของห้องปฏิบัติการ AI ชั้นนำ

แต่ให้เรามาเชื่อมโยงวิสัยทัศน์นี้กับความเป็นจริงในปัจจุบัน ตอนนี้การฝึกอบรม AI หนักของส่วนใหญ่ยังคงอยู่ภายในศูนย์ข้อมูลที่มีศูนย์กลาง และน่าจะเป็นปกติสำหรับระยะเวลาหนึ่ง

บริษัทเช่น OpenAI กำลังขยายขนาดคลัสเตอร์ขนาดใหญ่ของพวกเขา อีลอน มัสก์เร็วประกาศว่า xAI กำลังจะเสร็จสิ้นศูนย์ข้อมูลที่มีประสิทธิภาพเทียบเท่ากับ 200,000 H100 GPUs

แต่มันไม่ได้เกี่ยวกับจำนวน GPU ที่เพียงอย่างเดียว Model FLOPS utilization (MFU)—ค่าเมตริกที่ถูกนำเข้าในกระดาษ PaLM ของ Googleในปี 2022 - ติดตามว่าการใช้งานความจุสูงสุดของ GPU อย่างไรบ้างโดยมีการใช้งานอย่างมีประสิทธิภาพ น่าแปลกใจที่ MFU มักจะอยู่ที่ระดับประมาณ 35-40%

ทำไมต่ำอย่างนี้? ในขณะที่ประสิทธิภาพ GPU ได้เพิ่มขึ้นอย่างมากในระยะเวลาหลายปีตามกฏของ Moore แต่การปรับปรุงเครือข่าย หน่วยความจำ และการเก็บข้อมูลยังคงหลงเหลืออย่างมาก ทำให้เกิดปัญหาขีดจำกัด ในทางผลกระทบ GPU มักนั่งเงยหรือว่างเหลือรอข้อมูล

การฝึกอบรม AI ยังคงมีการจัดกลุ่มอยู่สูงอยู่ในปัจจุบันเพราะข้อเดียวหนึ่ง - ประสิทธิภาพ

การฝึกอบรมโมเดลขนาดใหญ่ขึ้นอยู่กับเทคนิค เช่น:

• ความแบ่งเบาของข้อมูล: แบ่งชุดข้อมูลบน GPU หลายตัวเพื่อดำเนินการพร้อมกันเพื่อเร่งกระบวนการฝึกอบรม

• การแบ่งขนาดตัวแบบ: การกระจายส่วนของตัวแบบไปยัง GPU เพื่อหลีกเลี่ยงปัญหาข้อจำกัดของหน่วยความจำ

วิธีเหล่านี้ต้องการ GPU เพื่อแลกเปลี่ยนข้อมูลอย่างต่อเนื่อง ทำให้ความเร็วในการเชื่อมต่อ - อัตราที่ข้อมูลถูกส่งผ่านระหว่างคอมพิวเตอร์ในเครือข่าย - เป็นสิ่งที่สำคัญอย่างยิ่ง

เมื่อการฝึกอบรมโมเดล AI ด้านด้านหน้าสามารถทำให้ค่าใช้จ่ายเกิน 1 พันล้านเหรียญ ทุกความมีประสิทธิภาพมีความสำคัญ

ด้วยการเชื่อมต่อแบบสูงความเร็วศูนย์กลางศูนย์ข้อมูลช่วยให้การถ่ายโอนข้อมูลระหว่าง GPU เร็วขึ้นและสร้างความประหยัดในต้นทุนในเวลาการฝึกอบรมที่ระบบกระจายไม่สามารถเทียบเท่าได้…แต่ในขณะนี้

การเอาชนะความช้าของความเชื่อมต่อ

หากคุณพูดคุยกับคนที่ทำงานในพื้นที่ AI มากมายจะบอกคุณว่าการฝึกอบรมแบบกระจายก็ไม่สามารถทำงานได้

ในการตั้งค่าแบบกระจายอํานาจคลัสเตอร์ GPU ไม่ได้อยู่ร่วมกันทางกายภาพดังนั้นการถ่ายโอนข้อมูลระหว่างกันจึงช้ากว่ามากและกลายเป็นคอขวด การฝึกอบรมต้องใช้ GPU เพื่อซิงค์และแลกเปลี่ยนข้อมูลในแต่ละขั้นตอน ยิ่งห่างกันมากเท่าไหร่เวลาแฝงก็จะยิ่งสูงขึ้นเท่านั้น เวลาแฝงที่สูงขึ้นหมายถึงความเร็วในการฝึกอบรมที่ช้าลงและค่าใช้จ่ายที่สูงขึ้น

สิ่งที่อาจใช้เวลาไม่กี่วันในศูนย์ข้อมูลที่มีการควบคุมจากศูนย์กลาง อาจจะใช้เวลายาวถึงสองสัปดาห์ในกรณีที่ใช้วิธีการกระจายอย่างไม่มีการควบคุม โดยราคาที่สูงขึ้น ซึ่งเป็นสิ่งที่ไม่เป็นไปตามหลักการ

แต่สิ่งนี้กำลังจะเปลี่ยนแปลง

ข่าวดีคือมีการเพิ่มขึ้นอย่างมากในการสนใจในการวิจัยเกี่ยวกับการฝึกอบรมแบบกระจาย นักวิจัยกำลังสำรวจวิธีการหลายวิธีพร้อมกัน ตามที่เห็นได้จากการศึกษาและงานวิจัยที่ตีพิมพ์ออกมาเป็นจำนวนมาก ความก้าวหน้าเหล่านี้จะสะสมและเพิ่มขึ้นเรื่อยๆ ทำให้ความคืบหน้าในพื้นที่นี้เร่งขึ้น

มันเกี่ยวกับการทดสอบในการใช้งานจริงและเห็นว่าเราสามารถดันขีดจำกัดได้มากน้อยเพียงใด

บางเทคนิคการฝึกอบรมแบบกระจายที่สามารถจัดการกับโมเดลขนาดเล็กในสภาพแวดล้อมการเชื่อมต่อที่ช้าได้แล้ว ตอนนี้ งานวิจัยด้านหน้ากำลังผลักดันให้เมธอดเหล่านี้ขยายตัวไปสู่โมเดลที่ใหญ่ขึ้นเรื่อย ๆ

• ตัวอย่างเช่น ประสิทธิภาพสูงสุดเปิดกระดาษ DiCoLo แสดงให้เห็นถึงวิธีการปฏิบัติที่เกี่ยวข้องกับ “เกาะ” ของ GPU ที่ดําเนินการตามขั้นตอนท้องถิ่น 500 ขั้นตอนก่อนการซิงค์ลดความต้องการแบนด์วิดท์ลงสูงสุด 500 เท่า สิ่งที่เริ่มต้นจากการวิจัยของ Google DeepMind เกี่ยวกับโมเดลขนาดเล็กได้รับการปรับขนาดเพื่อฝึกโมเดลพารามิเตอร์ 10 พันล้านตัวในเดือนพฤศจิกายนและโอเพ่นซอร์สเต็มรูปแบบในปัจจุบัน
• Nous วิจัยกำลังยกระดับด้วยโครงสร้าง DisTrO ของพวกเขา ซึ่งใช้ตัวปรับปรุงเพื่อส่งผลลดลงถึง 10,000 เท่าในความต้องการในการสื่อสารระหว่าง GPU ในขณะฝึกอบรมโมเดลที่มีพารามิเตอร์ 1.2B
• และเรื่องวงจรยังคงเพิ่มมากขึ้น ในเดือนธันวาคม นูส์ประกาศเรื่องการฝึกอบรมล่วงหน้าของโมเดลพารามิเตอร์ 15B ด้วยเส้นโค้งของความสูญเสีย (วิธีการลดความผิดพลาดของโมเดลตามเวลา) และอัตราการลงจุด (ความเร็วที่โมเดลทำงานอย่างมั่นคง) — ที่เทียบเท่าหรือดีกว่าผลลัพธ์ที่เห็นได้โดยทั่วไปกับการตั้งค่าการฝึกอบรมแบบกระจายได้ ใช่ ดีกว่าการฝึกอบรมแบบกระจาย
• SWARM การประพันธ์แบบขนานและ DTFMHE เป็นวิธีอื่น ๆ สำหรับการฝึกโมเดล AI ขนาดใหญ่มากที่ต่างกันในอุปกรณ์ประเภทต่าง ๆ แม้ว่าอุปกรณ์เหล่านั้นจะมีความเร็วและการเชื่อมต่อที่แตกต่างกัน

ความท้าทายอีกอย่างคือการจัดการกับหลากหลายของฮาร์ดแวร์ GPU ที่รวมถึง GPU ระดับผู้บริโภคที่มีหน่วยความจำจำกัดซึ่งเป็นที่พบขึ้นในเครือข่ายแบบกระจาย การใช้เทคนิคเช่นการแบ่งโมเดลตามพาราเลล (การแบ่งชั้นโมเดลในอุปกรณ์ต่าง ๆ) สามารถช่วยทำให้เป็นไปได้

อนาคตของการฝึกอบรมที่กระจายอำนาจ

วิธีการฝึกอบรมแบบกระจายปัจจุบันยังจำกัดขนาดโมเดลที่ต่ำกว่าทางหน้า (GPT-4 รายงานว่าใกล้เคียงกับพารามิเตอร์หนึ่งล้านล้าน ใหญ่กว่าโมเดลของ Prime Intellect 10B 100 เท่า) เพื่อขยายขนาดอย่างแท้จริงเราจะต้องมีการพัฒนาโมเดลที่เป็นบุคคลที่สำคัญ พื้นฐานการเชื่อมต่อเครือข่ายที่ดีขึ้น และการแบ่งงานอย่างฉลาดในอุปกรณ์

และเราสามารถฝันใหญ่ จินตนาการถึงโลกที่การฝึกอบรมแบบกระจายสามารถรวมพลังการคำนวณ GPU ได้มากกว่าศูนย์ข้อมูลที่ใหญ่ที่สุดที่เคยรวมพลังได้อีกด้วย

Pluralis Research (ทีมที่เฉียบคมในการฝึกอบรมแบบกระจายอํานาจ ที่ต้องจับตามองอย่างใกล้ชิด) ให้เหตุผลว่านี่ไม่ใช่เพียงความเป็นไปได้—มันหลีกเลี่ยงไม่ได้ ศูนย์ข้อมูลแบบรวมศูนย์ถูกผูกมัดด้วยข้อ จํากัด ทางกายภาพเช่นพื้นที่และ ความพร้อมใช้งานของพลังงาน, ในขณะที่เครือข่ายที่ไม่มีศูนย์กลางสามารถเข้าถึงทรัพยากรทั่วโลกที่ไมีขีดจำกัดอย่างมีประสิทธิภาพ

นอกจากนี้ แม้ว่าเจนเซน ฮวัง ของ NVIDIA ยังได้รับการรับรองการฝึกอบรมแบบกระจายแบบ asyncสามารถปลดล็อกศักยภาพจริงของการสเกล AI ได้ Distributed training networks ยังมีความทนทานต่อข้อผิดพลาดมากกว่า

ดังนั้น ในอนาคตที่เป็นไปได้หนึ่ง โมเดล AI ที่ทรงพลิกศพที่สุดของโลกจะถูกฝึกอบรมในลักษณะที่กระจาย

เป็นแนวคิดที่น่าตื่นเต้น แต่ฉันยังไม่ได้เชื่ออย่างสมบูรณ์ ต้องมีหลักฐานที่แข็งแกร่งกว่านี้ว่าการฝึกอบรมแบบกระจายของโมเดลที่ใหญ่ที่สุดเป็นเรื่องที่เป็นไปได้ทั้งจากด้านเทคนิคและเศรษฐศาสตร์

นี่คือจุดที่ฉันเห็นว่ามีความสัญจร: จุดที่น่าสนใจของการฝึกอบรมแบบกระจายอาจอยู่ในโมเดลเล็ก ๆ ที่เชี่ยวชาญ เปิดเผยแบบซอร์ซที่ออกแบบมาสำหรับกรณีการใช้เป้าหมาย ไม่ใช่การแข่งขันกับโมเดลแหล่งข้อมูลขนาดใหญ่มากมายที่ใช้ AGI แบบต่างๆ สถาปัตยกรรมบางประเภทโดยเฉพาะโมเดลที่ไม่ใช่ตัวแปร ได้พิสูจน์อยู่แล้วว่าเหมาะสมอย่างธรรมชาติสำหรับการตั้งค่าแบบกระจาย

และยังมีอีกส่วนหนึ่งของปริศนานี้: โทเค็น หลังจากที่การฝึกอบรมแบบกระจายเป็นไปได้ในมาตราส่วนใหญ่ โทเค็นอาจมีบทบาทสำคัญในการแรงบันดาลใจและรางวัลผู้มีส่วนร่วม ทำให้เกิดเครือข่ายเหล่านี้ในที่สุด

ทางสู่วิสัยนี้ยาว แต่ความคืบหน้ามีความหวังอย่างยิ่ง การก้าวหน้าในการฝึกอบรมแบบกระจายจะเป็นประโยชน์ต่อทุกคน แม้แต่บริษัทเทคโนโลยีชั้นนำและห้องปฏิบัติการวิจัย AI ระดับยอด เนื่องจากขนาดของโมเดลในอนาคตจะเพิ่มขึ้นเหนือความจุของศูนย์ข้อมูลเดียว

อนาคตถูกกระจายไปทั่ว และเมื่อเทคโนโลยีที่ถือความเป็นไปได้ที่กว้างขวางเช่นนี้ ประวัติศาสตร์แสดงให้เห็นว่ามันจะดีขึ้นเร็วกว่าใครๆคาด

1.3. การสร้างสรรค์แบบกระจาย

ขณะนี้ พลังการคำนวณส่วนใหญ่ใน AI กำลังถูกนำเข้าไปในการฝึกโมเดลขนาดใหญ่ ห้องปฏิบัติการ AI ชั้นนำกำลังอยู่ในกรณีการแข่งขันเพื่อพัฒนาโมเดลรากฐานที่ดีที่สุดและในที่สุดเรียกได้ว่าได้ AGI

แต่นี่คือความคิดของฉัน: การใส่ใจอย่างสุดครีบต่อการฝึกอบรมจะเปลี่ยนแปลงเป็นการอบรมในอีกไม่กี่ปีข้างหน้า ภายในเวลาที่ AI เริ่มเข้าไปในแอปพลิเคชันที่เราใช้ในชีวิตประจำวัน - ตั้งแต่ด้านสุขภาพจนถึงด้านบันเทิง - ทรัพยากรคอมพิวเตอร์ที่ต้องใช้ในการสนับสนุนอบรมจะเป็นไปอย่างน่าทึ่ง

และมันไม่ได้เพียงแค่การคาดเดา การปรับปริมาณการคำนวณในเวลาที่ต้องการเป็นคำที่ฮอตใน AI ล่าสุด OpenAI ได้ปล่อยตัวอย่าง/เวอร์ชันมินิของโมเดลล่าสุดของตัวเอง o1 (ชื่อเรหัส: Strawberry) และการเปลี่ยนแปลงที่ใหญ่? มันใช้เวลาในการคิดโดยการถามตัวเองก่อนว่าขั้นตอนที่ควรทำเพื่อตอบคำถามคืออะไร จากนั้นผ่านขั้นตอนแต่ละขั้น

โมเดลนี้ถูกออกแบบสำหรับงานที่ซับซ้อนมากขึ้น และต้องการการวางแผนอย่างมาก เช่น การแก้ปัญหาบทบาท—และจัดการกับปัญหาที่ต้องการความคิดที่ลึกซึ้งมากขึ้น คุณจะรู้สึกได้ว่ามันช้าลง ใช้เวลามากขึ้นในการสร้างคำตอบ แต่ผลลัพธ์ที่ได้นั้นมีความคิดหลักและถ่วงหนักมากขึ้น นอกจากนี้ การเรียกใช้งานก็มีราคาสูงมากขึ้น25 เท่าของต้นทุน GPT-4)

การเปลี่ยนแนวคิดชัดเจน: กระโดดข้ามในประสิทธิภาพ AI ครั้งถัดไปจะไม่เกิดจากการฝึกโมเดลขนาดใหญ่เท่านั้น แต่ยังเกิดจากการขยายการใช้งานคอมพิวเตอร์ในขณะที่เป็นการอนุมาน

If you want to read more, several research เอกสารแสดงให้เห็น:

• การขยายคำนวณการสรุปผ่านการสุ่มซ้ำ ส่งผลให้มีการปรับปรุงขึ้นอย่างมากทั่วทั้งงาน
• มีกฎของการสร้างสเกลที่เพิ่มขึ้นอย่างก้อยโอร์สำหรับการอ้างอิงด้วย

เมื่อโมเดลที่มีพลังงานสูงถูกฝึกฝูง งานที่เกิดขึ้นในขณะที่โมเดลทำสิ่งต่างๆ สามารถถูกโอนออกไปที่เครือข่ายการคำนวณแบบกระจาย นี่ทำให้มีความหมายมากเพราะ:

• การอ่านค่าเป็นกระบวนการที่ใช้ทรัพยากรน้อยกว่าการฝึก. เมื่อฝึกฝนแล้ว โมเดลสามารถถูกบีบอัดและปรับปรุงโดยใช้เทคนิคเช่น การควอนไทเซชัน, การตัดแต่ง, หรือการกลั่นน้ำ. พวกเขายังสามารถถูกแบ่งแยกด้วยการเปรียบเทียบเซนเซอร์หรือการแบ่งการทำงานแบบพีระมิดเพื่อให้ทำงานบนอุปกรณ์ผู้บริโภคประจำวันได้. คุณไม่จำเป็นต้องมี GPU ระดับสูงเพื่อใช้พลังการอ่านค่า
• มันเกิดขึ้นอยู่แล้วExo Labs ได้ค้นพบวิธีในการเรียกใช้โมเดล Llama3 ที่มีพารามิเตอร์มากถึง 450 พันบีบนฮาร์ดแวร์ระดับผู้ใช้ทั่วไป เช่น MacBook และ Mac Mini การกระจายการอ่านค่าเฉลี่ยไปยังอุปกรณ์หลายๆ เครื่องสามารถจัดการกับโหลดงานใหญ่ๆ ได้อย่างมีประสิทธิภาพและประหยัดต้นทุน
• ประสบการณ์ผู้ใช้ที่ดีขึ้น การทำคำนวณใกล้เคียงกับผู้ใช้ช่วยลดความล่าช้าซึ่งเป็นสิ่งสำคัญสำหรับแอปพลิเคชันเรียลไทม์เช่นเกม สารสนเทศเสมือนเสมือนจริง หรือรถยนต์ไร้คนขับ ทุกหน่วยเวลามีความสำคัญ

คิดถึงการสรุปข้อมูลแบบกระจายเหมือน CDN (เครือข่ายการส่งเนื้อหา) สำหรับ AI: แทนที่จะส่งเว็บไซต์อย่างรวดเร็วโดยการเชื่อมต่อกับเซิร์ฟเวอร์ใกล้เคียง การสรุปข้อมูลแบบกระจายนำไปสู่การใช้พลังการคำนวณในพื้นที่เพื่อส่งคำตอบของ AI ได้เร็วที่สุด ด้วยการยอมรับการสรุปข้อมูลแบบกระจาย แอป AI กลายเป็นเร็ว ตอบสนองได้ และเชื่อถือได้มากขึ้น

แนวโน้มชัดเจน ชิป M4 Pro ใหม่ของ Apple เปรียบเทียบกับ NVIDIA ของคู่แข่งRTX 3070 Ti—a GPU that, until recently, was the domain of hardcore gamers. The hardware we already have is increasingly capable of handling advanced AI workloads.

ค่าเพิ่มของคริปโต

เพื่อให้เครือข่ายการออกแบบแบบกระจายสำเร็จ จะต้องมีแรงจูงใจทางเศรษฐศาสตร์ที่น่าสนใจสำหรับการเข้าร่วม โหนดในเครือข่ายจำเป็นต้องได้รับค่าตอบแทนสำหรับการมีส่วนร่วมของพวกเขาในการคำนวณ ระบบจะต้องรับประกันการกระจายของรางวัลที่ถูกต้องและมีประสิทธิภาพ ความหลากหลายทางภูมิภาคเป็นสิ่งสำคัญ ลดค่าคลื่นไปยังงานคำนวณและเพิ่มความทนทานต่อข้อผิดพลาด

และวิธีที่ดีที่สุดในการสร้างเครือข่ายที่กระจายศูนย์กลาง? คริปโต

โทเค็นเป็นกลไกที่มีประสิทธิภาพในการจัดตําแหน่งความสนใจของผู้เข้าร่วมเพื่อให้แน่ใจว่าทุกคนกําลังทํางานเพื่อเป้าหมายเดียวกัน: ปรับขนาดเครือข่ายและเพิ่มมูลค่าของโทเค็น

โทเค็นยังเพิ่มความเร็วในการเติบโตของเครือข่าย พวกเขาช่วยแก้ปัญหาไก่ตัวเดียวกับไข่ตัวเดียวที่ทำให้เครือข่ายส่วนใหญ่หยุดชะงักโดยการระบายเงินตอบแทนผู้ใช้ในระบบและส่งเสริมการเข้าร่วมตั้งแต่วันแรก

ความสำเร็จของ Bitcoin และ Ethereum พิสูจน์ให้เห็นว่าพวกเขาได้รวบรวมกลุ่มของพลังคอมพิวเตอร์ที่ใหญ่ที่สุดบนโลกแล้ว

เครือข่ายการวินิจฉัยที่ไม่มีศูนย์กลางคืออันดับถัดไป ด้วยความหลากหลายทางภูมิภาคพวกเขาลดความล่าช้า เพิ่มความคลาดเคลื่อนและนำ AI ใกล้กับผู้ใช้มากขึ้น และด้วยสิทธิ์และแรงกระตุ้นจากคริปโตพวกเขาจะขยายตัวได้เร็วกว่าเครือข่ายทั่วไป และดีกว่าที่เคยได้

คำปฏิเสธ:

1. บทความนี้ถูกเผยแพร่ใหม่จาก[[](https://www.chainofthought.xyz/p/our-crypto-ai-thesis-part-ii-decentralised-compute)[Chain of Thought](https://www.chainofthought.xyz/)\]. ลิขสิทธิ์ทั้งหมดเป็นของผู้เขียนต้นฉบับ [Teng Yan]. หากมีคำประทับใจในการพิมพ์ฉบับนี้โปรดติดต่อ เกตเรียนทีม และพวกเขาจะดำเนินการตรวจสอบโดยรวดเร็ว
2. คำประกาศความรับผิดชอบ: มุมมองและความคิดเห็นที่แสดงในบทความนี้เป็นเพียงของผู้เขียนเท่านั้นและไม่เป็นการให้คำแนะนำใด ๆ เกี่ยวกับการลงทุนใด ๆ
3. การแปลบทความเป็นภาษาอื่น ๆ ทำโดยทีม Gate Learn หากไม่ได้กล่าวถึง การคัดลอก การกระจาย หรือการลอกเลียนบทความที่แปลนั้นถูกห้าม