กรณี Lilli ของ McKinsey มีแนวคิดการพัฒนาสำหรับตลาด AI ขององค์กรอย่างไรบ้าง?

ForesightNews
INFRA1.32%
AGI1.47%

เมื่อเปรียบเทียบกับการก้าวกระโดดแบบผูกขาดทรัพยากรด้วยพลังคอมพิวเตอร์และอัลกอริทึ่มในอดีต เมื่อการตลาดมุ่งเน้นไปที่เอดจ์คอมพิวติ้ง + โมเดลขนาดเล็ก จะนำมาซึ่งความมีชีวิตชีวาของตลาดที่มากขึ้น.

เขียนโดย: Haotian

กรณี Lilli ของแมคคินซีย์ให้แนวคิดการพัฒนาที่สำคัญสำหรับตลาด AI ขององค์กร: เอดจ์คอมพิวติ้ง + โอกาสในตลาดของโมเดลขนาดเล็ก ผู้ช่วย AI ที่รวมเอกสารภายใน 100,000 ฉบับนี้ไม่เพียงแต่ได้รับอัตราการนำไปใช้ 70% จากพนักงาน แต่ยังถูกใช้งานเฉลี่ย 17 ครั้งต่อสัปดาห์ ความเหนียวแน่นของผลิตภัณฑ์ประเภทนี้ในเครื่องมือขององค์กรถือว่าหายาก ต่อไปนี้เป็นการพูดคุยเกี่ยวกับความคิดของฉัน:

1)ความปลอดภัยของข้อมูลในองค์กรเป็นจุดเจ็บปวด: ความรู้หลักที่สะสมมา 100 ปีของแมคคินซีย์และข้อมูลเฉพาะที่สะสมโดยบางบริษัทขนาดกลางและเล็กมีความอ่อนไหวสูงต่อข้อมูล ซึ่งไม่เหมาะกับการประมวลผลบนคลาวด์สาธารณะ วิธีการสำรวจสถานะสมดุลที่ว่า “ข้อมูลไม่ออกนอกพื้นที่, ความสามารถ AI ไม่ลดคุณภาพ” คือความต้องการจริงในตลาด เอดจ์คอมพิวติ้งเป็นทิศทางการสำรวจ;

2)โมเดลขนาดเล็กเฉพาะทางจะเข้ามาแทนที่โมเดลขนาดใหญ่ทั่วไป: ผู้ใช้ในองค์กรไม่ต้องการโมเดลทั่วไปที่มี “ร้อยล้านพารามิเตอร์และสามารถทำได้ทุกอย่าง” แต่ต้องการผู้ช่วยเฉพาะทางที่สามารถตอบคำถามในสาขาที่เฉพาะเจาะจงได้อย่างแม่นยำ เมื่อเปรียบเทียบกันแล้ว ความสามารถทั่วไปของโมเดลขนาดใหญ่และความลึกของความเชี่ยวชาญมีความขัดแย้งกันโดยธรรมชาติ ในสภาพแวดล้อมขององค์กรมักจะให้ความสำคัญกับโมเดลขนาดเล็กมากกว่า;

  1. ความสมดุลของต้นทุนระหว่างอินฟาเรด AI ที่สร้างขึ้นเองและการเรียก API: แม้ว่าการรวมกันของ Edge Computing และโมเดลขนาดเล็กจะมีการลงทุนล่วงหน้าจํานวนมาก แต่ต้นทุนการดําเนินงานในระยะยาวจะลดลงอย่างมาก ลองนึกภาพว่าโมเดล AI ขนาดใหญ่ที่พนักงาน 45,000 คนใช้บ่อยมาจากการเรียก API การพึ่งพาที่สร้างขึ้นโดยสิ่งนี้การเพิ่มขนาดการใช้งานและคุณภาพของผลิตภัณฑ์จะทําให้อินฟาเรด AI ที่สร้างขึ้นเองเป็นทางเลือกที่มีเหตุผลสําหรับองค์กรขนาดใหญ่และขนาดกลาง

4)โอกาสใหม่ในตลาดฮาร์ดแวร์เอดจ์: การฝึกอบรมโมเดลใหญ่ต้องการ GPU ระดับสูง แต่การอนุมานที่เอดจ์มีความต้องการฮาร์ดแวร์ที่แตกต่างกันโดยสิ้นเชิง ผู้ผลิตชิปอย่าง Qualcomm และ MediaTek กำลังเผชิญกับโอกาสในตลาดสำหรับโปรเซสเซอร์ที่ปรับแต่งสำหรับ AI ที่เอดจ์ เมื่อแต่ละบริษัทต้องการสร้าง “Lilli” ของตนเอง ชิป AI ที่ออกแบบมาเป็นพิเศษสำหรับการใช้พลังงานต่ำและประสิทธิภาพสูงจะกลายเป็นสิ่งจำเป็นพื้นฐาน.

5)ตลาด AI web3 แบบกระจายศูนย์ก็จะได้รับการเสริมสร้างเช่นกัน: เมื่อบริษัทมีความต้องการในด้านพลังคอมพิวเตอร์, การปรับแต่ง, อัลกอริทึ่ม ฯลฯ บนโมเดลขนาดเล็กที่ถูกกระตุ้นขึ้นมา วิธีการปรับสมดุลการจัดสรรทรัพยากรจะกลายเป็นปัญหา การจัดสรรทรัพยากรแบบกระจายศูนย์แบบดั้งเดิมจะกลายเป็นปัญหา ซึ่งจะทำให้มีความต้องการในตลาดอย่างมากสำหรับเครือข่ายการปรับแต่งโมเดลขนาดเล็กแบบกระจายศูนย์ และแพลตฟอร์มบริการพลังคอมพิวเตอร์แบบกระจายศูนย์ ฯลฯ;

เมื่อตลาดยังคงอภิปรายเกี่ยวกับขอบเขตความสามารถทั่วไปของ AGI อยู่ เราก็ยินดีที่จะเห็นผู้ใช้งานจากภาคธุรกิจหลายรายเริ่มขุดหาคุณค่าที่แท้จริงของ AI อย่างชัดเจน เมื่อเปรียบเทียบกับการก้าวกระโดดแบบผูกขาดทรัพยากรที่แข่งขันกันในพลังคอมพิวเตอร์และอัลกอริทึ่มในอดีต เมื่อตลาดมุ่งเน้นไปที่เอดจ์คอมพิวติ้ง + แบบจำลองขนาดเล็ก จะนำมาซึ่งพลังตลาดที่มากขึ้น.

ดูต้นฉบับ
news.article.disclaimer
แสดงความคิดเห็น
0/400
ไม่มีความคิดเห็น