Marvell Technology กำลังได้รับความสนใจจากนักลงทุนวอลล์สตรีท เนื่องจากตลาดเซมิคอนดักเตอร์กำลังเปลี่ยนไปสู่การประหยัดพลังงาน ท่ามกลางวิกฤตการใช้พลังงานที่ขับเคลื่อนโดย AI Bloomberg รายงานว่าค่าไฟฟ้าใกล้ศูนย์ข้อมูลในสหรัฐฯ เพิ่มขึ้น 267% ในช่วงห้าปีที่ผ่านมา ส่งผลกระทบต่อ 13 จาก 50 รัฐของสหรัฐฯ เนื่องจากปริมาณงาน AI ใช้พลังงานมหาศาล บริษัทเทคโนโลยียักษ์ใหญ่ที่ซื้อไฟฟ้าขายส่งได้รับส่วนลด ขณะที่ผู้บริโภคที่อยู่อาศัยต้องแบกรับต้นทุนที่สูงขึ้น ทำให้อุตสาหกรรมให้ความสำคัญกับสถาปัตยกรรมชิปที่ใช้พลังงานต่ำ ศาสตราจารย์ Kim Hak-joo แห่งภาควิชา AI Convergence มหาวิทยาลัย Handong Global อธิบายว่าการเข้าซื้อ Inphi ในปี 2021 ของ Marvell ซึ่งเป็นผู้นำด้านการเชื่อมต่อสัญญาณระหว่างชิป ทำให้บริษัทอยู่ในตำแหน่งที่สามารถแก้ปัญหาคอขวดหลักของ AI ได้แก่ การถ่ายโอนข้อมูลระหว่างหน่วยความจำและหน่วยประมวลผล ซึ่งคิดเป็น 40% ของการใช้พลังงาน AI
การใช้พลังงาน AI ผลักดันค่าไฟฟ้าเพิ่มขึ้น 267% ในพื้นที่ศูนย์ข้อมูลของสหรัฐฯ
Bloomberg รายงานว่าค่าไฟฟ้าในพื้นที่ใกล้ศูนย์ข้อมูลของสหรัฐฯ เพิ่มขึ้น 267% เมื่อเทียบกับห้าปีที่แล้ว โดยปัจจุบันมีผลกระทบต่อ 13 จาก 50 รัฐของสหรัฐฯ และขอบเขตทางภูมิศาสตร์ยังคงขยายตัวอย่างต่อเนื่อง บริษัทเทคโนโลยียักษ์ใหญ่ที่ดำเนินการศูนย์ข้อมูลซื้อไฟฟ้าขายส่ง ได้รับส่วนลด ซึ่งส่งผลให้ภาระต้นทุนตกไปยังผู้บริโภคที่อยู่อาศัย การใช้พลังงาน AI แบ่งออกเป็นสี่ประเภท: การถ่ายโอนข้อมูล (40%) การระบายความร้อนและการทำความเย็น (35%) การคำนวณ (15%) และการบำรุงรักษาพื้นที่จัดเก็บข้อมูล (10%) Bill Dally หัวหน้านักวิทยาศาสตร์ของ NVIDIA กล่าวว่า AI ใช้พลังงานมากกว่ามากในการถ่ายโอนข้อมูลจากเซมิคอนดักเตอร์หน่วยความจำภายนอก (HBM) ไปยังหน่วยประมวลผล (GPU) มากกว่าการคำนวณด้วยตัวเอง
อุตสาหกรรมเซมิคอนดักเตอร์เปลี่ยนไปใช้สถาปัตยกรรม SRAM และ CIM เพื่อการประหยัดพลังงาน
อุตสาหกรรมกำลังเคลื่อนไปสู่การใช้ SRAM ซึ่งเป็นหน่วยความจำที่อยู่ภายในหน่วยประมวลผล GPU มากขึ้น แทนที่จะใช้หน่วยความจำ HBM ภายนอก เพื่อลดระยะทางการถ่ายโอนข้อมูล เมื่อการใช้พลังงานในการคำนวณเท่ากับ 1 การดึงข้อมูลจากหน่วยความจำ SRAM ภายในต้องใช้พลังงาน 5-10 หน่วย ในขณะที่การดึงข้อมูลจากหน่วยความจำ HBM ภายนอกใช้พลังงาน 100-1000 หน่วย เนื่องจากความต้านทานสัญญาณในระยะทางสายทองแดงที่ยาวขึ้นและความจำเป็นในการขยายสัญญาณ บริษัทต่างๆ รวมถึง Groq และ Cerebras ได้ออกแบบชิปที่อัดแน่นไปด้วย SRAM โดยไม่ต้องเชื่อมต่อ HBM ภายนอก แม้ว่า SRAM จะมีข้อจำกัดด้านความจุ ขนาดทางกายภาพ และต้นทุน อุตสาหกรรมยังกำลังพัฒนาสถาปัตยกรรม Chip-in-Memory (CIM) ที่รวมหน่วยประมวลผลเข้ากับหน่วยความจำโดยตรง เพื่อลดระยะทางการถ่ายโอนให้มากยิ่งขึ้น
Marvell Technology ได้เปรียบทางการแข่งขันผ่านการเข้าซื้อ Inphi
Marvell Technology เข้าซื้อ Inphi ในปี 2021 ทำให้สามารถเข้าถึงความเชี่ยวชาญระดับโลกด้านการเชื่อมต่อสัญญาณระหว่างเซมิคอนดักเตอร์ Inphi มีตำแหน่งที่โดดเด่นทั้งในการเชื่อมต่อสัญญาณระดับจุลภาคภายในพื้นที่ชิปที่แคบ และโซลูชันเครือข่ายการสื่อสารด้วยแสง บริษัทเทคโนโลยียักษ์ใหญ่รวมถึง Google, Microsoft และ Amazon จำเป็นต้องใช้ทรัพย์สินทางปัญญาของ Inphi เพื่อออกแบบเครือข่ายชิปต่อชิป (ASIC) ทำให้ Inphi มีอำนาจต่อรองอย่างมากแม้แต่กับบริษัทเทคโนโลยีรายใหญ่ อุตสาหกรรมกำลังเปลี่ยนสื่อกลางการถ่ายโอนข้อมูลจากสายทองแดงเป็นการสื่อสารด้วยแสงแบบเลเซอร์เพื่อลดการใช้พลังงานและการสร้างความร้อนเมื่อดึงข้อมูลปริมาณมากจากหน่วยความจำ HBM ภายนอก ซึ่งเป็นด้านที่ Inphi ยังคงมีโซลูชันระดับแนวหน้า
คำถามที่พบบ่อย
อะไรทำให้ค่าไฟฟ้าใกล้ศูนย์ข้อมูลในสหรัฐฯ เพิ่มขึ้น 267%?
ตามรายงานของ Bloomberg ค่าไฟฟ้าในพื้นที่ศูนย์ข้อมูลของสหรัฐฯ เพิ่มขึ้น 267% ในช่วงห้าปีเนื่องจากการใช้พลังงาน AI จำนวนมหาศาล ซึ่งปัจจุบันส่งผลกระทบต่อ 13 จาก 50 รัฐของสหรัฐฯ โดยมีผลกระทบทางภูมิศาสตร์ที่ขยายตัว
ทำไม Marvell Technology ถึงเข้าซื้อ Inphi ในปี 2021?
Marvell เข้าซื้อ Inphi ในปี 2021 เพื่อเข้าถึงเทคโนโลยีระดับโลกด้านการเชื่อมต่อสัญญาณระหว่างชิปและเครือข่ายการสื่อสารด้วยแสง ซึ่งเป็นความสามารถที่จำเป็นสำหรับสถาปัตยกรรมชิป AI ที่ใช้พลังงานต่ำ เนื่องจากการถ่ายโอนข้อมูลคิดเป็น 40% ของการใช้พลังงาน AI
SRAM ลดการใช้พลังงาน AI เมื่อเทียบกับหน่วยความจำ HBM ได้อย่างไร?
SRAM ที่อยู่ภายในหน่วยประมวลผล GPU ต้องการพลังงาน 5-10 หน่วยในการดึงข้อมูล เมื่อการคำนวณใช้ 1 หน่วย ในขณะที่หน่วยความจำ HBM ภายนอกใช้พลังงาน 100-1000 หน่วย เนื่องจากระยะทางการถ่ายโอนข้อมูลที่ยาวขึ้นและข้อกำหนดในการขยายสัญญาณผ่านสายทองแดง
