AMD EPYC ขับเคลื่อน Google Cloud TPU 8tx ระบบ cloud TPU แรกที่มี confidential computing ระดับฮาร์ดแวร์

AMD (AMD) ประกาศเมื่อวันจันทร์ว่าโปรเซสเซอร์เซิร์ฟเวอร์ EPYC รุ่นที่ 5 เป็นโครงสร้างโฮสต์ให้ Google Cloud TPU 8tx ซึ่งเป็นระบบ Tensor Processing Unit บนคลาวด์ระบบแรกที่มีการบังคับใช้ confidential computing ระดับฮาร์ดแวร์

การประกาศร่วมกับ Google Cloud ในเครือ Alphabet (GOOGL) ขยายความร่วมมือที่ผสานประสิทธิภาพ CPU ของ AMD EPYC และฟีเจอร์ความปลอดภัย Infinity Guard เข้ากับ TPU AI acceleration ของ Google Cloud โดย AMD ระบุว่าการผสานนี้ช่วยให้องค์กรรัน workload ประเภท inference, fine-tuning และ reinforcement learning พร้อมกับปกป้องข้อมูลที่ละเอียดอ่อน

Dan McNamara รองประธานอาวุโสและผู้จัดการทั่วไปฝ่าย Compute and Enterprise AI ของ AMD กล่าวว่าระบบ AI ที่มีความสามารถสูงสุดจำเป็นต้องมีพื้นฐาน CPU ที่สามารถรองรับความต้องการของ accelerators ที่โฮสต์ และ AMD EPYC สร้างความเป็นผู้นำด้านประสิทธิภาพ, memory bandwidth และ input/output ผ่านหลายรุ่น สนับสนุนโดยงานวิศวกรรมร่วมกับผู้ให้บริการคลาวด์ชั้นนำ

Mark Lohmeyer รองประธานและผู้จัดการทั่วไปฝ่าย AI and Computing Infrastructure ของ Google Cloud กล่าวว่าการผสานนี้นำ confidential computing ระดับฮาร์ดแวร์มาสู่ cloud TPU เป็นครั้งแรก มอบการปกป้องข้อมูลระดับซิลิกอนพร้อมประสิทธิภาพ low-latency ที่จำเป็นสำหรับ reasoning model สมัยใหม่

ในระบบ TPU 8tx โปรเซสเซอร์ EPYC รุ่นที่ 5 จัดการ workload orchestration, การเตรียมข้อมูล และการสื่อสาร high-throughput กับ TPU accelerators โดยระบบใช้ AMD Secure Encrypted Virtualization ซึ่งร่วมกับ TPU ขยายการปกป้อง confidential computing ข้าม CPU ไปยัง accelerators ที่เชื่อมต่อ ทำให้ prompts, model weights และข้อมูลระหว่างทางยังคงเข้ารหัสในหน่วยความจำ CPU และระหว่างการส่งข้อมูล

AMD ระบุว่าโปรเซสเซอร์ EPYC เป็น host CPU ที่ผู้ให้บริการ hyperscaler และ frontier AI lab ชั้นนำกว่า 10 รายเลือกใช้ ครอบคลุมระบบที่ใช้ AMD Instinct GPU, Nvidia GPU และ custom accelerator silicon นอกจากนี้ AMD ยังระบุว่า EPYC รองรับ Google Cloud confidential computing portfolio ทั้งหมด รวมถึง Confidential VMs, Confidential GKE และ Confidential Dataflow โดย TPU 8tx ขยายงานนี้ไปสู่ confidential AI acceleration

ทั้งสองบริษัทไม่ได้เปิดเผยเงื่อนไขทางการเงินหรือกำหนดเวลาการ deploy TPU 8tx