ในโลกของ Infrastructure เราคุ้นเคยกับคำว่า Scale-Up และ Scale-Out มานาน

Scale-Up คือการทำให้เครื่องเดิมทรงพลังขึ้น
Scale-Out คือการเพิ่มจำนวนเครื่อง แล้วกระจายงานออกไป

แต่เมื่อโลกเข้าสู่ยุค AI โดยเฉพาะระบบที่ประกอบด้วย GPU จำนวนมหาศาล คำถามสำคัญเริ่มเปลี่ยนไป

ถ้าเรามี GPU ที่เร็วมากเป็นพันหรือเป็นหมื่นตัว แต่ GPU เหล่านั้นสื่อสารกันไม่เร็วพอ เราจะยังเรียกมันว่า Supercomputer ได้หรือไม่?

นี่คือจุดที่แนวคิด Scale-In เริ่มน่าสนใจ

จากการเพิ่ม Compute สู่การลด “ระยะห่าง” ของ Compute

AI Infrastructure มีธรรมชาติแตกต่างจากระบบ Cloud แบบเดิม

Web Server จำนวน 100 เครื่องสามารถรับ Request แยกจากกันได้ค่อนข้างอิสระ แต่การ Training โมเดล AI ขนาดใหญ่ต้องแบ่งงานออกไปยัง GPU จำนวนมาก และ GPU เหล่านั้นต้องแลกเปลี่ยนข้อมูลระหว่างกันอย่างต่อเนื่อง

ดังนั้น Performance ของ AI Cluster จึงไม่ได้ขึ้นอยู่กับ GPU เพียงอย่างเดียว

แต่ขึ้นอยู่กับว่า

GPU เหล่านั้นสามารถทำงานร่วมกันได้ดีแค่ไหน

ลองจินตนาการว่าเรามี GPU 10,000 ตัว

ในทางทฤษฎี นี่คือพลังประมวลผลมหาศาล แต่หากแต่ละ GPU ต้องเสียเวลารอข้อมูลจาก GPU ตัวอื่น พลังประมวลผลที่ซื้อมาแพงมหาศาลก็อาจไม่ได้ถูกใช้งานอย่างเต็มประสิทธิภาพ

Network จึงไม่ได้เป็นเพียง “ทางเชื่อม” อีกต่อไป

Network กำลังกลายเป็นส่วนหนึ่งของ Compute

Scale-Up → Scale-Out → Scale-In

หากมองวิวัฒนาการของ Infrastructure เราอาจอธิบายได้เป็นสามแนวคิด

Scale-Up
เพิ่ม CPU, Memory หรือ GPU ให้กับระบบหนึ่งระบบ เพื่อทำให้ Node นั้นมีพลังมากขึ้น

Scale-Out
เพิ่มจำนวน Node แล้วเชื่อมต่อผ่าน Network เพื่อให้ระบบรองรับ Workload ที่ใหญ่ขึ้น

Scale-In
ทำให้ Compute จำนวนมหาศาลที่กระจายอยู่ในหลาย Node สามารถสื่อสารกันด้วย Bandwidth สูงและ Latency ต่ำมาก จนในเชิงการทำงาน “รู้สึกเหมือนอยู่ใกล้กัน”

หัวใจของ Scale-In จึงไม่ใช่แค่

How many GPUs do we have?

แต่คือ

How efficiently can those GPUs work as one system?

ทำไม AI ถึงผลัก Network Architecture ไปสู่ Scale-In

โมเดล AI สมัยใหม่มีขนาดใหญ่จนไม่สามารถประมวลผลทั้งหมดบน Accelerator เพียงตัวเดียวได้

เราจึงเห็นเทคนิค Parallelism หลายรูปแบบ เช่น

Data Parallelism
Tensor Parallelism
Pipeline Parallelism
Expert Parallelism ใน Mixture-of-Experts

สิ่งที่เกิดขึ้นตามมาคือ Communication Explosion

GPU ไม่ได้เพียงคำนวณ แต่ต้องส่ง Tensor, Gradient, Activation หรือข้อมูลที่เกี่ยวข้องกับการประมวลผลไปมาระหว่างกัน

เมื่อ Scale เพิ่มจาก GPU หลักสิบ ไปเป็นหลักพันหรือหลักหมื่น Network Bottleneck จึงสามารถกลายเป็น Compute Bottleneck ได้ทันที

GPU อาจเร็วขึ้น

Memory อาจเร็วขึ้น

แต่ถ้า Data เคลื่อนที่ระหว่าง GPU ไม่ทัน GPU ก็ต้องรอ

และในโลก AI

GPU ที่กำลังรอ Network คือ Compute ที่เราจ่ายเงินซื้อมา แต่ไม่ได้กำลังสร้างผลลัพธ์

Scale-In ไม่ได้แปลว่า Network ต้องเร็วขึ้นอย่างเดียว

นี่คือส่วนที่น่าสนใจที่สุด

การสร้าง Scale-In Architecture ไม่ใช่การแข่งขันกันเพิ่มตัวเลขจาก 400G เป็น 800G หรือสูงกว่านั้นเพียงอย่างเดียว

Bandwidth เป็นเพียงส่วนหนึ่งของสมการ

สิ่งที่สำคัญไม่แพ้กันคือ Latency, Congestion, Topology, Load Balancing และการควบคุม Traffic

เพราะ AI Traffic มีพฤติกรรมแตกต่างจาก Traffic ของ Data Center ทั่วไป

ในบาง Workload GPU จำนวนมากอาจต้องสื่อสารพร้อมกันในช่วงเวลาเดียวกัน

Traffic Pattern จึงอาจเกิดเป็น Burst ขนาดใหญ่

หาก Network จัดการ Congestion ได้ไม่ดี ต่อให้ Link มี Bandwidth สูงมาก Performance ของ Cluster ก็ยังลดลงได้

ดังนั้น Scale-In Network ต้องถูกออกแบบโดยคิดตั้งแต่

GPU → NIC → Switch → Fabric → GPU

เป็นระบบเดียวกัน

ไม่ใช่มอง Network เป็น Infrastructure Layer ที่อยู่แยกออกมาจาก Compute

จาก Data Center Network สู่ AI Fabric

ใน Data Center แบบดั้งเดิม เรามักออกแบบ Network เพื่อเชื่อม Server เข้าหากัน

แต่ใน AI Data Center แนวคิดกำลังกลับด้าน

เราไม่ได้เพียงสร้าง Network เพื่อเชื่อม Server

เรากำลังสร้าง Fabric เพื่อประกอบ GPU จำนวนมหาศาลให้กลายเป็นเครื่องจักรคำนวณขนาดใหญ่หนึ่งเครื่อง

นี่ทำให้ Network Architecture ต้องตอบโจทย์ใหม่หลายเรื่องพร้อมกัน

ต้องมี Bandwidth สูงมาก
ต้องรักษา Latency ให้ต่ำ
ต้องลด Packet Loss และ Congestion
ต้องกระจาย Traffic ได้อย่างมีประสิทธิภาพ
และต้อง Scale ไปยัง Accelerator จำนวนมหาศาลโดยไม่ทำให้ Communication Overhead เติบโตเร็วกว่าพลัง Compute ที่เพิ่มเข้ามา

เมื่อมองจากมุมนี้ Switch จึงไม่ได้เป็นเพียงอุปกรณ์ที่ส่ง Packet

มันกำลังกลายเป็นส่วนหนึ่งของ AI Computing Architecture

Scale-In กับ Scale-Out ไม่ได้มาแทนกัน

ประเด็นสำคัญคือ Scale-In ไม่จำเป็นต้องเข้ามาแทน Scale-Out

ทั้งสองแนวคิดสามารถทำงานร่วมกัน

เราอาจมี AI Cluster หลาย Cluster ที่ Scale-Out ไปทั่ว Data Center หรือแม้กระทั่งหลาย Data Center

แต่ภายในแต่ละ Compute Domain เราต้องการ Scale-In เพื่อให้ Accelerator จำนวนมากทำงานร่วมกันอย่างมีประสิทธิภาพสูงที่สุด

จึงอาจมอง Architecture ในอนาคตเป็นลำดับได้ว่า

Chip → Server → Rack → AI Fabric → Cluster → Data Center

แต่ละระดับมีข้อจำกัดด้าน Bandwidth และ Latency แตกต่างกัน

โจทย์สำคัญของ Network Architect จึงกลายเป็นการออกแบบว่า

เราจะทำให้ขอบเขตของ “เครื่องคอมพิวเตอร์หนึ่งเครื่อง” ใหญ่ขึ้นได้แค่ไหน

จากเดิมที่หนึ่งเครื่องหมายถึงหนึ่ง Server

ในยุค AI หนึ่ง “เครื่อง” ในเชิง Logical อาจหมายถึง GPU หลายพันตัวที่อยู่ในหลาย Rack

Network กำลังกลายเป็นตัวกำหนดขนาดของ AI

ที่ผ่านมาเรามักพูดถึง AI ด้วยจำนวน Parameter หรือจำนวน GPU

แต่ในอนาคต Metric ที่สำคัญไม่แพ้กันอาจเป็น

Effective Compute

ไม่ใช่ว่า Data Center มี GPU กี่ตัว

แต่คือ GPU เหล่านั้นสามารถทำงานพร้อมกันได้อย่างมีประสิทธิภาพกี่ตัว

เพราะ Cluster ที่มี GPU 10,000 ตัวแต่มี Communication Bottleneck อาจไม่ได้ให้ Performance ตามที่ตัวเลข Hardware บอก

ในทางกลับกัน Cluster ที่ออกแบบ Fabric ได้ดี อาจสามารถดึง Utilization จาก Accelerator ออกมาได้มากกว่าอย่างมีนัยสำคัญ

นี่ทำให้ Network เปลี่ยนสถานะจาก

Cost of Connectivity

ไปเป็น

Multiplier of Compute

ยุค AI อาจทำให้คำว่า “Computer” เปลี่ยนความหมาย

นี่อาจเป็นภาพใหญ่ที่สุดของ Scale-In

ในอดีต Computer คือเครื่องหนึ่งเครื่อง

ต่อมา Cloud ทำให้ Computer กลายเป็น Cluster

แต่ AI กำลังผลักแนวคิดนี้ไปอีกขั้น

Computer อาจกลายเป็นระบบที่ประกอบด้วย Accelerator จำนวนมหาศาล เชื่อมต่อผ่าน High-Speed Fabric และทำงานร่วมกันราวกับเป็นเครื่องจักรคำนวณหนึ่งเครื่อง

เมื่อถึงจุดนั้น เส้นแบ่งระหว่าง

Compute Infrastructure

กับ

Network Infrastructure

จะยิ่งเลือนลงเรื่อย ๆ

และคำถามของ Network Architect อาจไม่ใช่เพียง

“เราจะสร้าง Network ที่รองรับ AI ได้อย่างไร?”

แต่จะกลายเป็น

“เราจะสร้าง Network ที่ทำให้ GPU หลายพันตัวกลายเป็น Computer เครื่องเดียวกันได้อย่างไร?”

นี่คือแก่นของแนวคิด Scale-In

ไม่ใช่แค่การเพิ่ม Bandwidth
ไม่ใช่แค่การเพิ่ม Switch
และไม่ใช่แค่การเพิ่ม GPU

แต่คือการลด “ระยะห่างเชิงสถาปัตยกรรม” ระหว่าง Compute

เพื่อให้ระบบที่ประกอบด้วยเครื่องจำนวนมหาศาล สามารถทำงานร่วมกันได้ราวกับเป็นเครื่องเดียว

ในยุค Cloud เราเรียนรู้วิธี Scale-Out Infrastructure

แต่ในยุค AI การแข่งขันครั้งต่อไปอาจเป็นว่า

ใครสามารถ Scale-In Compute ได้ดีที่สุด

เพราะท้ายที่สุดแล้ว AI Supercomputer ที่ทรงพลังที่สุด อาจไม่ได้เป็นระบบที่มี GPU มากที่สุด

แต่เป็นระบบที่ทำให้ GPU ทั้งหมดนั้น

ทำงานร่วมกันได้เหมือนเป็น GPU ขนาดมหึมาเพียงตัวเดียว

ผมตั้งใจเขียนให้มีลักษณะเป็น Thought Leadership Article มากกว่าบทความ Network เชิงตำรา โดยเปิดจากปัญหา → เปลี่ยน Mental Model → อธิบาย Scale-In → จบด้วยภาพใหญ่ของ AI Infrastructure ครับ