Kết nối lai (Hybrid Connectivity) trong Data Center -

Trong một data center, hybrid connectivity nghĩa là cùng lúc triển khai nhiều công nghệ mạng khác nhau. Các công nghệ này có thể bao gồm (nhưng không giới hạn ở): Fibre Channel, InfiniBand, và Ethernet.

Đặc biệt trong các AI/ML data center, cả InfiniBand, Fibre Channel, và Ethernet có thể tồn tại song song để tối ưu hóa hiệu năng, khả năng mở rộng, và hiệu quả chi phí cho workload AI/ML. Mỗi công nghệ có những ưu thế riêng, phù hợp với từng tình huống cụ thể.

Ví dụ: Một mạng data center có thể dùng Ethernet và InfiniBand kết hợp, mỗi loại phục vụ cho các phần khác nhau của workload AI/HPC.

---

Vai trò của từng công nghệ

InfiniBand

• Thường dùng kết nối các compute node trong AI cluster.

• Lý tưởng cho khối lượng dữ liệu cực lớn trao đổi giữa GPU và TPU trong quá trình training.

Ethernet

• Dùng cho kết nối tổng quát trong data center.

• Kết nối server ↔ storage, nơi yêu cầu độ tin cậy và chi phí hợp lý.

• Với tốc độ liên kết tới 800 Gbps, Ethernet đủ băng thông cho truy xuất lưu trữ.

• Là mạng chính cho: quản trị hệ thống, compute node ít nhạy cảm với độ trễ, và kết nối client đến dịch vụ AI.

---

Lợi ích của triển khai lai

• Tối ưu chi phí: chỉ dùng InfiniBand cho workload nhạy cảm về hiệu năng, còn lại tận dụng Ethernet.

• Mở rộng linh hoạt: có thể scale riêng biệt phần hạ tầng InfiniBand và Ethernet tùy nhu cầu workload AI/ML.

• Giảm TCO, tăng ROI nhờ kết hợp hợp lý 2 công nghệ.

• Ethernet ngày càng mạnh nhờ các chuẩn Scheduled Ethernet, Enhanced Ethernet, có thể dần thay thế InfiniBand trong nhiều trường hợp.

Kết nối liên công nghệ

Trong data center lai, InfiniBand và Ethernet thường được kết nối thông qua gateway hoặc bridge chuyên dụng.
Các thiết bị này dịch giao thức, đảm bảo luồng dữ liệu liền mạch giữa cluster tính toán (InfiniBand), hệ thống lưu trữ (Ethernet), và mạng ngoài.

---

IP trên InfiniBand

• InfiniBand vốn dùng cơ chế địa chỉ riêng, không dựa trên IP, và không hỗ trợ socket → không tương thích ứng dụng truyền thống.

• Giải pháp: IP over InfiniBand (IPoIB) do IETF chuẩn hóa.

• Cho phép truyền lưu lượng IP qua hạ tầng InfiniBand.

• Quan trọng cho môi trường sử dụng InfiniBand làm lớp truyền vật lý nhưng ứng dụng/dịch vụ vẫn cần giao thức IP tiêu chuẩn.