Cisco Silicon One và Tương Lai của AI/ML Networking -

Trong hạ tầng AI/ML hiện nay, bốn công nghệ mạng đang được sử dụng phổ biến là: InfiniBand, Standard Ethernet, Enhanced Ethernet, và Scheduled Ethernet. Mỗi công nghệ có lịch sử phát triển riêng, phù hợp với từng use case, đồng thời mang ưu – nhược điểm riêng.

1. Các công nghệ Ethernet trong AI/ML

• Standard Ethernet:
  Dựa trên ECMP (Equal-Cost Multi-Path) với cơ chế hash stateless. Kết quả load balancing phụ thuộc rất nhiều vào đặc điểm traffic. Dùng tốt trong general-purpose networking, nhưng không tối ưu cho AI/ML do không khai thác triệt để tất cả đường đi.

• Enhanced Ethernet:
  Thêm telemetry + stateful processing để dịch chuyển flow sang link ít tắc nghẽn hơn. Cải thiện hiệu năng so với Standard Ethernet, nhưng vẫn phụ thuộc vào traffic pattern.

• Scheduled Ethernet:
  Sử dụng cơ chế spray and reorder – chia nhỏ packet và rải đều qua tất cả các link, sau đó reorder ở phía egress. Kỹ thuật này giúp đạt multipathing tối ưu, load balancing hạt mịn, không phụ thuộc traffic. Đây là công nghệ có hiệu năng cao nhất cho AI/ML.

2. Cisco Silicon One – Hợp Nhất Fabric

• Hoạt động như router/switch truyền thống với Standard Ethernet (ECMP).

• Chuyển đổi thành fully scheduled fabric với ingress Virtual Output Queueing (VOQ) để tạo nên một thực thể mạng phân tán như một router/switch duy nhất.

3. So sánh nhanh Standard Ethernet vs Scheduled Ethernet

• Phân phối: ECMP hash vs Spray-and-Reorder

• Mức tận dụng link: thấp vs cao

• Giới hạn flow: dựa trên port leaf & spine vs chỉ leaf

• Cơ chế hàng đợi: queue per element vs ingress VOQ

• Điểm drop: nhiều (ingress leaf, spine, egress) vs chỉ ingress leaf

• Góc nhìn mạng: nhiều router/switch riêng biệt vs một thực thể duy nhất

• Độ phức tạp NOS: loose coupling vs tight coupling

4. Migration từ InfiniBand sang Ethernet

• Sử dụng RoCE (RDMA over Converged Ethernet) để tận dụng hạ tầng Ethernet sẵn có.

• Kích hoạt tính năng lossless như PFC (Priority Flow Control) và ECN (Explicit Congestion Notification).

• Triển khai dần từng “đảo” Ethernet AI/ML fabric trong data center.

• credit-based

• PFC

• ECN

• PFC và ECN