MetaRoCE: Khi Meta viết lại luật chơi mạng lưới cho huấn luyện AI quy mô lớn

Vào ngày 24/8/2026, Meta giới thiệu MetaRoCE, một giao thức truyền tải RDMA được thiết kế lại từ đầu (clean-sheet), dành riêng cho khối lượng công việc AI trên nền tảng Ethernet thông dụng. Khác với những cải tiến nhỏ giọt trên các giao thức hiện có, MetaRoCE xét lại từ gốc những giả định nền tảng vốn đã chi phối hệ thống mạng trung tâm dữ liệu suốt nhiều thập kỷ. Nó xem hạ tầng mạng (fabric) là "có tổn hao" (lossy), đẩy phần xử lý thông minh xuống tận card mạng (NIC), và "phun" các gói tin qua nhiều đường truyền khác nhau mà không quan tâm chúng đến đích theo thứ tự nào.

Meta đang công bố toàn bộ đặc tả kỹ thuật, một bản triển khai phần mềm tham chiếu, và một bộ kiểm thử tuân thủ (compliance test suite) thông qua Open Compute Project (OCP) — biến đây không chỉ là một tối ưu hóa nội bộ. Đây là một nỗ lực nhằm định hình lại cách toàn ngành xây dựng hạ tầng mạng cho AI.

Vì sao mạng lưới đã trở thành nút thắt cổ chai của AI

Ngành công nghiệp AI đã trải qua vài năm gần đây trong một cuộc chạy đua vũ trang về sức mạnh tính toán. NVIDIA, AMD, và ngày càng nhiều nhà thiết kế chip tùy biến đã đẩy hiệu năng GPU lên những mức phi thường. Nhưng song song với sự bùng nổ tính toán này, một giới hạn ít được chú ý hơn đã xuất hiện: mạng lưới kết nối những chiếc GPU đó.
 

Các cụm (cluster) huấn luyện AI hiện đại trải rộng trên hàng trăm nghìn bộ tăng tốc (accelerator), phân bố trên nhiều trung tâm dữ liệu và nhiều khu vực địa lý. Bản thân Meta đã mở rộng các cụm của mình lên tới quy mô này, với kế hoạch vượt mốc một triệu GPU, đi theo quỹ đạo tương tự các dự án hạ tầng AI siêu quy mô khác đang diễn ra trên toàn cầu. Ở quy mô này, các thao tác tập thể (collective operations) như all-reduce và all-to-all trở thành đường găng (critical path). Mọi GPU phải đồng bộ hóa với mọi GPU khác, và chỉ cần một đường truyền chậm cũng đủ làm trễ toàn bộ bước huấn luyện.

Hiện tượng này được gọi là hiệu ứng "đuôi ở quy mô lớn" (tail-at-scale effect).

Điều xuất hiện như một sự cố mất gói tin hiếm gặp ở cấp độ một node đơn lẻ lại trở nên thường xuyên khi quan sát trên hàng nghìn node GPU đồng bộ hóa song song. Như các nhà nghiên cứu trong một bài báo học thuật gần đây về việc tái hình dung RDMA cho học máy đã chỉ ra, những mất mát này tích tụ tại các điểm đồng bộ hóa, biến những độ trễ hiếm gặp thành độ trễ đuôi (tail latency) dai dẳng làm suy giảm hiệu năng toàn bộ cụm máy.

Thách thức về mạng lưới không chỉ dừng lại ở khâu huấn luyện. Khi cả ngành hướng tới những kiến trúc tính toán mạnh mẽ và mật độ cao hơn, phần kết nối liên chip (interconnect) giữa các chip đó trở nên quan trọng theo tỷ lệ tương ứng. Khối lượng công việc suy luận (inference) hiện nay đòi hỏi giao tiếp độ trễ thấp giữa các phân mảnh mô hình (model shard) phân tán, ảnh hưởng trực tiếp đến thời gian phản hồi cho hàng trăm triệu người dùng. Theo quan sát của Meta, các yêu cầu đối với suy luận phân tán đang bắt đầu giống với yêu cầu của khâu huấn luyện, đòi hỏi những mạng backend tốc độ cao vốn trước đây chỉ gắn liền với các tác vụ huấn luyện.

RoCE là gì và nó bộc lộ điểm yếu ở đâu?

Để hiểu vì sao MetaRoCE quan trọng, cần hiểu công nghệ mà nó nhắm tới việc thay thế. RDMA (Remote Direct Memory Access — Truy cập bộ nhớ trực tiếp từ xa) là một cơ chế cho phép một máy tính truy cập trực tiếp vào bộ nhớ của máy tính khác mà không cần thông qua CPU hay nhân hệ điều hành. Việc truyền dữ liệu trực tiếp từ bộ nhớ đến bộ nhớ này loại bỏ chi phí sao chép và chuyển đổi ngữ cảnh (context-switching) vốn khiến mạng lưới truyền thống chậm chạp.

RoCE (RDMA over Converged Ethernet) là giao thức mang ngữ nghĩa RDMA vào các mạng Ethernet tiêu chuẩn. Phiên bản hiện tại, RoCEv2, đóng gói các gói tin truyền tải RDMA bên trong các datagram UDP/IP, cho phép chúng di chuyển qua hạ tầng Ethernet định tuyến IP thông thường. Điều này giúp RDMA tiếp cận được ngoài phạm vi các hạ tầng InfiniBand chuyên dụng vốn từng thống trị lĩnh vực điện toán hiệu năng cao.
 

RoCEv2 đã phục vụ tốt cho ngành với các cụm máy từ vài trăm đến vài nghìn GPU. Nhưng nó mang theo những giả định nền tảng sẽ đổ vỡ ở quy mô mà việc huấn luyện AI hiện nay đòi hỏi:

• Vận hành không tổn hao (lossless): RoCEv2 kỳ vọng mạng lưới truyền tải mọi khung dữ liệu (frame) mà không mất mát. Nó dựa vào cơ chế Priority Flow Control (PFC) và các khung tạm dừng (pause frame) để ngăn rớt gói tin, đòi hỏi việc tinh chỉnh cẩn thận và tạo ra độ phức tạp vận hành đáng kể.
• Truyền theo đúng thứ tự: Giao thức giả định các gói tin đến đích theo đúng thứ tự đã gửi đi. Chỉ một gói tin sai thứ tự cũng có thể kích hoạt hiện tượng "tắc nghẽn đầu dòng" (head-of-line blocking), làm đình trệ toàn bộ kết nối cho đến khi gói tin bị thiếu đến nơi.
• Định tuyến đơn đường: RoCEv2 tiêu chuẩn sử dụng cơ chế băm Equal-Cost Multi-Path (ECMP) để chọn một đường truyền duy nhất cho mỗi luồng dữ liệu. Điều này có nghĩa là một liên kết bị tắc nghẽn hoặc hỏng có thể trở thành nút thắt cho toàn bộ kết nối, ngay cả khi các đường truyền thay thế vẫn còn khả dụng.
• Bùng nổ số lượng "cặp hàng đợi" (queue pair): Để có thêm băng thông hoặc đảm bảo thứ tự, RDMA truyền thống mở thêm nhiều cặp hàng đợi, thường lên tới hàng chục cặp cho mỗi cặp node. Mỗi cặp hàng đợi duy trì cửa sổ kiểm soát tắc nghẽn (congestion window) riêng, "mù" trước các cặp khác, tạo ra trạng thái phình to theo mức độ song song hóa của khối lượng công việc.

Ở quy mô hàng trăm nghìn GPU, những giới hạn này trở nên nghiêm trọng. Tỷ lệ mất gói tin chỉ 0,001% cũng có thể làm giảm thông lượng huấn luyện từ 10 đến 30%, vì chỉ một GPU bị đình trệ cũng làm đình trệ toàn bộ cụm máy tại điểm rào chắn đồng bộ hóa (synchronization barrier). Cấu hình sai PFC có thể gây ra các đợt tạm dừng lan tỏa dây chuyền khắp hạ tầng mạng. Gánh nặng vận hành để duy trì một mạng Ethernet "không tổn hao" ở quy mô này là rất đáng kể.

Bên trong MetaRoCE: Sáu nguyên tắc thiết kế thay đổi tất cả

MetaRoCE đảo ngược cách tiếp cận truyền thống. Thay vì làm cho hạ tầng mạng thông minh hơn và đáng tin cậy hơn, nó làm cho các điểm đầu cuối (endpoint) thông minh hơn và chấp nhận rằng hạ tầng mạng sẽ làm mất gói tin. Theo cách Meta mô tả, nhận thức cốt lõi ở đây là: "hạ tầng mạng nhìn thấy các gói tin, nhưng card mạng (NIC) nhìn thấy ý định."

Dưới đây là sáu quyết định thiết kế định hình nên giao thức này:

1. Truyền không theo thứ tự là mặc định

MetaRoCE "phun" các gói tin qua nhiều đường truyền khác nhau, nên chúng đến đích không theo thứ tự — theo đúng thiết kế. Mỗi gói tin mang theo địa chỉ đích riêng, cho phép dữ liệu được ghi thẳng vào vị trí bộ nhớ cuối cùng ngay khi nó đến nơi. Không có bộ đệm sắp xếp lại (reorder buffer), không có tắc nghẽn đầu dòng. Nếu một gói tin bị trễ trên một đường truyền, các gói khác vẫn tiếp tục di chuyển không bị cản trở.

2. Đa đường truyền gốc (Native Multipathing)

Mỗi kết nối được cấp các đường truyền ưu tiên hạng nhất, và card mạng phun dữ liệu qua chúng theo từng gói tin. Mỗi đường truyền mang một cổng nguồn UDP riêng biệt làm giá trị "entropy" cho ECMP, mà card mạng có thể thay đổi bất cứ lúc nào để chuyển lưu lượng ra khỏi một tuyến đường xấu. Vì mỗi đường truyền duy trì cửa sổ riêng và ước tính thời gian khứ hồi (round-trip time) riêng, tầng truyền tải có thể phân biệt được tắc nghẽn với sự cố, và cân bằng lại một cách tường minh.

3. Khả năng chịu mất mát theo thiết kế

Đây là cốt lõi triết lý của MetaRoCE. Giao thức xem hạ tầng mạng Ethernet là có tổn hao và không yêu cầu nó phải khác đi. Không PFC. Không khung tạm dừng. Mỗi đường truyền mang một chuỗi thứ tự riêng, nên một khoảng trống trong vector bit xác nhận chọn lọc (selective acknowledgment bitvector) 256-bit của nó là bằng chứng của sự mất mát, chứ không phải sự sắp xếp lại. Khoảng trống đó kích hoạt việc truyền lại chính xác gói tin bị thiếu trên đúng đường truyền đã làm mất nó, ngay khi khoảng trống xuất hiện.

4. Kiểm soát tắc nghẽn từ cả hai đầu

MetaRoCE kết hợp cơ chế Additive Increase Multiplicative Decrease (AIMD) dựa trên ECN do bên gửi điều khiển, với các gợi ý về tỷ lệ chia sẻ công bằng (fair-share rate hints) do bên nhận điều khiển. Trong mỗi lần xác nhận, bên nhận trả về phần băng thông đầu vào mà nó đã phân bổ cho bên gửi đó. Điều này có nghĩa là bên gửi tiếp cận đúng tốc độ ngay lập tức thay vì phải dò tìm. Hiện tượng incast — một mô hình phổ biến trong huấn luyện AI khi nhiều GPU cùng phản hồi một GPU khác cùng lúc — được giải quyết chỉ trong một hoặc hai lượt khứ hồi.

5. Độc lập với cấu trúc liên kết mạng (Topology)

MetaRoCE chỉ yêu cầu hạ tầng mạng cung cấp hai thứ mà mọi switch đã sẵn có: đánh dấu ECN và ECMP. Nó không đòi hỏi việc cắt gói tin (packet trimming), đo lường từ xa trong mạng (in-network telemetry), kiểm soát luồng dựa trên credit, hay tính năng phun gói tin từ phía switch. Cùng một tầng truyền tải có thể chạy trên các cấu trúc fat-tree, đa mặt phẳng (multiplane), bộ đệm sâu, và bộ đệm nông, kể cả trên các đám mây của nhà cung cấp mà bạn không kiểm soát được cấu hình.

6. Hợp nhất kết nối ở quy mô lớn

RDMA truyền thống mở rộng khả năng đảm bảo thứ tự và băng thông bằng cách mở thêm nhiều cặp hàng đợi, mỗi cặp có cửa sổ kiểm soát tắc nghẽn và trạng thái card mạng riêng. MetaRoCE tách biệt hai mối quan tâm này. Một kết nối duy nhất mang nhiều luồng có thứ tự độc lập ở tầng trên (mỗi luồng cho một communicator hay một thao tác tập thể) và nhiều đường truyền ở tầng dưới, dưới sự điều khiển của một bộ kiểm soát tắc nghẽn duy nhất. Trạng thái kết nối không còn phình to theo mức độ song song hóa của khối lượng công việc.

Tầng ứng dụng gần như không bị ảnh hưởng. Các API RDMA Verbs hiện có và các ngăn xếp phần mềm vẫn hoạt động mà không cần chỉnh sửa, với các tính năng nâng cao như hỗ trợ đa mặt phẳng được cung cấp qua các API mở rộng.

 

MetaRoCE so với RoCEv2: Các bài kiểm thử thực sự cho thấy điều gì

Meta đã triển khai MetaRoCE trên card mạng lập trình được AMD Pensando và thử nghiệm trên một cụm 64 node GPU AMD chạy các thao tác tập thể RCCL (ROCm Communication Collectives Library). So sánh trực tiếp với RoCEv2 qua các thao tác all-reduce và all-to-all cho ra kết quả nhất quán:

• Thông lượng cao hơn trên mọi cấu hình được thử nghiệm
• Thời gian hoàn thành luồng dữ liệu (flow completion time) thấp hơn so với RoCEv2
• Duy trì khoảng 86% thông lượng ở mức mất gói tin 1% — một điều kiện có thể làm suy giảm nghiêm trọng RoCEv2 tiêu chuẩn
• Vẫn duy trì băng thông hữu ích ngay cả ở tỷ lệ mất gói tin 10%, suy giảm một cách "êm ái" thay vì sụp đổ hoàn toàn

Kết quả về khả năng phục hồi chính là con số đáng chú ý nhất. RoCEv2 tiêu chuẩn, vốn phụ thuộc vào vận hành không tổn hao, trải qua sự suy giảm hiệu năng thảm khốc khi gói tin bị rớt. MetaRoCE, được thiết kế ngay từ đầu để dự đoán và phục hồi sau mất mát, vẫn duy trì phần lớn thông lượng của nó trong cùng điều kiện đó.

Việc xác thực đa mặt phẳng trên các cấu trúc liên kết 4 mặt phẳng và 8 mặt phẳng, với tới 4.000 kết nối đồng thời, đã xác nhận rằng thông lượng mở rộng tuyến tính theo số lượng mặt phẳng. Trong các mô phỏng sự cố mặt phẳng, giao thức thể hiện khả năng phục hồi tự động một cách "êm ái": lưu lượng được phân bổ lại mà không cần sự can thiệp từ ứng dụng hay người vận hành.

MetaRoCE so với InfiniBand: Lập luận của Ethernet trong mạng lưới AI

Không cuộc thảo luận nào về mạng lưới AI là trọn vẹn nếu thiếu InfiniBand — hạ tầng chuyên dụng từ lâu vẫn là tiêu chuẩn vàng cho điện toán hiệu năng cao. Để hiểu MetaRoCE nằm ở đâu trong bức tranh này, cần hiểu cuộc tranh luận rộng hơn giữa Ethernet và InfiniBand.

InfiniBand mang lại khả năng truyền tải không tổn hao được thực thi bằng phần cứng, với độ trễ mỗi bước nhảy switch (switch hop) dưới một micro giây (khoảng 200-300 nano giây mỗi bước nhảy). Với các thao tác all-reduce trên cụm 8xH100, InfiniBand NDR đạt băng thông bus hiệu dụng khoảng 350 GB/s. RoCEv2 được tinh chỉnh tốt trên nền 400GbE đạt khoảng 270-290 GB/s, tức khoảng 77-83% hiệu năng của InfiniBand.

Nhưng hiệu năng chỉ là một phần của bài toán. Chênh lệch chi phí rất đáng kể:

Ở quy mô 1.024 GPU, một hạ tầng InfiniBand có thể tốn khoảng 7,7 triệu USD, trong khi một hạ tầng RoCEv2 tương đương chỉ vào khoảng 6 triệu USD. MetaRoCE sử dụng cùng loại phần cứng Ethernet thông dụng như RoCEv2, nên lợi thế về chi phí phần cứng được kế thừa trực tiếp.

Điều mà MetaRoCE thay đổi cuộc chơi nằm ở việc thu hẹp khoảng cách hiệu năng. RoCEv2 tiêu chuẩn đòi hỏi việc tinh chỉnh PFC và DCQCN rộng rãi để tiệm cận vận hành không tổn hao, và nó không có gì tương đương với công nghệ tải trọng thao tác tập thể trong switch (SHARP) của InfiniBand. MetaRoCE loại bỏ hoàn toàn nhu cầu cấu hình không tổn hao trong khi vẫn mang lại thông lượng cao hơn RoCEv2 tiêu chuẩn. Nó không đạt được độ trễ thô như InfiniBand, nhưng thu hẹp khoảng cách hiệu năng thực tế nhờ khả năng phục hồi tốt hơn trong các điều kiện thực tế, nơi việc mất gói tin là điều không thể tránh khỏi ở quy mô lớn.

Theo các phân tích trong ngành, hướng dẫn thực tế là: InfiniBand vẫn là lựa chọn mạnh nhất cho các cụm huấn luyện chuyên dụng lớn nhất (từ 10.000 GPU trở lên), nơi hiệu năng đỉnh tuyệt đối biện minh cho mức chi phí gia tăng. Đối với phần lớn các triển khai AI trong khoảng 256 đến 10.000 GPU, các giải pháp dựa trên Ethernet mang lại từ 85 đến 95% thông lượng huấn luyện của InfiniBand với chi phí thấp hơn đáng kể. MetaRoCE củng cố vị thế của Ethernet bằng cách giải quyết những điểm yếu ở tầng giao thức vốn từng khiến RoCEv2 trở nên mong manh ở quy mô lớn.

Sự chuyển dịch mô hình "thiết kế cho sự mất mát"

Khía cạnh quan trọng nhất của MetaRoCE không nằm ở bất kỳ tính năng kỹ thuật đơn lẻ nào. Đó là sự chuyển dịch triết lý mà nó đại diện: thiết kế cho sự mất mát, thay vì chống lại nó.

Trong nhiều thập kỷ, ngành mạng lưới đã xem việc mất gói tin là một tình trạng lỗi cần được loại bỏ. Priority Flow Control, các khung tạm dừng, Data Center Bridging, và các cấu hình Chất lượng Dịch vụ (QoS) phức tạp — tất cả đều tồn tại để tạo ra ảo giác về một mạng lưới không tổn hao trên nền phần cứng vốn dĩ có tổn hao. Cách tiếp cận này hoạt động tốt ở quy mô nhỏ, nhưng nó tạo ra độ phức tạp vận hành, sự mong manh trong cấu hình, và các chế độ lỗi lan tỏa dây chuyền ngày càng tệ hơn khi mạng lưới mở rộng.

MetaRoCE đi theo hướng ngược lại. Nó chấp nhận rằng Ethernet sẽ làm mất gói tin, đặc biệt ở quy mô hàng trăm nghìn điểm đầu cuối tạo ra các đợt lưu lượng đồng bộ hóa dồn dập. Thay vì ngăn chặn sự mất mát, nó làm cho việc phục hồi sau mất mát trở nên nhanh, chính xác, và cục bộ. Một gói tin bị mất trên một đường truyền sẽ kích hoạt việc truyền lại trên chính đường truyền đó, mà không ảnh hưởng đến bất kỳ đường truyền hay kết nối nào khác.

Cách tiếp cận này dựa trên một khối lượng nghiên cứu học thuật ngày càng lớn. Dự án Celeris, vốn tái hình dung RDMA qua lăng kính của khối lượng công việc học máy, đã đi đến những kết luận tương tự: các cơ chế đảm bảo độ tin cậy nghiêm ngặt và truyền theo đúng thứ tự — vốn được thiết kế cho các khối lượng công việc đa dụng — tạo ra độ phức tạp và độ trễ mở rộng kém trong môi trường học máy. Bằng cách gắn kết ngữ nghĩa truyền tải với đặc tính của khối lượng công việc học máy, các nhà nghiên cứu này phát hiện rằng có thể tránh được sự tích tụ mang tính hệ thống của độ trễ đuôi phát sinh từ các độ trễ trên toàn cụm máy.

Kinh nghiệm của chính Meta đã xác thực điều này. Trong bài báo tại hội nghị SIGCOMM 2024 về RoCE ở quy mô lớn, công ty đã ghi lại những thách thức trong việc tinh chỉnh kiểm soát tắc nghẽn DCQCN cho các khối lượng công việc huấn luyện AI, lưu ý rằng việc huấn luyện phân tán tạo ra các mô hình lưu lượng đặc thù, sinh ra những dạng tắc nghẽn khác nhau. MetaRoCE là kết tinh của những bài học đó: một giao thức hoạt động thuận theo các quy luật vật lý của Ethernet, thay vì chống lại chúng.

Mở theo thiết kế: Chiến lược OCP và những gì tiếp theo

MetaRoCE mở rộng triết lý đa nhà cung cấp mà sáng kiến Ethernet Scalable Unified Network (ESUN) của OCP đã thiết lập cho hạ tầng mạng, đưa nó xuống tận tầng truyền tải. Ba sản phẩm sẽ được công bố tại Hội nghị Thượng đỉnh OCP Toàn cầu 2026 vào tháng 10:

• Đặc tả giao thức đầy đủ qua OCP: Sẵn có để bất kỳ nhà cung cấp nào có thể triển khai và xây dựng phần cứng tương thích lẫn nhau.
• Bộ kiểm thử tuân thủ dành cho sản xuất: Các công cụ giúp nhà cung cấp phần cứng chứng minh rằng triển khai của họ khớp với đặc tả giao thức.
• libsoftmetaroce: Một ngăn xếp truyền tải hoàn chỉnh, có chức năng đầy đủ, chạy trên Linux thông dụng qua các socket UDP tiêu chuẩn mà không cần phần cứng chuyên dụng. Đây đóng vai trò là mô hình hành vi chuẩn mực cho việc phát triển silicon.

Meta đã chứng minh MetaRoCE hoạt động trên card mạng lập trình được AMD Pensando, với các bản triển khai bổ sung đang được các nhà cung cấp khác thực hiện.

Giao thức này được thiết kế để chạy trên nhiều kiến trúc card mạng khác nhau, cả loại lập trình được lẫn loại chức năng cố định.

Nhìn về phía trước, Meta đã xác định ba lĩnh vực phát triển tiếp theo:

• Mở rộng theo chiều dọc (trong cùng một rack): Tối ưu hóa đường tín hiệu nhanh cho các thao tác bộ nhớ ngắn giữa các bộ tăng tốc, nơi từng nano giây đều quan trọng.
• Mở rộng theo chiều ngang (đa tòa nhà): Cho phép một tác vụ huấn luyện duy nhất trải rộng trên các tòa nhà cách nhau hàng nghìn kilômét, nơi thời gian khứ hồi kéo dài tới hàng mili giây.
• Lưu trữ và bộ nhớ đệm KV (KV-cache): Áp dụng các gợi ý tỷ lệ do bên nhận điều khiển cho các khối lượng công việc lưu trữ phân tán vốn dễ sinh ra các mô hình incast, bao gồm cả việc truyền tải KV-cache giữa các nhóm prefill và decode — vốn đang ngày càng trở nên then chốt đối với suy luận quy mô lớn.

MetaRoCE có ý nghĩa gì đối với các triển khai AI doanh nghiệp

MetaRoCE hiện chưa thể triển khai được. Đặc tả kỹ thuật, bản triển khai tham chiếu, và khung kiểm thử tuân thủ dự kiến sẽ được công bố tại Hội nghị Thượng đỉnh OCP Toàn cầu vào tháng 10/2026. Hỗ trợ phần cứng vẫn còn ở giai đoạn sớm: Meta đã chứng minh giao thức này trên card mạng AMD Pensando, với các nhà cung cấp khác đang phát triển các bản triển khai riêng. Hiện tại, đây là một quyết định về kiến trúc hạ tầng mạng, chứ chưa phải một quyết định mua sắm.

Nhưng những hàm ý đối với AI doanh nghiệp là rất đáng kể. Như phân tích so sánh của AMD về lưu lượng mạng RoCE đã chỉ ra, các triển khai siêu quy mô như cụm Colossus 200.000 GPU của xAI tạo ra tải lượng mạng cao hơn nhiều bậc so với các nỗ lực quy mô nhỏ hơn. Những thách thức về kiểm soát tắc nghẽn, định tuyến thích ứng, và đo lường từ xa mà Meta đã giải quyết bằng MetaRoCE cuối cùng sẽ lan tỏa xuống các triển khai quy mô doanh nghiệp khi các cụm AI ngày càng phát triển.

Đối với các tổ chức đang xây dựng hạ tầng AI ngày nay, MetaRoCE báo hiệu hướng đi mà cả ngành đang tiến tới, song song với các nỗ lực như chiến lược "nhà máy AI" đa nhà cung cấp đang định hình lại cách các tổ chức xây dựng hạ tầng AI. Cả Ultra Ethernet Consortium lẫn sáng kiến ESUN của OCP đều đang nỗ lực chuẩn hóa Ethernet thế hệ tiếp theo cho AI, và những đổi mới ở tầng truyền tải của MetaRoCE bổ trợ cho các nỗ lực ở tầng vật lý và tầng liên kết này.

Điều rút ra mang tính thực tiễn là: nếu bạn đang thiết kế một hạ tầng mạng AI ngay hôm nay, RoCEv2 trên nền Ethernet thông dụng với cấu hình PFC và ECN hợp lý vẫn là lựa chọn sẵn sàng cho sản xuất đối với các cụm máy lên tới vài nghìn GPU. Nhưng MetaRoCE chỉ ra một tương lai gần, nơi độ phức tạp vận hành của việc cấu hình Ethernet không tổn hao sẽ không còn cần thiết nữa, và nơi Ethernet có thể sánh ngang hoặc vượt qua hiệu năng hiện tại của nó trong khi về cơ bản lại đơn giản hơn nhiều để vận hành.

Câu hỏi thường gặp

RoCE trong mạng lưới là gì?

RoCE là viết tắt của RDMA over Converged Ethernet. Đây là một giao thức cho phép Truy cập bộ nhớ trực tiếp từ xa (RDMA) hoạt động trên các mạng Ethernet tiêu chuẩn, cho phép truyền dữ liệu trực tiếp từ bộ nhớ đến bộ nhớ giữa các máy tính mà không cần CPU can thiệp. Phiên bản hiện tại, RoCEv2, đóng gói các gói tin RDMA trong các datagram UDP/IP để định tuyến qua các mạng IP thông thường.

Sự khác biệt giữa RoCE và InfiniBand là gì?

InfiniBand là một hạ tầng mạng chuyên dụng với khả năng truyền tải không tổn hao được thực thi bằng phần cứng và độ trễ dưới một micro giây. RoCE mang lại ngữ nghĩa RDMA trên nền Ethernet thông dụng, vốn rẻ hơn và sử dụng hạ tầng có sẵn, nhưng đòi hỏi cấu hình cẩn thận để đạt được vận hành không tổn hao. InfiniBand thường mang lại thông lượng cao hơn 15-25% cho các thao tác tập thể AI, nhưng với chi phí phần cứng gấp 2-3 lần. MetaRoCE thu hẹp khoảng cách này bằng cách loại bỏ nhu cầu cấu hình không tổn hao trong khi vẫn duy trì thông lượng cao hơn RoCEv2 tiêu chuẩn.

Khi nào tôi có thể triển khai MetaRoCE?

Chưa thể ngay bây giờ. Meta dự kiến sẽ công bố đặc tả kỹ thuật, một bản triển khai phần mềm tham chiếu được tối ưu hóa bằng DPDK, và khung kiểm thử tuân thủ dành cho sản xuất tại Hội nghị Thượng đỉnh OCP Toàn cầu 2026 vào tháng 10. Các bản triển khai phần cứng đang được nhiều nhà cung cấp khác ngoài AMD thực hiện. Khả năng sẵn có rộng rãi từ các nhà cung cấp nhiều khả năng sẽ đến vào năm 2027.

MetaRoCE có thay thế InfiniBand không?

Không trực tiếp. MetaRoCE củng cố vị thế của Ethernet trong mạng lưới AI, đặc biệt đối với các cụm máy trong khoảng từ vài trăm đến vài chục nghìn GPU. InfiniBand vẫn giữ lợi thế về độ trễ thô và khả năng tải trọng thao tác tập thể trong switch (SHARP) đối với các cụm huấn luyện chuyên dụng lớn nhất. Hai công nghệ này nhiều khả năng sẽ cùng tồn tại song song, với lựa chọn phụ thuộc vào quy mô cụm máy, ngân sách, và yêu cầu vận hành.

Tôi cần phần cứng gì để dùng MetaRoCE?

MetaRoCE đòi hỏi các card mạng lập trình được, có khả năng triển khai logic truyền tải của giao thức. Meta đã xác thực nó trên card mạng lập trình được AMD Pensando. Giao thức này chỉ yêu cầu hạ tầng mạng cung cấp đánh dấu ECN và ECMP — những tính năng tiêu chuẩn có mặt trên hầu như mọi switch trung tâm dữ liệu hiện đại. Không cần các tính năng switch độc quyền hay cấu hình hạ tầng mạng đặc biệt nào.

MetaRoCE xử lý việc mất gói tin như thế nào?

MetaRoCE xem việc mất gói tin là điều bình thường, chứ không phải một ngoại lệ. Mỗi đường truyền duy trì một chuỗi thứ tự riêng với một vector bit xác nhận chọn lọc (selective acknowledgment bitvector) 256-bit. Khi xuất hiện một khoảng trống trong vector bit đó, giao thức sẽ truyền lại chính xác gói tin bị thiếu trên đúng đường truyền đã làm mất nó. Việc truyền lại có mục tiêu chính xác này tránh được các đợt đình trệ lan tỏa dây chuyền mà việc mất gói tin thường gây ra trong RoCEv2 truyền thống.