[BizHanKook] Trọng tâm của cuộc đua trí tuệ nhân tạo (AI) đang dần chuyển dịch từ việc huấn luyện các mô hình ngôn ngữ lớn (LLM) và đảm bảo nguồn cung bộ xử lý đồ họa (GPU), sang việc vận hành dịch vụ thực tế với yêu cầu cao về suy luận và hiệu quả chi phí. Trong bối cảnh đòi hỏi sự tối ưu hóa đồng bộ không chỉ về hiệu năng bán dẫn mà còn cả phần mềm, mạng lưới và lưu trữ, AMD đang bắt tay cùng các doanh nghiệp AI Hàn Quốc để thử nghiệm cơ sở hạ tầng kết hợp nhiều loại chip xử lý khác nhau. Chiến lược của họ là tích hợp các linh kiện bán dẫn và phần mềm của Hàn Quốc vào hệ sinh thái AMD, từ đó mở rộng các hệ thống đã được kiểm chứng tại thị trường nội địa ra thị trường toàn cầu.
Vào ngày 4, AMD đã tổ chức sự kiện ‘Advancing AI World Tour Seoul 2026’ tại khách sạn Westin Seoul Parnas, quận Gangnam, Seoul, để chia sẻ về chiến lược AI toàn cầu và định hướng hợp tác với các doanh nghiệp trong nước. Đây là lần đầu tiên sự kiện công nghệ thường niên vốn được tổ chức tại Mỹ này được AMD mang đến Hàn Quốc. Các doanh nghiệp bán dẫn và hạ tầng AI nội địa như FuriosaAI, MangoBoost, More, cùng các đối tác như Naver Cloud đã tham gia để giới thiệu công nghệ và các ứng dụng thực tế.
Hạ tầng dị thể tích hợp NPU nội địa, biến Hàn Quốc thành ‘trung tâm thử nghiệm’
Ông Keith Strier, Phó chủ tịch cấp cao kiêm Tổng giám đốc mảng thị trường AI toàn cầu của AMD, cho biết trong bài phát biểu quan trọng rằng công ty sẽ cùng FuriosaAI và MangoBoost xây dựng cụm tham chiếu (reference cluster) đầu tiên tại Seoul vào mùa xuân năm 2027. Phương pháp này kết hợp các CPU và GPU của AMD với bộ xử lý thần kinh (NPU) của công ty bán dẫn AI FuriosaAI và bộ xử lý dữ liệu (DPU) của công ty hệ thống/bán dẫn hạ tầng trung tâm dữ liệu MangoBoost. Ba công ty cũng đã ký biên bản ghi nhớ (MOU) trong sự kiện này. Trong đó, CPU đóng vai trò điều phối, GPU thực hiện các phép tính quy mô lớn, NPU xử lý suy luận AI, còn DPU đảm nhận việc di chuyển dữ liệu và quản lý mạng, giúp tận dụng tối đa thế mạnh của từng loại chip.
Cụm tham chiếu là hệ thống tiêu chuẩn để kiểm chứng sự phối hợp giữa nhiều loại chip và phần mềm trong môi trường trung tâm dữ liệu thực tế, làm cơ sở để các doanh nghiệp khác tham chiếu khi áp dụng. Ông Strier cho biết: “Khi ký kết MOU vào tháng 7, chúng tôi đã cam kết không chỉ mang công nghệ AMD đến Hàn Quốc mà còn tích hợp công nghệ của Hàn Quốc vào hệ sinh thái AMD. Đây sẽ là minh chứng đầu tiên cho thấy sự kết hợp hạ tầng AI dị thể trông như thế nào, đồng thời là lời khẳng định thực hiện cam kết với các đối tác Hàn Quốc”.
Ông Strier nhấn mạnh: “Không có con chip đơn lẻ nào có thể đáp ứng mọi khối lượng công việc, cũng như không có cấu hình hay kệ rack đơn lẻ nào giải quyết được mọi nhu cầu”. Hệ thống dạng rack ‘Helios’ bao gồm 72 GPU dự kiến sẽ được triển khai tại các trung tâm dữ liệu và dịch vụ đám mây lớn trên toàn thế giới vào năm 2027. Khi các tác nhân AI (AI agents) trở nên phổ biến, vai trò của CPU trong việc điều phối công việc lại càng quan trọng hơn. Ông Strier dự báo: “Số lượng CPU bán ra trong năm tới sẽ nhiều hơn tổng số lượng bán ra trong vài năm qua cộng lại”.
Sự hợp tác giữa Bộ Khoa học và Công nghệ thông tin Hàn Quốc và AMD cũng đang trở nên cụ thể hơn. Trước đó, hai bên đã ký MOU về việc xây dựng hạ tầng tính toán AI, thành lập trung tâm nghiên cứu AI của AMD và đào tạo nhân lực. Vào tháng 10, AMD đã công bố kế hoạch thành lập trung tâm nghiên cứu AI tại Hàn Quốc với hàng trăm nhân sự. Ông Lee Do-gyu, Cục trưởng Cục Chính sách Thông tin và Truyền thông thuộc Bộ Khoa học và Công nghệ, chia sẻ tại phiên thảo luận: “Trong MOU có nội dung hợp tác với NPU nội địa của Hàn Quốc. Đây là một nội dung rất đặc biệt”.
Theo ông, các MOU thông thường thường mang tính tổng quát, nhưng lần này AMD đã trực tiếp chỉ đích danh sự hợp tác với NPU của Hàn Quốc, và các hoạt động thực thi đang diễn ra ngay tại hiện trường. Chính phủ Hàn Quốc có kế hoạch xây dựng các tham chiếu thử nghiệm quy mô lớn kết hợp nhiều phương án, trong đó có CPU/GPU của AMD trên nền tảng NPU nội địa, nhằm hỗ trợ nhu cầu áp dụng từ khu vực công, tư nhân và thị trường nước ngoài.
Thử thách chứng minh lợi thế chi phí
Vai trò của các doanh nghiệp Hàn Quốc không dừng lại ở việc cung cấp linh kiện. Ông Ramin Roane, Phó chủ tịch quản lý sản phẩm AI tại AMD, cho biết: “Chúng tôi đang cùng các đối tác trong hệ sinh thái Hàn Quốc xây dựng hệ thống phần mềm ‘cây nhà lá vườn’ dựa trên ROCm”. Để cung cấp dịch vụ mô hình AI, cần tối ưu hóa tính toán phù hợp với phần cứng và liên tục cập nhật phần mềm mỗi khi có mô hình mới. Đồng thời, nhiều thiết bị khác nhau phải vận hành như một hệ thống thống nhất.
Công ty phần mềm hạ tầng AI More nhận định rằng các trung tâm dữ liệu không còn chỉ dừng lại ở việc cho thuê tài nguyên tính toán GPU mà đang chuyển mình thành các ‘nhà máy mã thông báo’ (token factory), nơi tự vận hành mô hình và cung cấp token. Ông Cho Kang-won, CEO của More, giải thích rằng bằng cách kết hợp phần mềm tối ưu hóa cấp chip và cấp cụm trên nền tảng ROCm của AMD, công ty đang phát triển cấu trúc hỗ trợ nhanh các mô hình mới nhất và có thể sử dụng kết hợp nhiều loại GPU khác nhau của AMD, Nvidia cũng như NPU nội địa trong tương lai. More cho biết kết quả đo lường nội bộ cho thấy khả năng suy luận của mô hình GLM cao gấp khoảng 2 lần so với sự kết hợp giữa GPU Nvidia thông thường và phần mềm mã nguồn mở tiêu chuẩn. Theo công ty, các doanh nghiệp tự xây dựng trung tâm dữ liệu có thể giảm chi phí vận hành xuống khoảng một nửa so với việc sử dụng dịch vụ token bên ngoài.
MangoBoost nhấn mạnh năng lực hệ thống trong việc tối ưu hóa đồng bộ mạng lưới, lưu trữ, bộ tăng tốc và phần mềm. CEO Kim Jang-woo cho biết: “Chủ quyền dữ liệu rất quan trọng, nhưng điều quan trọng hơn nữa là AI hiện nay quá đắt đỏ”, đồng thời giới thiệu trường hợp giúp các tập đoàn lớn của Hàn Quốc tăng hiệu suất GPU và kết hợp phần cứng nội bộ, qua đó cải thiện hiệu suất trên chi phí lên hơn 2 lần.
Park Young-hee, Giám đốc Trung tâm Nhóm Công nghệ Điện toán Đám mây của Naver Cloud, cho biết họ đang vận hành khoảng 35.000 máy chủ sử dụng CPU ‘EPYC’ của AMD. Theo bà, hệ thống này giúp tiết kiệm 20-25% diện tích rack so với các hệ thống dựa trên Intel, và việc mở rộng triển khai đã được xem xét dựa trên tổng chi phí sở hữu (TCO) bao gồm cả điện năng và làm mát.
Tuy nhiên, để hạ tầng dị thể ổn định trên thị trường, các loại chip khác nhau cần phải tương thích một cách tin cậy và chứng minh được hiệu năng cùng chi phí một cách khách quan. CEO Cho nhấn mạnh: “Nếu một nhà cung cấp nào đó quyết định không cung cấp GPU cho Hàn Quốc trong 1 năm, thì hiện tại chúng ta sẽ không thể xây dựng trung tâm dữ liệu được”. Điều đó có nghĩa là không chỉ dừng lại ở việc áp dụng các loại chip mới, mà cần có năng lực phần mềm và hệ thống để vận hành trung tâm dữ liệu ngay cả khi nhà cung cấp thay đổi.
Ông Lee kết luận: “Chính phủ sẽ hỗ trợ hết mình để các doanh nghiệp của chúng ta đóng vai trò đối tác đích thực trong hệ sinh thái mở toàn cầu, đồng thời nỗ lực xây dựng môi trường để các thông tin quan trọng, nhạy cảm có thể được xử lý ngay tại Hàn Quốc”.