[BizHanKook] Trong khi đơn giá sử dụng trí tuệ nhân tạo (AI) ngày càng giảm, gánh nặng chi phí vận hành AI của các doanh nghiệp lại đang tăng lên. Điều này là do sự phổ biến của các tác nhân AI (AI agent) – những ứng dụng gọi mô hình nhiều lần để hoàn thành một nhiệm vụ – dẫn đến tiêu thụ token tăng vọt. Nhắm vào điểm đau này, LG Uplus sẽ bắt tay vào mảng kinh doanh token B2B (doanh nghiệp với doanh nghiệp) vào năm tới. Chiến lược của họ là tận dụng "công thức" tối ưu hóa token giúp giảm tổng chi phí hoàn thành công việc, từ đó thu hút những khách hàng đang ngần ngại áp dụng AI vì áp lực tài chính.

LG Uplus đã tổ chức một buổi nghiên cứu dành cho truyền thông vào ngày 12 để công bố công nghệ tối ưu hóa của mình cùng định hướng kinh doanh trong tương lai. Lee Hye-jin, Giám đốc Chiến lược Công nghệ của LG Uplus, giải thích: "Chi phí thực sự của AI không nằm ở việc đưa ra câu trả lời, mà là chi phí phát sinh cho đến khi hoàn thành công việc". Token là đơn vị cơ bản để AI xử lý dữ liệu và chi phí sẽ phát sinh dựa trên lượng sử dụng. Theo bà Lee, mặc dù giá token của các Big Tech đã giảm khoảng 80% trong 1-2 năm qua, nhưng lượng tiêu thụ lại tăng gấp 3 lần. Một tác nhân (agent) có thể trải qua hơn 20 bước để đưa ra một kết quả, và các suy luận nội bộ không hiển thị trên màn hình đôi khi chiếm tới hơn 80% chi phí.
Lee Sang-yeop, Giám đốc Công nghệ (CTO) của LG Uplus, cũng chia sẻ: "Chúng tôi không muốn chỉ nói về việc so sánh giá mỗi 1 triệu token rằng 'chúng tôi đã giảm xuống còn bao nhiêu đô la'. Mục tiêu của chúng tôi là xử lý các nhiệm vụ của khách hàng với chi phí tối ưu nhất".
Dùng ít hơn, làm nhỏ đi, vận hành rẻ hơn
Bí quyết tối ưu hóa token mà LG Uplus gọi là "công thức" bao gồm việc kết hợp các kỹ thuật khác nhau tích lũy từ quá trình vận hành các dịch vụ như dịch vụ cuộc gọi AI 'ixi-O' và trung tâm liên lạc AI (AICC) để phù hợp với đặc thù công việc. Các kỹ thuật này chủ yếu chia làm ba hướng.
Đầu tiên, họ giảm lượng sử dụng token thông qua 'định tuyến mô hình' (model routing) kết nối mô hình phù hợp với độ khó của câu hỏi và 'harness engineering' giới hạn lộ trình làm việc của tác nhân. Trong các thử nghiệm nội bộ, chi phí xử lý câu hỏi thông thường đã giảm hơn 25%, chi phí tác nhân lập trình giảm hơn 30%. Trong lĩnh vực lập trình, họ đã đạt được trường hợp giảm chi phí vận hành khoảng 90% bằng mô hình tự phát triển.
Thứ hai là kỹ thuật làm cho mô hình trở nên nhỏ gọn và nhanh chóng. Họ đã giảm kích thước mô hình on-device từ 2.4~3 gigabyte (GB) xuống còn khoảng 800 megabyte (MB) trong khi vẫn duy trì hiệu suất hơn 95% so với mô hình đám mây đối chứng. Bằng cách sử dụng mô hình nhỏ để viết bản thảo và mô hình lớn để kiểm chứng, tốc độ tạo token cũng tăng hơn gấp đôi.

Họ cũng sử dụng 'chip mix', kết hợp GPU của NVIDIA/AMD với NPU của FuriosaAI. Chẳng hạn như phân tích câu hỏi được giao cho GPU NVIDIA có tốc độ tính toán nhanh, còn tạo câu trả lời được giao cho GPU AMD có bộ nhớ lớn.
Một đặc điểm khác là họ không cứng nhắc với việc chỉ dùng mô hình tự thân. CTO Lee cho biết: "Nếu mô hình tinh gọn của các Big Tech phù hợp hơn với tác vụ, chúng tôi có thể định tuyến dịch vụ sang đó". Ngay cả trong nội bộ công ty, họ cũng đang giảm chi phí bằng cách giữ nguyên giao diện của tác nhân lập trình từ Big Tech, chỉ thay đổi điểm kết nối gọi mô hình phía sau bằng nền tảng của mình. Sự kết hợp đó chính là "công thức kinh doanh". Liên quan đến cấu trúc sản phẩm và giá cả, Kim Hyun-min, Trưởng nhóm Kinh doanh Đám mây Chủ quyền, khẳng định: "Chúng tôi sẽ song song thực hiện liên kết với đối tác và xây dựng hạ tầng riêng để giảm tổng chi phí sở hữu (TCO) cho khách hàng".
Sau "phút" và "byte" là "token"... tính toán riêng của 3 nhà mạng
LG Uplus không phải là nhà mạng duy nhất coi token là "miếng bánh" mới. Khi trọng tâm của nhu cầu AI chuyển dịch từ việc học (đào tạo mô hình) sang suy luận (vận hành dịch vụ thực tế), việc sản xuất và cung cấp token ổn định với giá rẻ đã trở thành cơ hội kinh doanh.

Các nhà mạng tin rằng kinh nghiệm vận hành mạng lưới thông qua đo lường mức sử dụng cuộc gọi/dữ liệu để tính phí cùng với hạ tầng trung tâm dữ liệu chính là chìa khóa cho mảng kinh doanh token. Tuy nhiên, cách tiếp cận của mỗi bên lại khác nhau. KT tập trung vào nền tảng phân phối và tính phí tích hợp nhiều mô hình; SK Telecom chú trọng vào việc điều phối kết nối khách hàng với mô hình và hạ tầng; còn LG Uplus đặt trọng tâm vào giá thành sản xuất token và hiệu quả vận hành.
Trước đó, trong "Chiến lược tăng trưởng Gear" công bố ngày 8 tháng trước, SK Telecom đã đề xuất kinh doanh "cổng kết nối token" (token gateway). Đây là trung tâm điều phối quản lý mô hình sử dụng AI và kết nối với mô hình/hạ tầng phù hợp, tận dụng cơ sở 23 triệu khách hàng và hệ thống thanh toán sẵn có. KT cũng đã ra mắt nền tảng tích hợp mô hình AI mang tên "Token Factory" vào ngày 30 tháng trước. Họ cung cấp hơn 500 mô hình trong và ngoài nước tại một nơi, đồng thời giải thích rằng công nghệ định tuyến riêng "Auto Model Router" và nén câu lệnh (prompt) giúp giảm mức sử dụng token lên đến 25%.
Nhu cầu đang tăng trưởng mạnh mẽ. Theo thống kê của OpenRouter, một nền tảng môi giới mô hình AI được KT trích dẫn, lượng tiêu thụ token toàn cầu đã tăng khoảng 35 lần trong một năm. Dự báo rằng trong kỷ nguyên AI, token sẽ trở thành đơn vị đo lường mức sử dụng tiếp theo sau "phút" và "byte".
Hoạt động kinh doanh của cả 3 nhà mạng sẽ chính thức bắt đầu từ năm sau. KT sẽ mở rộng đối tượng sang người dùng cá nhân vào tháng 3 năm tới với gói thuê bao định kỳ; SK Telecom thúc đẩy thương mại hóa "AI Factory" hợp tác với NVIDIA vào năm sau. LG Uplus sau khi tích lũy kinh nghiệm qua việc đảm nhận phục vụ mô hình trong dự án "AI của mọi người" (ra mắt cùng Kakao vào cuối năm nay) sẽ chính thức tham gia mảng kinh doanh token B2B vào năm 2027.
Giám đốc Lee Hye-jin chia sẻ: "Đối với các doanh nghiệp đã áp dụng AI, AI hiện tại giống như một 'hố đen' ngốn tiền. Làm cho AI đó thực sự trở thành công cụ hỗ trợ nhân viên làm việc hiệu quả là lợi ích cần thiết nhất đối với khách hàng".