[비즈한국] Trong bối cảnh trọng tâm của cuộc đua AI đang chuyển dịch từ các chatbot đưa ra câu trả lời sang các 'tác nhân' (agent) thực hiện công việc thay cho con người, Kakao đang mở rộng KakaoTalk thành một giao diện trí tuệ nhân tạo (AI) có khả năng thực hiện các thao tác thực tế. Người dùng có thể gọi AI từ bất kỳ màn hình nào và thay vì phải tìm kiếm trong menu, họ có thể yêu cầu chỉ bằng một lời nói, chẳng hạn như "Hãy đặt mua nước đóng chai". Kakao có kế hoạch sử dụng lịch sử mua hàng và ngữ cảnh trò chuyện của cá nhân, đồng thời phân biệt sự đồng ý theo từng dịch vụ và kiểm soát riêng biệt các quyền thực thi như đặt hàng.
Kakao đã công bố chiến lược này tại hội nghị nhà phát triển thường niên 'if(kakao)26' được tổ chức tại Kakao AI Campus ở Yongin, tỉnh Gyeonggi vào ngày 13. Sự kiện kéo dài hai ngày từ 13 đến 14 với chủ đề "Thông minh cho mọi kết nối" đã giới thiệu các dịch vụ đại diện dựa trên cá nhân hóa cùng các mô hình, cơ sở hạ tầng và thiết kế an toàn hỗ trợ cho dịch vụ đó.
Hoạt động kinh doanh AI của Kakao đang đối mặt với bài toán ổn định dịch vụ và đảm bảo lợi nhuận. Mảng dịch vụ AI đã ghi nhận khoản lỗ hoạt động khoảng 58 tỷ won trong quý 2 năm nay. Kakao đặt mục tiêu đạt 10 triệu người dùng hoạt động hàng tháng (MAU) cho dịch vụ AI trong KakaoTalk vào cuối năm nay và bắt đầu thu lợi nhuận từ năm tới. Chiến lược đại diện được công bố lần này tập trung vào việc kết nối cơ sở người dùng KakaoTalk hiện có với việc sử dụng thực tế và giao dịch của dịch vụ AI.
Vuốt màn hình là Ryan xuất hiện, đặt hàng chỉ bằng một lời nói
‘Kanana Space’ mà Kakao công bố là một trợ lý AI mở ra trên màn hình người dùng đang xem khi vuốt màn hình KakaoTalk bằng hai ngón tay. Kim Dae-nyeon, lãnh đạo phụ trách thiết kế tại Kakao, cho biết: "Chúng tôi đã thiết kế Space không phải là một tab khác hay một màn hình riêng biệt, mà là một lớp AI mở ra ở bất cứ đâu trong KakaoTalk", và nói thêm: "Bạn có thể yêu cầu bằng giọng nói hoặc văn bản".
Trong tương lai, ngay cả khi bỏ lỡ lời nhờ đón con trong phòng chat nhóm của gia đình, bạn vẫn có thể hỏi AI trong KakaoTalk để kiểm tra thời gian khởi hành. Bạn có thể chọn lọc chỉ các tin nhắn công việc trong số những tin nhắn tích tụ qua đêm để nắm bắt thời hạn phản hồi và trả lời ngay tại chỗ. Lãnh đạo Kim cho biết: "Nó không chỉ tóm tắt tin nhắn mà còn hiển thị tập trung vào những việc cần làm ngay bây giờ", và nhấn mạnh: "Điều quan trọng là nó không kết thúc ở việc tóm tắt mà dẫn đến hành động tiếp theo ngay lập tức".
Kakao có kế hoạch mở rộng phạm vi thực hiện sang đặt hàng, gửi quà, đặt lịch và chuyển tiền. Kanana Space bắt đầu nhận đăng ký trước từ ngày hôm nay và sẽ tiến hành thử nghiệm beta kín (CBT) sau tháng 12 đối với những người dùng được chọn. Ứng dụng AI độc lập 'Kanana' được ra mắt năm ngoái sẽ ngừng hoạt động từ ngày 15 tới.
'Kanvas', nơi người dùng có thể tự tạo và chạy các tác nhân trên PC, cũng đã được công bố. Đây là dịch vụ cho phép người dùng cấu hình tác nhân bằng cách kết nối các công cụ và chức năng phù hợp khi họ mô tả vai trò và công việc cần thiết. Lúc này, mỗi tác nhân sẽ được tách biệt trình duyệt và áp dụng sandbox (không gian thực thi cách ly với bên ngoài) để đảm bảo các thao tác xác thực và thanh toán không bị lọt ra ngoài phạm vi cho phép. Kế hoạch là tiến hành thử nghiệm quy mô nhỏ sớm nhất trong năm nay và kết nối các tác nhân được tạo bằng các khung (framework) khác vào KakaoTalk trong nửa đầu năm sau.
Vì tác nhân thực hiện cả các hành động thực tế, quyền kiểm soát của người dùng cũng được đưa ra làm nguyên tắc thiết kế cốt lõi. Lãnh đạo Kim nhấn mạnh: "Đối với các hành động quan trọng như gửi tin nhắn hoặc thanh toán, đó là cấu trúc mà người dùng tự kiểm tra và phê duyệt cuối cùng", đồng thời cho biết: "AI hỗ trợ quy trình cần thiết nhưng quyền quyết định cuối cùng vẫn để lại cho người dùng".
Mô hình theo 'mức độ khó', bộ nhớ và thực thi 'kiểm soát riêng'
Vì KakaoTalk là nền tảng mà 50 triệu người dùng sử dụng 24 giờ một ngày, nên bên cạnh chất lượng câu trả lời của AI, tốc độ phản hồi và chi phí vận hành cũng rất quan trọng. Điều này là do mô hình càng lớn thì khối lượng tính toán cho mỗi yêu cầu càng tăng, làm giảm số lượng người dùng có thể được phục vụ bởi cùng một bộ xử lý đồ họa (GPU). Vì vậy, Kakao đã phân chia: mô hình 'Frontier' cấp cao nhất đảm nhận các vấn đề khó nhất, mô hình 'Flagship' đảm nhận hầu hết các công việc trên máy chủ, và mô hình ngôn ngữ nhỏ (SLM) đảm nhận các yêu cầu đơn giản và lặp đi lặp lại. Những việc có thể hoàn thành ngay trong điện thoại thông minh được ưu tiên xử lý bằng mô hình on-device. 'AI Conductor' sẽ quyết định sử dụng mô hình và công cụ nào theo thứ tự nào.
Noh Byung-seok, lãnh đạo phụ trách mô hình nền tảng tại Kakao, cho biết: "Không cần thiết phải sử dụng cùng một lượng tính toán cho yêu cầu sửa lỗi chính tả và yêu cầu so sánh nhiều điều kiện để lập kế hoạch du lịch", đồng thời nêu ra tiêu chuẩn: "Chúng tôi cung cấp kết quả tốt nhất cho mọi yêu cầu, nhưng không sử dụng mô hình lớn nhất cho tất cả các yêu cầu".
Mục đích là duy trì chất lượng bằng cách phân bổ tài nguyên tính toán phù hợp với công việc cần thiết, đồng thời đảm bảo hiệu quả cần thiết cho dịch vụ quy mô lớn. Theo Kakao, thông qua bộ tách từ (tokenizer) tiếng Hàn tự phát triển và tối ưu hóa suy luận, tốc độ tạo câu trả lời đã tăng trung bình gấp 3,9 lần và lượng sử dụng bộ nhớ giảm khoảng 70%. Tokenizer là công nghệ chia câu thành các đơn vị nhỏ mà mô hình AI có thể xử lý; việc tối ưu hóa cho tiếng Hàn có thể giảm bớt các tính toán cần thiết để xử lý cùng một câu.
Cách thức nhập và phản hồi của mô hình cũng được mở rộng. Kakao đã giới thiệu kế hoạch phát triển 'Kanana-o', mô hình ngôn ngữ đa phương thức (omni-language model) hiểu đồng thời văn bản, hình ảnh, giọng nói và trả lời bằng giọng nói, cùng với 'Kanana Live' có thể phản ứng ngay cả khi đối phương đang nói hoặc được sử dụng để thông dịch thời gian thực. Các bộ mã hóa và giải mã cấu thành Kanana-o dự kiến sẽ được công bố mã nguồn mở để có thể sử dụng trong hệ sinh thái AI trong và ngoài nước.
Nền tảng của sự cá nhân hóa là 'Project Mosaic'. Đây là hệ thống bộ nhớ giúp kết nối các ký ức nằm rải rác trên nhiều dịch vụ và tác nhân thành ngữ cảnh, giúp người dùng không phải giải thích lại từ đầu dù dịch vụ có thay đổi. Điểm cốt lõi là 'ghi nhớ người dùng nhưng không vội vã kết luận về sở thích chỉ từ một vài hồ sơ'. Song Jae-ha, Giám đốc công nghệ (CTO) của Kakao, đã lấy ví dụ về việc mua giày trẻ em để tặng cháu: "Cần phải phân biệt giữa dữ liệu mua hàng và việc diễn giải sở thích, đồng thời quản lý cả nguồn gốc và thời điểm của thông tin. Nếu là AI ghi nhớ tôi, nó cũng phải ghi nhớ thực tế rằng tôi có thể thay đổi".
'Ký ức' chỉ được cung cấp trong phạm vi đồng ý của từng dịch vụ. Ký ức được đồng ý sử dụng cho dịch vụ A sẽ không được chuyển sang dịch vụ B, và nếu rút lại sự đồng ý, việc cung cấp sẽ dừng lại từ các yêu cầu tiếp theo. Tuy nhiên, các ký ức đã được chuyển đi trước đó sẽ không tự động bị thu hồi. CTO Song đã chỉ ra đây là "bài toán mà dịch vụ và nền tảng bộ nhớ phải cùng giải quyết". Giám đốc điều hành Chung Shin-a giải thích rằng người dùng có thể tự lựa chọn và quản lý phạm vi sử dụng AI ngay từ bước đồng ý sử dụng dịch vụ.
Ở giai đoạn thực thi, yêu cầu sẽ được kiểm duyệt thêm một lần nữa. Nếu lệnh "hết hàng rồi, hãy đổi sang sản phẩm khác" xen vào trong quá trình đặt hàng lại, AI sẽ kiểm tra lại kế hoạch hành động trước khi thực hiện, và nếu nằm ngoài phạm vi được giao, nó sẽ dừng lại thay vì đặt hàng và yêu cầu người dùng xác nhận. Giải thích cho biết việc kiểm chứng không chỉ dừng lại ở câu trả lời cuối cùng, mà còn kiểm tra xem đã gọi công cụ nào trong môi trường thử nghiệm. Điều này là do nếu AI trả lời "tôi chưa đặt hàng" nhưng trước đó đã thực hiện đơn hàng thì có thể đã quá muộn.
CTO Song nhấn mạnh: "Chúng ta không thể phó mặc ranh giới kiểu như tiến hành trong phạm vi đã giao nhưng kiểm tra khi vượt quá phạm vi đó cho phán đoán của mô hình", và nói thêm: "Ký ức có thể là cơ sở cho phán đoán nhưng không trở thành quyền lực của hành động".