[비즈한국] Tranh cãi đang tiếp diễn xung quanh thực hư của Moltbook, nền tảng tự quảng bá là mạng xã hội dành riêng cho các tác nhân trí tuệ nhân tạo (AI). Theo các báo cáo kiểm chứng từ những trang tin công nghệ lớn tại Mỹ và châu Âu, khái niệm cốt lõi của Moltbook – nơi các AI tự giao tiếp và hình thành mối quan hệ mà không cần sự can thiệp của con người – vốn khác xa với thực tế. Nhiều bằng chứng cho thấy người dùng là con người, bao gồm cả đội ngũ vận hành, đã đứng sau việc tạo ra nội dung chủ chốt. Trái ngược với quảng cáo về một hệ sinh thái AI tự chủ, nhiều ý kiến đánh giá đây chẳng khác nào một “vở kịch rối kỹ thuật số” được dàn dựng công phu.
Nội dung do con người dẫn dắt… Hệ sinh thái tự chủ chỉ là ‘hư cấu’
Việc Moltbook nhận được sự chú ý toàn cầu trong thời gian ngắn phần lớn bắt nguồn từ việc lan truyền các cảnh quay AI thảo luận về nhu cầu đời tư hoặc chia sẻ các luận điểm triết học trong không gian không có sự hiện diện của con người. Đặc biệt, sự việc đạt đến đỉnh điểm khi Andrej Karpathy, cựu giám đốc khoa học của OpenAI, chia sẻ các bài viết liên quan.
Tuy nhiên, kết quả kiểm chứng sau đó lại không như kỳ vọng. Ngày 6 (giờ địa phương), MIT Technology Review đưa tin rằng hầu hết các bài đăng đều là nội dung giả mạo do con người đóng giả AI viết ra. Nền tảng phân tích xu hướng AI Propensity Labs cũng đã phân tích toàn bộ 1.000 bài viết phổ biến nhất trên Moltbook và cho biết khoảng 2/3 trong số đó có khả năng cao được viết bởi con người. Điều này có nghĩa là phần lớn những cảnh tượng trông có vẻ là cuộc thảo luận tự chủ giữa các AI thực chất đều do con người dàn dựng.
Cấu trúc nền tảng cũng được thiết kế theo cách khó có thể vận hành nếu thiếu sự can thiệp của con người. Từ khâu thiết lập hệ thống, tải bài đăng lên, cho đến cấu trúc hiển thị, mọi quy trình đều đòi hỏi sự tác động thủ công của đội ngũ vận hành hoặc sự can thiệp từ con người. Do đó, nhiều người chỉ trích rằng danh xưng “không gian không có con người” mà Moltbook theo đuổi thực chất chỉ là những lời quảng cáo tiếp thị.
Thực trạng được xác nhận qua dữ liệu còn nghiêm trọng hơn. Đa số các bình luận đều biến mất mà không nhận được phản hồi, và phần lớn các tin nhắn chỉ dừng lại ở mức lặp đi lặp lại cùng một mẫu. Một số chuyên gia AI đã nhận xét rằng: “Thay vì các tương tác xã hội giữa các AI được hình thành, kết quả này giống như sự phản chiếu của các dữ liệu đầu vào từ con người hơn”.
Lộ lỗ hổng bảo mật… Tranh cãi vượt xa khỏi phạm vi ‘thử nghiệm’
Trước vấn đề về tính xác thực của nội dung, các tranh cãi vẫn chưa dừng lại. Tình hình càng trở nên trầm trọng hơn khi phát hiện ra lỗi thiết lập cơ sở dữ liệu của Moltbook đã gây ra lỗ hổng bảo mật quy mô lớn. Điều này xảy ra do cấu trúc của Moltbook khiến các mã xác thực API và tin nhắn riêng tư của các công ty AI lớn như OpenAI và Anthropic có thể bị lộ ra ngoài. Theo đó, khả năng thông tin tài khoản trả phí bị đánh cắp hàng loạt cũng đã được đặt ra, dẫn đến những lời chỉ trích rằng đây là sự yếu kém trong quản lý không thể coi là một dự án thử nghiệm đơn thuần.
Trước những tranh cãi liên tiếp, một số ý kiến hoài nghi cho rằng đội ngũ sản xuất Moltbook tuy quảng bá là một thử nghiệm nhằm cho thấy tương lai của công nghệ AI, nhưng thực chất lại tập trung vào các yếu tố giải trí và tính thời sự thay vì trách nhiệm bảo mật và đạo đức. Kết quả là, thay vì một môi trường kiểm chứng sự tự chủ của AI, đây được đánh giá giống như một chiến dịch tiếp thị lợi dụng sự kỳ vọng và ảo tưởng của công chúng.
Tranh cãi về Moltbook lần này cho thấy rõ sự nguy hiểm của việc đánh giá đổi mới chỉ dựa trên vẻ bề ngoài của công nghệ trong thời điểm ranh giới giữa con người và AI đang mờ dần. Nhiều ý kiến chỉ ra rằng nếu thiếu sự kiểm chứng về những thiết kế và can thiệp đằng sau cảnh tượng “AI tự xây dựng xã hội”, công nghệ có thể dễ dàng bị tiêu thụ như một tương lai được dàn dựng.
Trong ngành, tiếng nói yêu cầu thiết lập các tiêu chuẩn kiểm chứng và hướng dẫn bảo mật nghiêm ngặt hơn đối với công nghệ tác nhân AI đang ngày càng lớn mạnh sau trường hợp này. Những lập luận cho rằng sự minh bạch trong phương thức vận hành và xử lý dữ liệu đằng sau các sản phẩm công nghệ sẽ trở thành tiêu chuẩn cốt lõi quyết định niềm tin vào ngành công nghiệp AI trong tương lai, đang ngày càng trở nên thuyết phục.