[BizHanKook] Một nhân viên ngân hàng ăn mặc chỉn chu trên màn hình lên tiếng: “Tôi sẽ thông báo cho bạn những điểm cần lưu ý.” Cô ấy giơ tay và hơi nghiêng đầu. Bạn có phân biệt được nhân viên ngân hàng trên màn hình là người thật hay là con người nhân tạo (AI Human) không? Câu hỏi này nảy sinh từ đợt đấu thầu dự án “Nâng cấp nhân viên ngân hàng AI” của Shinhan Bank vào năm 2022, dẫn đến một vụ kiện kéo dài khoảng 4 năm.
Vì đây là dự án đòi hỏi năng lực công nghệ AI, nên nhiệm vụ nộp “video ghi hình ứng dụng con người nhân tạo” là một phần bắt buộc trong hồ sơ dự thầu. Tuy nhiên, một nghi vấn đã được đặt ra đối với video của công ty được chọn làm đối tác ưu tiên, cho rằng đó là “video người thật chứ không phải AI”. Ngay cả trong kết quả giám định do tòa án yêu cầu, cũng có ý kiến cho rằng khả năng cao đó là video thực tế. Vậy tại sao bên thua kiện lại là phía công ty đưa ra nghi vấn? Hãy cùng điểm lại cuộc tranh chấp kéo dài 4 năm xung quanh dự án nâng cấp nhân viên ngân hàng AI này.
Tranh cãi về “video người thật” nảy sinh từ gói thầu nhân viên ngân hàng AI
Vào ngày 18 tháng 9, Tòa án Trung tâm Seoul (Phân khu dân sự 22) đã đứng về phía Shinhan Bank trong vụ kiện do Maim AI khởi xướng (với DeepBrain AI tham gia với tư cách là bên hỗ trợ bị đơn) nhằm yêu cầu tuyên bố vô hiệu hóa việc lựa chọn đối tác ưu tiên. Maim AI cũng đã yêu cầu bồi thường thiệt hại khoảng 1,5 tỷ won nhưng yêu cầu này cũng không được chấp nhận.
Maim AI là một công ty niêm yết trên KOSDAQ chuyên về AI tác nhân, robot và AI vật lý. Tại thời điểm niêm yết, tên công ty là Mindslab, nhưng đã đổi thành tên hiện tại vào tháng 3 năm 2023. DeepBrain AI là doanh nghiệp cung cấp dịch vụ AI hội thoại và tạo video AI dựa trên công nghệ AI con người.
Yêu cầu khởi kiện của Maim AI chủ yếu dựa trên hai luận điểm: Thứ nhất, việc Shinhan Bank chọn DeepBrain AI làm đối tác ưu tiên trong đợt đấu thầu “Dự án nâng cấp nhân viên ngân hàng AI” vào tháng 6 năm 2022 là vi phạm tiêu chí đánh giá nên phải vô hiệu; thứ hai, Shinhan Bank đã tiến hành đấu thầu không công bằng, vi phạm nghĩa vụ của bên mời thầu và gây thiệt hại cho nhà thầu.
Cuộc tranh chấp pháp lý giữa Maim AI với Shinhan Bank và DeepBrain AI bắt đầu từ tháng 11 năm 2022. Shinhan Bank, đơn vị đã mở chi nhánh không người trực đầu tiên trong ngành vào tháng 9 năm 2021 với sự góp mặt của nhân viên ngân hàng AI, đã tiến hành đấu thầu nâng cấp vào tháng 6 năm 2022. Có hai công ty tham gia đấu thầu, và sau khi đánh giá kỹ thuật, DeepBrain AI đã được chọn làm đối tác ưu tiên vào ngày 23 tháng 6 năm 2022.
Ngay trong ngày công bố kết quả, Maim AI đã lập tức khiếu nại. Không chỉ đơn thuần là phản đối kết quả, Maim AI yêu cầu một cuộc “kiểm định video”. Họ đặt nghi vấn rằng video mà DeepBrain AI nộp trong quá trình đấu thầu không phải là video con người nhân tạo mà là “video người thật” được quay lại.
Vì nhân viên ngân hàng AI phải thay thế nhân viên thực hiện dịch vụ tài chính, công nghệ cần phải thể hiện tự nhiên các chuyển động và biểu cảm của con người. Nhiệm vụ của nhân viên ngân hàng AI được ghi trong yêu cầu mời thầu là tư vấn cho vay vốn thuê nhà. Nhân viên AI phải thực hiện các vai trò như chào đón khách hàng, kiểm tra số thứ tự, nhận giấy tờ tùy thân và kết nối khách hàng với nhân viên tư vấn.
Trong quá trình chọn đối tác, Shinhan Bank yêu cầu các công ty nộp video “ghi hình con người nhân tạo trên màn hình chuyên dụng tại quầy kỹ thuật số” và “con người nhân tạo dùng cho di động/PC”. Nhiệm vụ yêu cầu đáp ứng trình độ chất lượng nhất định về độ tự nhiên, biểu cảm khuôn mặt, cử động đầu, tông giọng, phát âm biểu cảm, đồng bộ khẩu hình và các động tác hành vi của con người nhân tạo.
Vào thời điểm đó, việc sử dụng công nghệ “Speech to Face (STF)” để tạo ra con người nhân tạo là rất phổ biến. Công nghệ STF ghi lại các chuyển động và lời nói của người mẫu thật, sau đó dùng dữ liệu đó để huấn luyện mô hình AI. Con người nhân tạo sau quá trình học và hậu kỳ có thể tạo ra video trông như người mẫu thật đang nói theo văn bản được nhập vào. Maim AI đã nộp video con người nhân tạo áp dụng công nghệ STF.
Nghi vấn về video người thật nảy sinh trong quá trình phát video của các công ty trên thiết bị kỹ thuật số của Shinhan Bank. Sau khi xem video của DeepBrain AI, Maim AI cho rằng đó là video người thật. Khi kết quả được công bố, Maim AI đã khiếu nại với Shinhan Bank rằng phương thức kiểm định video không thỏa đáng. Maim AI đề xuất phương pháp kiểm tra bằng cách vận hành trực tiếp máy chủ AI tại chỗ để tái hiện video như hồ sơ nộp, nhưng Shinhan Bank đã từ chối.
Do việc kiểm định video không thành, Maim AI đã quyết định khởi kiện. Năm 2024, khi vụ kiện đang diễn ra, tòa án đã yêu cầu “Viện phân tích video pháp lý” (Law Video Analysis Institute) giám định video do DeepBrain AI nộp, đưa vụ án sang một bước ngoặt mới. Đây là đơn vị do Hwang Min-gu, chuyên gia phân tích video nổi tiếng trong nước, dẫn dắt, chuyên phân tích bằng phương pháp khoa học các video bằng chứng được yêu cầu từ tòa án, cảnh sát, quân đội và cứu hỏa.
Kết quả giám định được Viện phân tích video pháp lý đưa ra vào tháng 5 năm 2025 trùng khớp với lập luận của Maim AI. Ý kiến cho rằng video của DeepBrain AI khả năng cao là video người thật chứ không phải bản ghi con người nhân tạo.
Theo tài liệu giám định và ý kiến của chuyên gia mà Bizhankook thu thập được, Viện phân tích video pháp lý đã phân tích dựa trên các cơ sở: △ Không xác nhận được quá trình mã hóa (encoding) sau khi tạo con người nhân tạo; △ Có hiện tượng video bị giật khác với video con người nhân tạo thông thường; △ Khi đọc câu dài, có thể quan sát thấy ánh mắt người mẫu di chuyển như đang đọc văn bản; △ Có bóng đổ quanh miệng theo cử động tay của người nói. Kết luận của viện là: “Có nhiều chi tiết xuất hiện các mô hình khó thấy trong công nghệ con người nhân tạo” và “Khả năng cao đây là video người thật hơn là video con người nhân tạo qua công nghệ deepfake”.
Không công nhận vô hiệu hóa đấu thầu dù có nghi vấn video người thật
Tuy nhiên, dù có kết quả giám định từ tòa án, vụ kiện vẫn kết thúc với thất bại của Maim AI. Tòa án thừa nhận rằng DeepBrain AI có thể đã không nộp video con người nhân tạo đúng nghĩa, nhưng cho rằng đó không phải là lý do đủ để lật ngược hợp đồng giữa các doanh nghiệp tư nhân. Tòa cũng lưu ý rằng Shinhan Bank không chỉ dựa vào video mà còn đánh giá dựa trên nhiều yếu tố định tính và định lượng khác trong quá trình chọn đối tác.
Hội đồng xét xử nhận định: “Chỉ dựa vào lập luận hoặc bằng chứng của Maim AI thì không thể coi quá trình Shinhan Bank kiểm định hồ sơ của DeepBrain AI và duy trì vị thế đối tác ưu tiên là vi phạm nguyên tắc thiện chí”. Tòa cho rằng “quan trọng hơn việc video của DeepBrain AI có phải là người thật hay không, là việc liệu quy trình kiểm định thời điểm đó có đạt mức độ phù hợp hay không”. Đối với Shinhan Bank, tòa kết luận: “Khó có thể coi là vi phạm nguyên tắc thiện chí đến mức làm tổn hại tính công bằng của đấu thầu và xâm phạm quyền lợi pháp lý của nguyên đơn”.
Sau khi Maim AI từ bỏ kháng cáo, phán quyết đã có hiệu lực vào ngày 3 tháng 10. Yoo Tae-joon, CEO của Maim AI, giải thích lý do từ bỏ kháng cáo: “Bởi vì chúng tôi đã xác nhận qua giám định của tòa án rằng công ty đối thủ đã nộp video người thật. Hơn nữa, dự án đấu thầu cũng đã kết thúc rồi. Tôi cho rằng khó có thể lật ngược kết quả về mặt pháp lý”.
Ông Yoo nhấn mạnh: “Tôi cho rằng với phán quyết lần này, các bên mời thầu sẽ càng củng cố quyền tự quyết của họ trong hồ sơ mời thầu. Tôi nghĩ cần có những hạn chế để ngăn chặn các đơn vị mời thầu vốn đã có quyền lực lớn không được lạm dụng quyền hạn áp đặt đối với các nhà thầu”.
Mặt khác, vào tháng 7 năm 2024 khi vụ kiện vẫn đang tiếp diễn, DeepBrain AI và Shinhan Bank đã công khai nhân viên ngân hàng AI mới sau khi nâng cấp. Đó là con người nhân tạo được tạo ra bằng cách quay phim 5 nhân viên thực tế đang làm việc tại Shinhan Bank rồi tổng hợp hình ảnh và giọng nói. Nhân viên này đã được triển khai tại các Kiosk thông minh và bàn kỹ thuật số ở các chi nhánh của Shinhan Bank trên toàn quốc.
Khi được hỏi về vụ kiện, DeepBrain AI phản hồi: “Video chúng tôi nộp được sản xuất bằng công nghệ AI Human của công ty. Đây là phương pháp kết hợp các động tác quay sẵn với khuôn mặt và khẩu hình được tạo ra thông qua mô hình riêng đã học dữ liệu của nhân vật cụ thể, đây là phương pháp vẫn được sử dụng rộng rãi trong ngành AI Human. Chúng tôi đã làm rõ điều này đầy đủ trong quá trình xét xử”. Họ cho biết thêm: “Chúng tôi đã cung cấp nhân viên ngân hàng AI cho các ngân hàng lớn trong nước. Nhân viên ngân hàng AI của Shinhan Bank công bố năm 2024 đã được làm dựa trên nhân viên thật tại chi nhánh nên biểu cảm và cử động tự nhiên hơn, đồng thời được nâng cấp để xử lý nhiều công việc tư vấn khác nhau tại bàn kỹ thuật số”.
Shinhan Bank cho biết: “Vì đây là vấn đề đã được tòa án đưa ra phán quyết sau khi kết thúc vụ kiện, chúng tôi khó có thể đưa ra câu trả lời vì khả năng phát sinh tranh chấp thêm”.