[비즈한국] Cùng với sự phát triển của trí tuệ nhân tạo (AI) tạo sinh, ngành tài chính cũng đang tích cực ứng dụng công nghệ AI. Song hành với đó, mặt trái mang tên "lừa đảo tài chính bằng công nghệ mới" cũng đã xuất hiện. Do công nghệ ngày càng tinh vi khiến việc phân biệt thật giả trở nên khó khăn, thiệt hại từ hình thức lừa đảo này được dự báo sẽ ngày càng lớn, tuy nhiên, việc phòng ngừa và khắc phục hậu quả theo luật hiện hành không hề dễ dàng. Trong bối cảnh "Luật cơ bản về phát triển trí tuệ nhân tạo và tạo lập niềm tin (Luật cơ bản về AI)" đã được Ủy ban Khoa học, Công nghệ, Thông tin và Truyền thông Quốc hội thông qua vào ngày 26 tháng 11, nhiều ý kiến cho rằng cần có những quy định lập pháp chi tiết hơn để ngăn chặn các tội phạm tài chính liên quan đến AI.
Khi các vụ lừa đảo tài chính lạm dụng công nghệ AI tạo sinh ngày càng gia tăng, một diễn đàn đã được tổ chức để thảo luận về các biện pháp phòng ngừa và khắc phục thiệt hại cho người tiêu dùng. Vào ngày 27 tháng 11, Diễn đàn Quyền lợi Người tiêu dùng, Hiệp hội Người tiêu dùng Tài chính Hàn Quốc, Hành động Người tiêu dùng Tương lai và Văn phòng Đại biểu Quốc hội Kim Byung-ki (Đảng Dân chủ Đồng hành) đã đồng tổ chức diễn đàn 'Tìm kiếm giải pháp bảo vệ người tiêu dùng trước lừa đảo tài chính sử dụng công nghệ mới'.
Lừa đảo tài chính dựa trên AI có ba loại chính. Thứ nhất là lừa đảo Deepfake, sử dụng video giả mạo người nổi tiếng để dẫn dụ nhà đầu tư. Thủ đoạn này là tạo ra video Deepfake khuôn mặt của các nhân vật uy tín trong ngành tài chính hoặc người nổi tiếng để lôi kéo đầu tư. Hồi tháng 3, 137 người nổi tiếng bị mạo danh đã phải đích thân đứng ra yêu cầu giải quyết vấn đề.
Thứ hai là lừa đảo 'AI washing' (tẩy trắng bằng AI). Kẻ gian quảng cáo quá mức hoặc sai sự thật về việc sử dụng công nghệ AI để thu hút người tiêu dùng, mặc dù thực tế chúng không hề ứng dụng công nghệ này. Ví dụ, họ quảng bá "kiếm lợi nhuận cao nhờ chương trình giao dịch cổ phiếu dựa trên AI", nhưng thực tế chương trình hay phương pháp đầu tư đó hoàn toàn không tồn tại.
Thứ ba là lừa đảo qua 'Chatbot AI'. Hình thức này còn được sử dụng trong các vụ phạm tội 'Romance Scam' (lừa đảo tình cảm), nơi kẻ gian tiếp cận nạn nhân qua tin nhắn để chiếm lòng tin rồi sau đó yêu cầu chuyển tiền.
Các chuyên gia tại diễn đàn đều đồng tình rằng luật hiện hành rất khó để ngăn chặn lừa đảo tài chính AI hoặc khắc phục thiệt hại. Moon Chan-hyun, chuyên viên tại Hành động Người tiêu dùng Tương lai (Chuyên gia hoạch định tài chính quốc tế), người chủ trì phần trình bày, cho biết: "Nếu nhìn vào các video lừa đảo đầu tư Deepfake, chất lượng thực tế không cao. Chúng rất sơ sài đến mức có thể nhận ra là giả, nhưng thiệt hại vẫn liên tiếp xảy ra. Điều đó cho thấy có rất nhiều người yếu thế về tài chính". Ông nói thêm: "Trái với quan niệm thông thường rằng nạn nhân lừa đảo tài chính thường là người lớn tuổi hoặc trình độ học vấn thấp, thực tế tình trạng này xảy ra nhiều ở độ tuổi 40-50, những người có hoạt động kinh tế tích cực. Việc kẻ lừa đảo số 1 là người quen, tiếp đó là nhân viên ngành tài chính cũng là lý do khiến thiệt hại trở nên nghiêm trọng".
Chuyên viên Moon tư vấn: "Khi các loại hình lừa đảo tài chính xuất hiện dưới dạng phức hợp như huy động vốn trái phép, Phishing, Smishing, Scam, số tiền thiệt hại trên mỗi người đang ngày càng tăng. Để bảo vệ người tiêu dùng tài chính, cần bổ sung các chế định như tăng cường hình phạt đối với lừa đảo tài chính, nỗ lực đẩy mạnh hoạt động quảng bá các loại hình và phương pháp phòng ngừa, đồng thời thực hiện giáo dục tài chính để nâng cao năng lực cho người tiêu dùng".
Một điểm đáng lưu ý khác là việc bồi thường hầu như không khả thi ngay cả khi người tiêu dùng bị thiệt hại khi sử dụng dịch vụ AI của các tổ chức tài chính. Giáo sư Jung Shin-dong từ Trường Luật Đại học Ngoại ngữ Hàn Quốc chỉ ra: "Trong lĩnh vực tài chính, lượng dữ liệu tích lũy là rất lớn và chứa đựng nhiều thông tin nhạy cảm. Tuy nhiên, khi thiệt hại xảy ra do lỗi của tổ chức tài chính, người tiêu dùng không thể tự mình chứng minh được vấn đề. Đó là do đặc điểm của AI là tính tự chủ và thiếu minh bạch".
AI đưa ra quyết định một cách tự chủ, nhưng khi xảy ra sự cố, rất khó để quy trách nhiệm lỗi cho AI thay vì con người. Việc quy trách nhiệm cho nhà phát triển AI cũng rất mơ hồ. Đối với tính thiếu minh bạch, các doanh nghiệp thường lấy lý do 'bí mật kinh doanh' để không công khai thuật toán AI, hơn nữa, ngay cả bản thân nhà phát triển cũng không biết AI sẽ tạo ra kết quả gì, khiến việc chứng minh mối quan hệ nhân quả của lỗi lầm trở nên vô cùng khó khăn.
Giáo sư Jung cho biết: "Trật tự pháp lý truyền thống không thể ngăn chặn thiệt hại cho người tiêu dùng. Rõ ràng đang có một khoảng trống pháp lý. Điều cơ bản cần làm là tăng cường tính minh bạch, ví dụ như bắt buộc dán nhãn để người tiêu dùng nhận biết các sản phẩm do AI tạo ra. Đồng thời, cần có sự hỗ trợ về mặt thể chế để có thể ngăn chặn tội phạm từ trước bằng cách sử dụng chính công nghệ AI".
Sau phần trình bày, trong phần thảo luận chỉ định, ý kiến về tính cần thiết của luật pháp nhằm khôi phục thiệt hại cũng đã được nêu ra. Seong Jun-ho, nghiên cứu viên cấp cao tại Viện Luật học Đại học Sungkyunkwan cho biết: "Kể cả khi trừng phạt được kẻ thủ ác thì cũng không thể khôi phục được thiệt hại. Hơn nữa, trong trường hợp lừa đảo tình cảm (Romance Scam) hay các vụ lừa đảo đầu tư kiểu mới, dù nạn nhân bị lừa nhưng do họ tự chuyển tiền nên hiện không có phương án khắc phục thực tế nào".
Lee Hyo-seob, nghiên cứu viên cấp cao tại Viện Nghiên cứu Thị trường Vốn, nhấn mạnh: "Khi tranh chấp tài chính xảy ra trên các nền tảng dựa trên AI tạo sinh, nhiều trường hợp người tiêu dùng thậm chí không biết mình là nạn nhân và quá trình giải quyết mất rất nhiều thời gian. Cần phải có một cơ quan hòa giải tranh chấp tài chính độc lập. Trong các vụ án lừa đảo, việc thu hồi số tiền bị chiếm đoạt gần như không thể, vì vậy cần phải ban hành riêng một đạo luật bảo vệ nạn nhân".
Vấn đề của luật hiện hành khi bắt buộc nạn nhân lừa đảo tài chính AI phải có nghĩa vụ chứng minh cũng đã được đề cập. Luật sư Baek Joo-sun từ công ty luật Daeyul giải thích: "Khác với các lĩnh vực tội phạm môi trường, sai sót y tế hay tranh chấp sở hữu trí tuệ – nơi luật pháp và các án lệ suy đoán lỗi hoặc mối quan hệ nhân quả của thủ phạm để giảm bớt gánh nặng chứng minh cho nạn nhân, các vụ án lừa đảo tài chính quy mô lớn lại không được thừa nhận điều đó. Cần phải bổ sung các cơ chế chi tiết để ngăn chặn sự vận hành tùy tiện của tòa án, tham khảo luật trách nhiệm hành vi phi pháp về AI của EU".
Về Luật cơ bản về AI đã thông qua tại Ủy ban Khoa học, Công nghệ, Thông tin và Truyền thông vào ngày 26 tháng 11, Jung Jun-hwa, điều tra viên lập pháp tại Viện Nghiên cứu Lập pháp, cho biết: "Đã có 19 dự thảo luật cơ bản liên quan đến AI được đề xuất và tên gọi cuối cùng đã được thống nhất là 'dựa trên niềm tin'. Cốt lõi của lừa đảo AI nằm ở chỗ người tiêu dùng khó phân biệt được đó là thông tin ảo do AI tạo ra hay thông tin có thật. Dự luật cũng nhấn mạnh việc dán nhãn các tác phẩm do AI tạo ra. Tuy nhiên, chủ thể chịu trách nhiệm dán nhãn vẫn còn mơ hồ, cần phải cụ thể hóa điều này. Ngoài ra, không chỉ cần Viện nghiên cứu an toàn AI mà còn cần một cơ quan đóng vai trò là trung tâm bảo vệ, chuyên điều tra các thiệt hại cho người tiêu dùng".
Điều tra viên Jung nhấn mạnh việc tăng cường khả năng đọc hiểu kỹ thuật số (digital literacy - năng lực tiếp nhận và hiểu thông tin) cho người tiêu dùng tài chính nên được xem là biện pháp tối thiểu. Ông khẳng định: "Nhấn mạnh quá mức vào khả năng đọc hiểu kỹ thuật số là một câu chuyện nguy hiểm. Không chỉ người tiêu dùng có khả năng đọc hiểu thấp mà cả những người có khả năng đọc hiểu cao cũng có thể bị lừa, vì họ quá tin tưởng vào phán đoán của bản thân. Nếu quá chú trọng vào việc đọc hiểu kỹ thuật số, sẽ nảy sinh vấn đề chuyển giao trách nhiệm của chính phủ hoặc công chúng sang cho người tiêu dùng".