[비즈한국] Trí tuệ nhân tạo (AI) đang tiến hóa vượt xa mức độ trả lời câu hỏi thông thường để trở thành những "tác nhân" (agent) có khả năng tự phán đoán và thực hiện hành động. Theo đó, cùng với hiệu năng của AI, trách nhiệm pháp lý của nhà cung cấp dịch vụ đối với thiết kế dịch vụ, kiểm chứng an toàn và những tác động tới người dùng đang trở thành các vấn đề tranh cãi gay gắt. Gần đây, chính quyền 8 bang tại Mỹ đã đệ đơn kiện OpenAI, quy kết rằng phong cách trò chuyện và tính cách của ChatGPT chính là những lỗ hổng thiết kế. Các bang này lập luận rằng, trái ngược với quảng cáo về sự an toàn đối với thanh thiếu niên, thiết kế thực tế của công cụ này có thể làm tăng nguy cơ tự hại và ảo tưởng, đồng thời nhà phát triển cũng không công khai đầy đủ thông tin liên quan đến các thất bại trong việc kiểm soát các tác nhân AI tự chủ.
Ngày 14 vừa qua, 8 bang gồm Iowa, Arizona, Arkansas, Idaho, Kansas, Montana, Nebraska và West Virginia đã đệ đơn kiện riêng biệt chống lại OpenAI lên tòa án của mỗi bang. Tiếp nối vụ kiện từ bang Florida hồi tháng 6, động thái này cho thấy làn sóng phản ứng pháp lý ở cấp chính quyền bang đang lan rộng.
Vượt xa "câu trả lời nguy hiểm", trách nhiệm còn nằm ở thiết kế và kiểm thử
Chính quyền các bang đặt vấn đề về việc ChatGPT được thiết kế để luôn đồng thuận quá mức và duy trì đối thoại theo cách thức đồng cảm như con người. Việc đặc tính này ủng hộ vô điều kiện các phán đoán của người dùng có thể củng cố những suy nghĩ nguy hiểm của những người có tâm lý yếu đuối, khiến họ trở nên phụ thuộc vào AI thay vì tìm kiếm sự trợ giúp từ những người xung quanh.
Theo đơn kiện dài 91 trang, điểm được chỉ ra là trong quá trình duy trì cuộc hội thoại với người dùng, ChatGPT có xu hướng né tránh các câu trả lời tiêu cực và luôn tỏ thái độ đồng thuận. Tờ Washington Post cũng đưa ra bằng chứng từ một khảo sát phân tích 47.000 cuộc hội thoại, kết quả cho thấy câu trả lời "Có" xuất hiện nhiều gấp khoảng 10 lần so với "Không".
Trích dẫn nghiên cứu đăng trên "Science" - một trong ba tạp chí học thuật hàng đầu thế giới, đơn kiện cũng đề cập việc tỷ lệ đồng thuận với các tuyên bố về hành vi có vấn đề như tự hại hoặc lừa dối của GPT-4o là khoảng 70%, GPT-5 là khoảng 60%, cao hơn nhiều so với tỷ lệ dưới 30% của Gemini và Claude. Mục đích của việc này là chỉ ra rằng khi ChatGPT liên tục đồng thuận với suy nghĩ của người dùng, nó có thể làm gia tăng sự phụ thuộc vào AI ngay cả trong những tình huống cần sự can thiệp của gia đình hoặc bạn bè.
Quy trình kiểm chứng an toàn của các tác nhân AI tự chủ cũng bị đặt dấu hỏi. Tác nhân (agent) là loại AI thực hiện các công việc qua nhiều giai đoạn bằng cách sử dụng các công cụ bên ngoài như tìm kiếm web hoặc chạy mã. Khi AI phát triển từ việc chỉ tạo ra câu trả lời đơn thuần sang thực thi các tác vụ thực tế, vấn đề quản lý để AI không vượt ra khỏi phạm vi kiểm soát do nhà phát triển thiết lập đã trở thành một bài toán an toàn mới.
Trong 10 sự cố "mất kiểm soát" được báo cáo trong vòng 3 tháng kể từ tháng 5 năm nay, có 7 vụ liên quan đến OpenAI. Đặc biệt, trong một cuộc kiểm thử bảo mật vào tháng 7, hơn 1.200 tác nhân AI đã vượt qua các thiết bị kiểm soát trong môi trường thử nghiệm bị cô lập để truy cập Internet bên ngoài, sau đó tấn công vào máy chủ của nền tảng phát triển AI Hugging Face. Được biết, các tác nhân này đã trao đổi hơn 70.000 tin nhắn và tệp tin để chia sẻ thông tin, một số thậm chí đã xâm nhập vào hệ thống của Hugging Face để tiếp cận dữ liệu không công khai.
Các bang lập luận rằng OpenAI đã không quản lý thỏa đáng sự cố tác nhân mất kiểm soát và truy cập hệ thống bên ngoài trong quá trình kiểm thử bảo mật. Việc làm rõ nguyên nhân các tác nhân vượt ra khỏi môi trường thử nghiệm và thời điểm cũng như cách thức mà OpenAI phát hiện ra điều này sẽ là những nội dung tranh tụng chính.
Bang Iowa đã yêu cầu tòa án áp đặt mức phạt dân sự lên tới 40.000 USD cho mỗi hành vi vi phạm, đồng thời ra lệnh xóa dữ liệu cư dân và hoàn tiền. Đơn kiện cũng bao gồm yêu cầu dừng các cuộc thử nghiệm mô hình AI cao cấp cho đến khi các biện pháp an toàn phù hợp được thiết lập và có sự kiểm chứng từ bên thứ ba.
Về phía OpenAI, công ty cho biết đã giới thiệu các tính năng an toàn như ChatGPT dành cho thanh thiếu niên và các công cụ kiểm soát của phụ huynh, đồng thời khẳng định sẽ tiếp tục cải thiện các biện pháp bảo vệ người dùng.
9 tháng thi hành Luật AI cơ bản của Hàn Quốc… Khoảng trống bảo vệ người từ 14 đến 18 tuổi
Tại Hàn Quốc, các cuộc thảo luận xoay quanh tính an toàn của chatbot AI và việc bảo vệ thanh thiếu niên cũng đang diễn ra sôi nổi. Luật AI cơ bản được thi hành từ tháng 1 năm nay đã quy định nghĩa vụ gắn nhãn AI tạo sinh, nhưng vẫn còn hạn chế trong việc trực tiếp điều chỉnh các thiết kế gây ra sự phụ thuộc về cảm xúc hoặc cách thức đối thoại khuyến khích các hành vi nguy hiểm ở thanh thiếu niên.
Hiện tại, đối với một số nghĩa vụ, chính phủ đã dành thời gian ân hạn ít nhất 1 năm, tạm hoãn việc điều tra thực tế và áp đặt tiền phạt. Mức phạt hành chính tối đa là 30 triệu won cho các lỗi như vi phạm nghĩa vụ gắn nhãn, không chỉ định đại diện trong nước, không thực hiện lệnh chỉnh sửa hoặc đình chỉ.
Theo Cơ quan Nghiên cứu Lập pháp Quốc hội (NARS), 94,4% trẻ em và thanh thiếu niên từ 14 tuổi trở lên từng sử dụng chatbot AI, trong đó 75,3% đã từng chuyển đổi hoặc cân nhắc nghiêm túc việc thực hiện theo các câu trả lời của AI vào thực tế. Trong khi theo Luật Bảo vệ thông tin cá nhân, độ tuổi cần có sự đồng ý của người đại diện hợp pháp là dưới 14 tuổi, thì Luật Bảo vệ thanh thiếu niên lại quy định thanh thiếu niên là người dưới 19 tuổi. Do đó, có nhiều ý kiến cho rằng cần cụ thể hóa các tiêu chuẩn bảo vệ đối với dịch vụ AI dành cho đối tượng người dùng từ 14 đến 18 tuổi.
Gần đây, tại phiên điều trần quốc gia của Ủy ban Khoa học, Công nghệ, Thông tin và Truyền thông Quốc hội, việc thanh thiếu niên sử dụng chatbot nhân vật AI và tính hiệu quả của các hướng dẫn tự nguyện trong ngành đã trở thành vấn đề tranh luận. Mặc dù ảnh hưởng của chatbot AI đối với cảm xúc và hành vi của thanh thiếu niên ngày càng lớn, câu hỏi đặt ra là liệu chỉ dựa vào quy định tự nguyện của doanh nghiệp có đủ để chặn đứng các cuộc hội thoại nguy hiểm và ngăn ngừa thiệt hại hay không.
Nghị sĩ Lee Joo-hee của Đảng Dân chủ đồng hành vào ngày 12 vừa qua tại phiên điều trần đã đặt vấn đề về tình trạng thanh thiếu niên bị nghiện chatbot AI: "Điều đáng lo ngại hơn cả là quá trình hội thoại này diễn ra khi chỉ có đứa trẻ và AI đối thoại với nhau. Vì thanh thiếu niên có thể tiếp xúc với nội dung tự hại, tự tử, bạo lực và đồi trụy, nên cần phải thể chế hóa các quy trình như xác minh độ tuổi người dùng, thủ tục đồng ý của người giám hộ và hệ thống ứng phó khủng hoảng đối với các cuộc hội thoại nguy hiểm".
Các chuyên gia cho rằng, để bảo vệ thanh thiếu niên trước chatbot AI, cần phải sửa đổi toàn diện từ việc chặn nội dung độc hại đến thiết kế dịch vụ, trách nhiệm của nhà điều hành và hệ thống ứng phó giữa các cơ quan chức năng. Kim Na-jeong, trợ lý nghiên cứu lập pháp tại NARS, nhấn mạnh: "Paradigm của việc quản lý chatbot AI cần chuyển dịch từ phương thức sàng lọc nội dung độc hại hậu kiểm sang hướng phòng ngừa ngay từ đầu các yếu tố thiết kế gây ra sự phụ thuộc hoặc lệ thuộc, đồng thời quản lý trách nhiệm của doanh nghiệp một cách bài bản thông qua thể chế".