[비즈한국] Trí tuệ nhân tạo (AI) đang thay đổi không chỉ các ngành công nghiệp và đời sống thường nhật, mà còn cả hệ thống hành chính và cơ quan chức năng của quốc gia. Cảnh sát Quốc gia, Viện Kiểm sát và Cục Thuế gần đây đã thành lập hoặc mở rộng các tổ chức chuyên trách về AI, đồng thời bắt tay vào xây dựng các hệ thống áp dụng AI vào điều tra, khảo sát và xử lý thủ tục hành chính. Mặc dù mục tiêu là nhằm nâng cao hiệu quả và độ chính xác, nhưng xét đến việc thông tin và quyền hạn mà các cơ quan này nắm giữ có liên quan trực tiếp đến quyền cơ bản của người dân, thì tầm quan trọng của việc đưa AI vào sử dụng cũng rất khác biệt. Bizhankook sẽ xem xét hiện trạng chuyển đổi AI của 3 cơ quan chức năng chính là Cảnh sát, Viện Kiểm sát, Cục Thuế và các nhiệm vụ còn tồn đọng trong quá trình này.
Cảnh sát Quốc gia đang đẩy nhanh quá trình áp dụng trí tuệ nhân tạo (AI) vào toàn bộ các công việc điều tra và giải quyết thủ tục hành chính. Từ việc tra cứu án lệ, soạn thảo dự thảo đơn xin lệnh bắt giữ, gợi ý câu hỏi cho biên bản hỏi cung nghi phạm, hỗ trợ tư vấn và tiếp nhận yêu cầu của người dân cho đến phát hiện deepfake, AI đang dần vượt ra khỏi vai trò công cụ hỗ trợ để tiến gần hơn tới quy trình ra quyết định thực tế trong hành chính an ninh. Để hỗ trợ cho điều này, Cảnh sát Quốc gia đang kiện toàn bộ máy chuyên trách, đồng thời thúc đẩy phát triển nền tảng tích hợp AI dựa trên mạng nội bộ và mô hình ngôn ngữ lớn (LLM) chuyên biệt cho lĩnh vực an ninh.
Tổng hợp thông tin từ Bizhankook, Cảnh sát Quốc gia gần đây đang tiến hành nghiên cứu chính sách về “Đánh giá tác động của AI và thiết lập phương án quản lý rủi ro”. Dự án có quy mô kinh phí 41 triệu Won và thời gian thực hiện 120 ngày này đang được đảm nhiệm bởi ThinkforB. Một quan chức của Cảnh sát Quốc gia cho biết: “Chúng tôi dự định sẽ hoàn thành nghiên cứu vào cuối năm nay”. Đồng thời, dự án “Nghiên cứu phương án nâng cao hệ thống bảo vệ thông tin cá nhân của Cảnh sát Quốc gia theo việc áp dụng AI” cũng đang được xúc tiến. Nội dung chính là xem xét kỹ lưỡng các nguy cơ tái định danh có thể xảy ra trong quá trình học và suy luận của AI, độ chệch dữ liệu, và các tiêu chuẩn bảo vệ thông tin cá nhân khi phân tích video CCTV.
Hai nghiên cứu này mang tính chất đối ứng với Luật cơ bản về AI (Luật cơ bản về thúc đẩy phát triển và xây dựng nền tảng tin cậy cho AI) và “Luật AI công cộng (Luật thúc đẩy hành chính dựa trên dữ liệu và trí tuệ nhân tạo)” sẽ có hiệu lực vào cuối tháng 2 năm sau. Theo đánh giá, các loại AI đa dạng trong lĩnh vực an ninh có khả năng cao sẽ được phân loại là “AI có ảnh hưởng cao” theo Luật cơ bản về AI và Luật AI công cộng. Luật cơ bản về AI trao trách nhiệm đảm bảo tính minh bạch và xây dựng hệ thống quản lý rủi ro, trong khi Luật AI công cộng quy định các cơ quan công quyền phải lập phương án đánh giá tác động và quản lý rủi ro trước khi đưa AI vào vận hành.
Từ tháp điều khiển đến nền tảng tích hợp
Song song với việc hoàn thiện cơ sở pháp lý và thể chế, Cảnh sát Quốc gia đang đẩy nhanh tốc độ chuyển đổi AI theo ba hướng: tái tổ chức và hạ tầng, mở rộng ứng dụng AI vào điều tra và công việc hiện trường.
Tháng 3 năm nay, Cảnh sát Quốc gia đã tái cơ cấu “Phòng Chính sách An ninh Tương lai” thuộc Cục Chính sách An ninh Tương lai thành “Phòng Chính sách Trí tuệ nhân tạo An ninh”, qua đó chính thức hóa bộ máy điều khiển chuyên trách về AI. Tổ chức này đã hấp thụ nhóm công tác (TF) đổi mới AI an ninh hiện có thành bộ phận thường trực và lập mới chức vụ Sĩ quan hợp tác trí tuệ nhân tạo trực thuộc Cục trưởng. Phòng Căn cứ thông tin hóa cũng đã đổi tên thành Phòng Căn cứ trí tuệ nhân tạo an ninh.
Cùng với việc tái cơ cấu tổ chức, cơ quan này cũng đang thúc đẩy xây dựng “Nền tảng tích hợp AI” để áp dụng AI tạo sinh vào toàn bộ công việc hành chính. Thông qua dự án Kế hoạch Chiến lược Thông tin hóa (ISP) do Wearbiz đảm nhiệm, phương án liên kết các tính năng AI hỗ trợ viết báo cáo, dịch thuật, tóm tắt tài liệu vào mạng lưới nội bộ của cảnh sát (PolNet) đang được xem xét. Một cảnh sát phụ trách cho biết: “Chúng tôi đang chuẩn bị để hoàn thành dự án ISP trong năm nay và phản ánh vào ngân sách năm sau để có thể bắt đầu xây dựng chính thức”.
Đại học Cảnh sát đang đảm nhận việc phát triển mô hình ngôn ngữ lớn (LLM) chuyên biệt cho an ninh. Tháng 4 vừa qua, chương trình “Đào tạo lãnh đạo AI an ninh (CAIO)” dành cho cấp quản lý từ Cảnh sát trưởng đến Cảnh sát trung cấp cũng đã được bắt đầu, bao gồm các chủ đề về AI tạo sinh, AI vật lý, an ninh và đạo đức AI.
AI thâm nhập vào hiện trường điều tra… Có đáng lo ngại không?
AI hỗ trợ điều tra “KICS-AI” được giới thiệu từ tháng 11 năm 2024 đã hỗ trợ việc tìm kiếm án lệ và soạn thảo dự thảo đơn xin lệnh bắt giữ. Thông qua dự án nâng cao với tổng ngân sách 4,6 tỷ Won, AI dự kiến sẽ mở rộng chức năng bao gồm soạn thảo quyết định của cảnh sát tư pháp, thông báo kết quả điều tra, gợi ý câu hỏi biên bản hỏi cung, lập bảng liệt kê tội phạm, và xây dựng hệ thống phản hồi điều tra sử dụng bản cáo trạng và bản án. Từ năm ngoái, việc ứng dụng AI vào lĩnh vực giám định pháp y kỹ thuật số cũng đang được đẩy mạnh.
Trong lĩnh vực hành chính, dự án “Cảnh sát của mọi người” với tổng vốn đầu tư 10,7 tỷ Won đang được phát triển như một trong những nhiệm vụ của “Dự án chuyển đổi trí tuệ nhân tạo công cộng (AX)” của Chính phủ. Dự kiến đến tháng 12 năm 2027, dự án sẽ kết nối với các kênh như Cảnh sát dân sự 24, tổng đài 182 để hỗ trợ tư vấn, tiếp nhận và soạn thảo giấy tờ. Ngày 18 vừa qua, lễ ra mắt hội đồng tư vấn gồm 200 người dân và cảnh sát hiện trường đã được tổ chức.
Tuy nhiên, những lo ngại về tính hiệu quả và bảo mật liên quan đến sự lan rộng của AI an ninh cũng không hề nhỏ. Nhận diện khuôn mặt, chặn AI lừa đảo qua điện thoại, tự động hóa báo cáo điều tra… đều thuộc danh mục “AI có ảnh hưởng cao” theo Luật cơ bản về AI, và việc Cảnh sát Quốc gia bắt tay vào đánh giá tác động cũng như lập kế hoạch quản lý rủi ro được hiểu là động thái nhằm kiểm soát các lo ngại này về mặt thể chế.
Giáo sư Lee Sang-yeop của Đại học Cảnh sát trong một bài luận phân tích dữ liệu học thuật nước ngoài đã đề cập rằng từ khóa cốt lõi của nghiên cứu AI cảnh sát chính là “Dữ liệu (Data)”. Ông nhận định: “Trong khi nghiên cứu AI của cảnh sát trong nước nghiêng về quan điểm thể chế như luật học hay hành chính học, thì ở nước ngoài, các nghiên cứu ứng dụng công nghệ dựa trên khoa học máy tính lại chiếm ưu thế. Đã đến lúc cần có những nghiên cứu nâng cao công nghệ để áp dụng an toàn vào công việc cảnh sát, song song với việc đối phó với các vấn đề pháp lý mà AI mang lại”.
Giáo sư Hwang Seok-jin thuộc Trường Cao học Bảo mật Thông tin Đại học Dongguk cho biết: “Việc sử dụng AI trong các nhiệm vụ đòi hỏi sự công bằng như lập biên bản hỏi cung nghi phạm hay hỗ trợ điều tra, hành chính mà thiếu thiết bị kiểm chứng là rất đáng lo ngại, đồng thời các vấn đề như rò rỉ thông tin trái phép hay hiện tượng 'ảo giác' (tự tạo ra các sự kiện không tồn tại) cũng rất khó kiểm soát”. Ông nhấn mạnh: “Có những hạn chế về dữ liệu vì chỉ có thể sử dụng các án lệ của Bộ Pháp chế, trong khi việc đọc hình ảnh và video lại rất khó khăn. Nếu sự thiên vị được phản ánh trong thuật toán, việc đảm bảo tính minh bạch sẽ trở nên khó khăn. Hiện tại, hầu như chưa có hướng dẫn hay sổ tay thể chế nào quy định ai sẽ phải chịu trách nhiệm khi có vấn đề xảy ra”.
Vì lý do này, có ý kiến cho rằng thay vì các công nghệ tác động trực tiếp đến quyền tự quyết của cảnh sát, nên ưu tiên áp dụng từng bước các công nghệ ít gây kháng cự hơn.
Trả lời về những lo ngại này, một quan chức của Cảnh sát Quốc gia giải thích: “Cảnh sát Quốc gia có kế hoạch thực hiện đánh giá tác động đối với tất cả các dự án liên quan đến AI. Vì AI có ảnh hưởng cao là lĩnh vực có thể tác động đến đời sống hàng ngày và các quyền cơ bản của người dân, nên chúng tôi đánh giá để đảm bảo không có sự xâm phạm nào”. Vị này cho biết thêm: “Chúng tôi dự định sẽ hoàn thiện các tiêu chuẩn liên quan trước khi luật có hiệu lực vào năm tới để xây dựng nền tảng có thể quản lý một cách hệ thống các yếu tố rủi ro”.