Quy định quản lý dịch vụ người ảo số đang lấy ý kiến góp ý: "Lấy con người làm trung tâm", xác định ranh giới, định hướng hướng đi

Viết bài: Trương Feng

Một, Đột phá công nghệ và chậm trễ quản trị, giới hạn dịch vụ người ảo kỹ thuật số là ở đâu?

Khi các người dẫn chương trình ảo do AI điều khiển phát sóng liên tục 24 giờ, khi các “công chức số” trong trung tâm dịch vụ hành chính kiên nhẫn trả lời thắc mắc, khi lĩnh vực phổ biến kiến thức y tế xuất hiện những “bác sĩ AI” không mệt mỏi, chúng ta đang chứng kiến một bức tranh xã hội mới được tích hợp sâu sắc bởi người ảo kỹ thuật số. Nhờ lợi thế rõ rệt về chi phí thấp, tương tác mạnh mẽ, hiệu quả cao và dịch vụ suốt ngày đêm, người ảo kỹ thuật số nhanh chóng trở thành công cụ then chốt thúc đẩy phát triển kinh tế thông minh. Từ livestream thương mại điện tử đến quảng bá du lịch văn hóa, từ phổ biến kiến thức y tế đến tư vấn hành chính, các ứng dụng của nó đang mở rộng với độ rộng và chiều sâu chưa từng có.

Tuy nhiên, đà phát triển vượt bội của công nghệ thường đi trước việc xây dựng quy tắc. Khi hình ảnh ảo có thể giả mạo chân thực, khi đối thoại AI có thể chứa thành kiến, khi các thực thể tự tiến hóa (Agent) hành xử khó dự đoán, một loạt vấn đề nhạy cảm xuất hiện: ranh giới dịch vụ của người ảo kỹ thuật số thực sự nằm ở đâu? Trách nhiệm hành vi của nó thuộc về ai? Trong khi theo đuổi hiệu quả và đổi mới, làm thế nào để đảm bảo phát triển công nghệ không lệch khỏi nguyên tắc “lấy con người làm trung tâm”? Những câu hỏi này không chỉ là vấn đề kỹ thuật, mà còn liên quan đến niềm tin xã hội, giới hạn đạo đức và quản trị phát triển lâu dài. Gần đây, Cục An toàn Thông tin Quốc gia công bố “Pháp lệnh Quản lý Dịch vụ Thông tin Người ảo Kỹ thuật số (Dự thảo lấy ý kiến)” (sau đây gọi là “Pháp lệnh”), chính là phản hồi tập trung cho loạt câu hỏi thời đại này.

Hai, Rối ren nhiều rủi ro, kêu gọi quy chuẩn hệ thống và nguyên tắc “công nghệ hướng thiện”

Việc xác định ranh giới dịch vụ người ảo kỹ thuật số cấp bách xuất phát từ các rủi ro và thách thức phức tạp, đan xen trong quá trình phát triển của nó.

Trước tiên, là rủi ro về an toàn và đạo đức. Công nghệ tổng hợp sâu làm giảm đáng kể ngưỡng giả mạo danh tính, phát tán thông tin sai lệch, lừa đảo cảm xúc, có thể xâm phạm quyền lợi cá nhân, làm rối loạn trật tự xã hội, thậm chí đe dọa an ninh quốc gia.

Tiếp theo, là rủi ro về trách nhiệm mơ hồ. Hành vi của người ảo kỹ thuật số do thuật toán điều khiển, thiết kế, phát triển, vận hành và người dùng đều có trách nhiệm phức tạp, một khi xảy ra vấn đề, dễ rơi vào tình trạng “hộp đen thuật toán” và khoảng trống trách nhiệm.

Hơn nữa, là rủi ro về khoảng cách kỹ thuật số và định kiến cố hữu. Nếu dữ liệu huấn luyện thuật toán có thành kiến, người ảo có thể vô ý làm gia tăng thành kiến xã hội hiện có hoặc hình thành phân biệt mới trong dịch vụ.

Xa hơn nữa, với sự phát triển của các công nghệ tiên tiến như giao thức tiến hóa tự chủ của sinh vật Rotifer, các thực thể có khả năng tự học và tiến hóa có thể xuất hiện hành vi vượt quá mục tiêu dự kiến, ảnh hưởng xã hội lâu dài của chúng đầy bất định.

Những rủi ro này không tồn tại độc lập, mà liên kết chặt chẽ, cùng hướng tới một mâu thuẫn cốt lõi: tiềm năng lớn của tiến bộ công nghệ và sự chậm trễ của khung quản lý hiện tại. Do đó, việc ban hành “Pháp lệnh” không chỉ là biện pháp “dập lửa” đối với các hiện tượng hỗn loạn cụ thể, mà còn là nền tảng cho sự phát triển lành mạnh của kinh tế số, là hành động thể chế hóa nguyên tắc “lấy con người làm trung tâm, hướng thiện của trí tuệ nhân tạo”.

Ba, Chu trình quy chuẩn toàn diện và trách nhiệm xuyên suốt, xây dựng khung quản trị “lấy con người làm trung tâm”

Đối mặt với các thách thức trên, “Pháp lệnh” xây dựng một hệ thống quản lý dựa trên “quy chuẩn toàn trình” và “trách nhiệm xuyên suốt”. Các biện pháp chính có thể tóm tắt là “đặt giới hạn, xác định chủ thể, tăng cường quản lý, thúc đẩy hướng thiện”.

Thứ nhất, xác định rõ giới hạn an toàn và đạo đức không thể vượt qua. “Pháp lệnh” liệt kê chi tiết các hành vi cấm sử dụng người ảo kỹ thuật số, bao gồm nhưng không giới hạn ở việc gây hại an ninh quốc gia, làm tổn hại lợi ích công cộng, xâm phạm quyền hợp pháp của người khác, truyền bá thông tin sai lệch, làm rối loạn kinh tế và trật tự xã hội. Điều này thiết lập một đường đỏ rõ ràng cho tất cả các bên tham gia thị trường.

Thứ hai, xác lập và xuyên suốt trách nhiệm của các chủ thể. Pháp lệnh rõ ràng trách nhiệm của nhà cung cấp dịch vụ người ảo, nhà hỗ trợ kỹ thuật, nhà sản xuất nội dung và người dùng, yêu cầu các nhà cung cấp thực hiện đăng ký, dán nhãn, kiểm duyệt nội dung, đảm bảo an toàn dữ liệu, xử lý khẩn cấp, qua đó hoàn thiện chuỗi trách nhiệm và khả năng truy xuất nguồn gốc.

Thứ ba, nhấn mạnh nguyên tắc “lấy con người làm trung tâm” trong dịch vụ. Điều này yêu cầu thiết kế, phát triển và ứng dụng người ảo phải tôn trọng đạo đức xã hội, đạo đức nghề nghiệp, bảo vệ quyền biết rõ và quyền lựa chọn của người dùng, tránh lạm dụng dữ liệu người dùng và đề xuất quá mức cá nhân hóa, đảm bảo công nghệ phục vụ sự phát triển toàn diện của con người.

Thứ tư, thực hiện mục tiêu “công nghệ hướng thiện”, khuyến khích đổi mới trong quy chuẩn. “Pháp lệnh” không nhằm hạn chế phát triển công nghệ, mà qua việc xác định vùng an toàn, cung cấp kỳ vọng ổn định cho đổi mới có trách nhiệm, hỗ trợ hợp tác giữa sản xuất, học thuật và nghiên cứu, hướng nguồn lực vào các ứng dụng phù hợp đạo đức, nâng cao phúc lợi. Bộ biện pháp này nhằm chuyển “lấy con người làm trung tâm” từ ý tưởng trừu tượng thành quy tắc cụ thể có thể vận hành và giám sát.

Bốn, Tăng cường quy chuẩn toàn diện và trách nhiệm xuyên suốt, tạo dựng khung quản trị “lấy con người làm trung tâm”

Đối mặt các thách thức trên, “Pháp lệnh” xây dựng một hệ thống quản lý dựa trên “quy chuẩn toàn trình” và “trách nhiệm xuyên suốt”. Các biện pháp chính có thể tóm tắt là “đặt giới hạn, xác định chủ thể, tăng cường quản lý, thúc đẩy hướng thiện”.

Thứ nhất, xác định rõ giới hạn an toàn và đạo đức không thể vượt qua. “Pháp lệnh” liệt kê chi tiết các hành vi cấm sử dụng người ảo kỹ thuật số, bao gồm nhưng không giới hạn ở việc gây hại an ninh quốc gia, làm tổn hại lợi ích công cộng, xâm phạm quyền hợp pháp của người khác, truyền bá thông tin sai lệch, làm rối loạn kinh tế và trật tự xã hội. Điều này thiết lập một đường đỏ rõ ràng cho tất cả các bên tham gia thị trường.

Thứ hai, xác lập và xuyên suốt trách nhiệm của các chủ thể. Pháp lệnh rõ ràng trách nhiệm của nhà cung cấp dịch vụ người ảo, nhà hỗ trợ kỹ thuật, nhà sản xuất nội dung và người dùng, yêu cầu các nhà cung cấp thực hiện đăng ký, dán nhãn, kiểm duyệt nội dung, đảm bảo an toàn dữ liệu, xử lý khẩn cấp, qua đó hoàn thiện chuỗi trách nhiệm và khả năng truy xuất nguồn gốc.

Thứ ba, nhấn mạnh nguyên tắc “lấy con người làm trung tâm” trong dịch vụ. Điều này yêu cầu thiết kế, phát triển và ứng dụng người ảo phải tôn trọng đạo đức xã hội, đạo đức nghề nghiệp, bảo vệ quyền biết rõ và quyền lựa chọn của người dùng, tránh lạm dụng dữ liệu người dùng và đề xuất quá mức cá nhân hóa, đảm bảo công nghệ phục vụ sự phát triển toàn diện của con người.

Thứ tư, thực hiện mục tiêu “công nghệ hướng thiện”, khuyến khích đổi mới trong quy chuẩn. “Pháp lệnh” không nhằm hạn chế phát triển công nghệ, mà qua việc xác định vùng an toàn, cung cấp kỳ vọng ổn định cho đổi mới có trách nhiệm, hỗ trợ hợp tác giữa sản xuất, học thuật và nghiên cứu, hướng nguồn lực vào các ứng dụng phù hợp đạo đức, nâng cao phúc lợi. Bộ biện pháp này nhằm chuyển “lấy con người làm trung tâm” từ ý tưởng trừu tượng thành quy tắc cụ thể có thể vận hành và giám sát.

Bốn, Tăng cường quy chuẩn toàn diện và trách nhiệm xuyên suốt, tạo dựng khung quản trị “lấy con người làm trung tâm”

Đối mặt các thách thức trên, “Pháp lệnh” xây dựng một hệ thống quản lý dựa trên “quy chuẩn toàn trình” và “trách nhiệm xuyên suốt”. Các biện pháp chính có thể tóm tắt là “đặt giới hạn, xác định chủ thể, tăng cường quản lý, thúc đẩy hướng thiện”.

Thứ nhất, xác định rõ giới hạn an toàn và đạo đức không thể vượt qua. “Pháp lệnh” liệt kê chi tiết các hành vi cấm sử dụng người ảo kỹ thuật số, bao gồm nhưng không giới hạn ở việc gây hại an ninh quốc gia, làm tổn hại lợi ích công cộng, xâm phạm quyền hợp pháp của người khác, truyền bá thông tin sai lệch, làm rối loạn kinh tế và trật tự xã hội. Điều này thiết lập một đường đỏ rõ ràng cho tất cả các bên tham gia thị trường.

Thứ hai, xác lập và xuyên suốt trách nhiệm của các chủ thể. Pháp lệnh rõ ràng trách nhiệm của nhà cung cấp dịch vụ người ảo, nhà hỗ trợ kỹ thuật, nhà sản xuất nội dung và người dùng, yêu cầu các nhà cung cấp thực hiện đăng ký, dán nhãn, kiểm duyệt nội dung, đảm bảo an toàn dữ liệu, xử lý khẩn cấp, qua đó hoàn thiện chuỗi trách nhiệm và khả năng truy xuất nguồn gốc.

Thứ ba, nhấn mạnh nguyên tắc “lấy con người làm trung tâm” trong dịch vụ. Điều này yêu cầu thiết kế, phát triển và ứng dụng người ảo phải tôn trọng đạo đức xã hội, đạo đức nghề nghiệp, bảo vệ quyền biết rõ và quyền lựa chọn của người dùng, tránh lạm dụng dữ liệu người dùng và đề xuất quá mức cá nhân hóa, đảm bảo công nghệ phục vụ sự phát triển toàn diện của con người.

Thứ tư, thực hiện mục tiêu “công nghệ hướng thiện”, khuyến khích đổi mới trong quy chuẩn. “Pháp lệnh” không nhằm hạn chế phát triển công nghệ, mà qua việc xác định vùng an toàn, cung cấp kỳ vọng ổn định cho đổi mới có trách nhiệm, hỗ trợ hợp tác giữa sản xuất, học thuật và nghiên cứu, hướng nguồn lực vào các ứng dụng phù hợp đạo đức, nâng cao phúc lợi. Bộ biện pháp này nhằm chuyển “lấy con người làm trung tâm” từ ý tưởng trừu tượng thành quy tắc cụ thể có thể vận hành và giám sát.

Bốn, Tăng cường quy chuẩn toàn diện và trách nhiệm xuyên suốt, tạo dựng khung quản trị “lấy con người làm trung tâm”

Đối mặt các thách thức trên, “Pháp lệnh” xây dựng một hệ thống quản lý dựa trên “quy chuẩn toàn trình” và “trách nhiệm xuyên suốt”. Các biện pháp chính có thể tóm tắt là “đặt giới hạn, xác định chủ thể, tăng cường quản lý, thúc đẩy hướng thiện”.

Thứ nhất, xác định rõ giới hạn an toàn và đạo đức không thể vượt qua. “Pháp lệnh” liệt kê chi tiết các hành vi cấm sử dụng người ảo kỹ thuật số, bao gồm nhưng không giới hạn ở việc gây hại an ninh quốc gia, làm tổn hại lợi ích công cộng, xâm phạm quyền hợp pháp của người khác, truyền bá thông tin sai lệch, làm rối loạn kinh tế và trật tự xã hội. Điều này thiết lập một đường đỏ rõ ràng cho tất cả các bên tham gia thị trường.

Thứ hai, xác lập và xuyên suốt trách nhiệm của các chủ thể. Pháp lệnh rõ ràng trách nhiệm của nhà cung cấp dịch vụ người ảo, nhà hỗ trợ kỹ thuật, nhà sản xuất nội dung và người dùng, yêu cầu các nhà cung cấp thực hiện đăng ký, dán nhãn, kiểm duyệt nội dung, đảm bảo an toàn dữ liệu, xử lý khẩn cấp, qua đó hoàn thiện chuỗi trách nhiệm và khả năng truy xuất nguồn gốc.

Thứ ba, nhấn mạnh nguyên tắc “lấy con người làm trung tâm” trong dịch vụ. Điều này yêu cầu thiết kế, phát triển và ứng dụng người ảo phải tôn trọng đạo đức xã hội, đạo đức nghề nghiệp, bảo vệ quyền biết rõ và quyền lựa chọn của người dùng, tránh lạm dụng dữ liệu người dùng và đề xuất quá mức cá nhân hóa, đảm bảo công nghệ phục vụ sự phát triển toàn diện của con người.

Thứ tư, thực hiện mục tiêu “công nghệ hướng thiện”, khuyến khích đổi mới trong quy chuẩn. “Pháp lệnh” không nhằm hạn chế phát triển công nghệ, mà qua việc xác định vùng an toàn, cung cấp kỳ vọng ổn định cho đổi mới có trách nhiệm, hỗ trợ hợp tác giữa sản xuất, học thuật và nghiên cứu, hướng nguồn lực vào các ứng dụng phù hợp đạo đức, nâng cao phúc lợi. Bộ biện pháp này nhằm chuyển “lấy con người làm trung tâm” từ ý tưởng trừu tượng thành quy tắc cụ thể có thể vận hành và giám sát.