Quy định mới của Trung Quốc sẽ buộc chatbot AI chặn nội dung độc hại

Trung Quốc đang triển khai kế hoạch gia tăng kiểm soát đối với các chatbot AI có khả năng ảnh hưởng đến tâm lý con người, đặc biệt là những nội dung có nguy cơ dẫn đến tự tử, tự gây thương tích hoặc các hành vi tự hủy hoại khác. Động thái này được thể hiện rõ ràng trong dự thảo quy định mới mà Cục Quản lý Không gian mạng Trung Quốc công bố vào ngày 27/12.

Theo tài liệu được dịch bởi CNBC, dự thảo này hướng tới những "dịch vụ trí tuệ nhân tạo có tính chất giao tiếp tương tự con người", tức là những hệ thống AI sở hữu khả năng giả lập tính cách, hành vi và phương thức giao tiếp của con người thông qua văn bản, hình ảnh, âm thanh hoặc video. Các quy định sẽ được áp dụng cho tất cả sản phẩm và dịch vụ AI công khai tại Trung Quốc sau khi hoàn thiện. Thời hạn tiếp nhận phản hồi từ công chúng kéo dài cho đến ngày 25/1.

Giáo sư Winston Ma từ Trường Luật Đại học New York (NYU) nhận xét rằng đây có thể là nỗ lực tiên phong trên toàn cầu nhằm xây dựng một khung pháp lý chuyên biệt cho các hệ thống AI mang tính chất "giống người". Theo ông, quy định này được đề xuất vào lúc các doanh nghiệp công nghệ Trung Quốc đang tăng cường phát triển những trợ lý ảo AI.

So sánh với quy định về AI mà Trung Quốc ban hành năm 2023, Giáo sư Ma nhận định dự thảo hiện tại cho thấy sự thay đổi hướng tâm, từ "an toàn nội dung" chuyển sang "an toàn cảm xúc", phản ánh mối lo ngại ngày càng gia tăng về tác động tâm lý mà AI có thể gây ra đối với người dùng.

Dự thảo quy định nêu rõ rằng chatbot AI không được tạo ra nội dung khuyến khích tự tử, tự gây thương tích, sử dụng bạo lực bằng lời nói, cũng như các hình thức thao túng cảm xúc có khả năng tổn hại đến sức khỏe tinh thần. Cụ thể, nếu người dùng bày tỏ ý định tự tử, nhà cung cấp dịch vụ công nghệ phải chủ động tiếp quản cuộc trò chuyện và lập tức liên hệ với người giám hộ hoặc người được chỉ định của người dùng.

Bên cạnh đó, các chatbot AI bị cấm tạo nội dung liên quan đến cờ bạc, nội dung khiêu dâm hoặc bạo lực. Đối với trẻ vị thành niên, họ chỉ được phép sử dụng AI với mục đích bầu bạn cảm xúc khi nhận được sự đồng ý từ người giám hộ, đồng thời phải tuân thủ những hạn chế về thời gian sử dụng.

Quy định được công bố không lâu sau khi hai startup chatbot AI hàng đầu của Trung Quốc là Z.ai và Minimax nộp đơn xin phát hành cổ phiếu lần đầu ra công chúng (IPO) tại Hong Kong trong tháng 12.

Minimax nổi tiếng với ứng dụng Talkie AI và phiên bản dành cho thị trường nội địa Xingye, những sản phẩm này chiếm hơn 1/3 doanh thu của công ty trong ba quý đầu năm, với mức trung bình hơn 20 triệu người dùng hoạt động hàng tháng. Trong khi đó, Z.ai (Zhipu) cho biết công nghệ của họ đã được triển khai trên khoảng 80 triệu thiết bị, mặc dù công ty không công bố con số người dùng hoạt động chính xác.

Trên phạm vi toàn cầu, tác động của AI đối với sức khỏe tinh thần con người đang trở thành tâm điểm quan tâm ngày càng lớn, khi nhiều quốc gia và các tập đoàn công nghệ bắt đầu phải đối mặt với những rủi ro xã hội mà công nghệ này mang lại.

Khôi Nguyên