Úc cảnh báo mối nguy hiểm từ bot AI đối với trẻ em

Đây là động thái mới nhất trong một loạt các quy định siết chặt kỷ luật số tại Úc, bao gồm cả luật cấm trẻ em dưới 16 tuổi sử dụng mạng xã hội, một quy định đầu tiên trên thế giới. Luật này sẽ có hiệu lực vào tháng 12, áp dụng cho một loạt dịch vụ trực tuyến, bao gồm Facebook, Instagram và YouTube.

Ủy viên eSafety của Úc, Julie Inman Grant cho biết, trẻ em đang tiếp xúc với những nội dung không phù hợp với lứa tuổi một cách ngày càng sớm. Bà Inman Grant chia sẻ đã có trường hợp những đứa trẻ 10 tuổi tham gia vào các cuộc trò chuyện tình dục với những “người bạn đồng hành” ảo này, vốn hầu hết chưa được kiểm soát.

Theo các quy tắc mới, các trang web hiển thị hoặc phân phối nội dung khiêu dâm, hoặc các “nội dung có tác động mạnh” khác, sẽ phải áp dụng công nghệ kiểm tra độ tuổi để ngăn trẻ em truy cập. Các cửa hàng ứng dụng cũng phải đảm bảo các ứng dụng được xếp hạng phù hợp và có biện pháp xác thực độ tuổi cho bất kỳ lượt tải xuống nào.

Các quy định này áp dụng cho nhiều dịch vụ trực tuyến, bao gồm các nền tảng mạng xã hội, trang web trò chơi và các dịch vụ AI. Vi phạm có thể bị phạt lên tới 50 triệu đô la Úc (khoảng 33 triệu USD).

“Tôi không muốn trẻ em và thanh thiếu niên Úc trở thành nạn nhân của những công nghệ mạnh mẽ được tung ra thị trường mà không có hàng rào bảo vệ”, bà Inman Grant nhấn mạnh.