Luật Khung về trí tuệ nhân tạo của Hàn Quốc
02/10/2025
Đáp ứng yêu cầu điều chỉnh pháp luật trước những tác động to lớn của trí tuệ nhân tạo đối với quá trình phát triển kinh tế - xã hội ở Hàn Quốc, ngày 21/1/2025, Quốc hội Hàn Quốc đã ban hành đạo luật đầu tiên về trí tuệ nhân tạo với tên gọi là “Luật Khung về phát triển trí tuệ nhân tạo và xây dựng nền tảng tin cậy” và thường được gọi tắt là “Luật Khung về trí tuệ nhân tạo”.
Luật Khung về trí tuệ nhân tạo của Hàn Quốc có hiệu lực từ ngày 22/1/2026 và được ban hành với mục đích góp phần bảo vệ quyền lợi, nhân phẩm, nâng cao chất lượng sống của công dân đồng thời tăng cường năng lực cạnh tranh quốc gia thông qua việc quy định những biện pháp cần thiết để phát triển lành mạnh trí tuệ nhân tạo và xây dựng nền tảng tin cậy.
Luật Khung về trí tuệ nhân tạo của Hàn Quốc gồm 43 điều được chia thành 6 chương cùng với 1 phụ lục, bao gồm: Chương 1 “Những quy định chung” (từ Điều 1 đến Điều 5); Chương 2 “Hệ thống thúc đẩy phát triển lành mạnh trí tuệ nhân tạo và xây dựng nền tảng tin cậy” (từ Điều 6 đến Điều 12); Chương 3 “Phát triển công nghệ trí tuệ nhân tạo và nuôi dưỡng ngành công nghiệp” (từ Điều 13 đến Điều 26); Chương 4 “Đạo đức trí tuệ nhân tạo và đảm bảo độ tin cậy” (từ Điều 27 đến Điều 36); Chương 5 “Quy định bổ sung” (từ Điều 37 đến Điều 41); Chương 6 “Hình thức xử phạt” (Điều 42 và Điều 43).
1. Những thuật ngữ cơ bản được giải thích trong Luật
Luật Khung về trí tuệ nhân tạo của Hàn Quốc quy định 11 thuật ngữ cơ bản được giải thích chi tiết tại Điều 2 của Luật.
Cụ thể, “Trí tuệ nhân tạo” được giải thích là việc tái hiện năng lực trí tuệ của con người như học tập, suy luận, tri giác, phán đoán, hiểu ngôn ngữ… thông qua phương pháp điện tử. “Hệ thống trí tuệ nhân tạo” là hệ thống dựa trên trí tuệ nhân tạo có khả năng tự chủ và thích ứng ở các mức độ khác nhau, có khả năng suy luận để đưa ra kết quả như dự đoán, đề xuất, quyết định… nhằm đạt được mục tiêu đã định và ảnh hưởng đến môi trường thực tế và môi trường ảo.
“Công nghệ trí tuệ nhân tạo” là công nghệ phần cứng, phần mềm hoặc công nghệ ứng dụng cần thiết để hiện thực hóa trí tuệ nhân tạo. “Trí tuệ nhân tạo tạo sinh” là hệ thống trí tuệ nhân tạo tạo ra các sản phẩm như văn bản, âm thanh, hình ảnh, video… bằng cách mô phỏng cấu trúc và đặc điểm của dữ liệu đầu vào.
“Ngành công nghiệp trí tuệ nhân tạo” là ngành phát triển, sản xuất, phân phối sản phẩm sử dụng trí tuệ nhân tạo hoặc công nghệ liên quan (gọi là “sản phẩm trí tuệ nhân tạo”) hoặc cung cấp dịch vụ liên quan (gọi là “dịch vụ trí tuệ nhân tạo”).
Luật cũng giải thích “trí tuệ nhân tạo có ảnh hưởng cao” là hệ thống trí tuệ nhân tạo có khả năng gây ảnh hưởng nghiêm trọng hoặc tạo nguy cơ đối với tính mạng, an toàn cơ thể và các quyền cơ bản của con người, được sử dụng trong một trong các lĩnh vực sau:
(a) Cung cấp năng lượng;
(b) Quy trình sản xuất nước uống;
(c) Cung cấp và vận hành hệ thống sử dụng dịch vụ y tế;
(d) Phát triển và sử dụng thiết bị y tế và thiết bị y tế kỹ thuật số;
(e) Quản lý và vận hành an toàn vật liệu hạt nhân;
(f) Phân tích và sử dụng thông tin sinh trắc học (gồm khuôn mặt, vân tay, mống mắt, tĩnh mạch lòng bàn tay - các đặc điểm sinh lý, hành vi có thể nhận dạng cá nhân) cho điều tra hình sự hoặc bắt giữ tội phạm;
(g) Các đánh giá hoặc phán đoán ảnh hưởng nghiêm trọng đến quyền và nghĩa vụ cá nhân như tuyển dụng hoặc thẩm định vay vốn;
(h) Vận hành và hoạt động chủ yếu của phương tiện giao thông, cơ sở hạ tầng giao thông và hệ thống giao thông;
(i) Quyết định của các cơ quan nhà nước, chính quyền địa phương và các tổ chức công lập về xác nhận tư cách và thu phí cần thiết để cung cấp dịch vụ công có ảnh hưởng đến người dân;
(j) Đánh giá học sinh trong giáo dục mầm non, tiểu học và trung học cơ sở;
(k) Các lĩnh vực khác có ảnh hưởng nghiêm trọng đến tính mạng, an toàn cơ thể và quyền cơ bản của con người.
Theo quy định của Luật kể trên, “Chủ thể kinh doanh trí tuệ nhân tạo” là pháp nhân, tổ chức, cá nhân hoặc cơ quan nhà nước thực hiện một trong các hoạt động sau:
(a) Chủ thể phát triển AI: Tổ chức/cá nhân phát triển và cung cấp trí tuệ nhân tạo;
(b) Chủ thể sử dụng AI: Tổ chức/cá nhân sử dụng trí tuệ nhân tạo do chủ thể ở mục a cung cấp để cung cấp sản phẩm hoặc dịch vụ trí tuệ nhân tạo. “Người sử dụng” là người tiếp nhận sản phẩm hoặc dịch vụ trí tuệ nhân tạo. “Người bị ảnh hưởng” là người bị ảnh hưởng nghiêm trọng đến tính mạng, an toàn cơ thể và các quyền cơ bản bởi sản phẩm hoặc dịch vụ trí tuệ nhân tạo. “Xã hội trí tuệ nhân tạo” là xã hội tạo ra giá trị và thúc đẩy phát triển trong tất cả các lĩnh vực như công nghiệp, kinh tế, xã hội, văn hóa, hành chính thông qua trí tuệ nhân tạo. “Đạo đức trí tuệ nhân tạo” là các tiêu chuẩn đạo đức mà các thành viên trong xã hội cần tuân thủ trong tất cả các lĩnh vực phát triển, cung cấp và sử dụng trí tuệ nhân tạo, nhằm xây dựng một xã hội trí tuệ nhân tạo an toàn và đáng tin cậy, bảo vệ quyền lợi, tính mạng và tài sản của người dân trên cơ sở tôn trọng nhân phẩm con người.
2. Nguyên tắc cơ bản của phát triển trí tuệ nhân tạo và trách nhiệm của các chủ thể có liên quan
Công nghệ trí tuệ nhân tạo và ngành công nghiệp trí tuệ nhân tạo phải được phát triển theo hướng nâng cao tính an toàn và độ tin cậy, từ đó cải thiện chất lượng cuộc sống của người dân.
Người bị ảnh hưởng phải được cung cấp giải thích rõ ràng và có ý nghĩa trong phạm vi kỹ thuật và hợp lý về các tiêu chí và nguyên lý chính đã được sử dụng để đưa ra kết quả cuối cùng của trí tuệ nhân tạo.
Nhà nước và chính quyền địa phương phải tôn trọng tinh thần sáng tạo của các chủ thể kinh doanh trí tuệ nhân tạo và nỗ lực xây dựng môi trường sử dụng trí tuệ nhân tạo an toàn; phải xây dựng chính sách để giúp toàn thể người dân thích ứng ổn định với những thay đổi do trí tuệ nhân tạo mang lại trong mọi lĩnh vực như xã hội, kinh tế, văn hóa và đời sống thường nhật.
3. Hệ thống thúc đẩy phát triển trí tuệ nhân tạo
3.1. Xây dựng Kế hoạch cơ bản về trí tuệ nhân tạo
Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông, sau khi lấy ý kiến của người đứng đầu các cơ quan hành chính trung ương liên quan và chính quyền địa phương, phải lập, sửa đổi và thực hiện Kế hoạch cơ bản về trí tuệ nhân tạo (sau đây gọi là “Kế hoạch cơ bản”) 3 năm một lần, nhằm thúc đẩy công nghệ và ngành công nghiệp trí tuệ nhân tạo và tăng cường năng lực cạnh tranh quốc gia, sau khi được Hội đồng trí tuệ nhân tạo quốc gia thẩm định và thông qua. Tuy nhiên, trong trường hợp thay đổi những nội dung nhỏ trong Kế hoạch cơ bản thì không cần phải tuân theo quy trình này.
Kế hoạch cơ bản phải bao gồm các nội dung sau: (1) Phương hướng và chiến lược cơ bản của chính sách liên quan đến trí tuệ nhân tạo v.v; (2) Đào tạo nhân lực chuyên môn và xây dựng nền tảng thúc đẩy phát triển và ứng dụng trí tuệ nhân tạo để phát triển có hệ thống ngành công nghiệp trí tuệ nhân tạo; (3) Các hệ thống pháp luật, thể chế và văn hóa nhằm hiện thực hóa xã hội trí tuệ nhân tạo lành mạnh như phổ biến đạo đức trí tuệ nhân tạo; (4) Bảo đảm nguồn lực tài chính và phương hướng đầu tư cho phát triển công nghệ trí tuệ nhân tạo và thúc đẩy ngành công nghiệp trí tuệ nhân tạo; (5) Xây dựng nền tảng tin cậy như đảm bảo tính công bằng, minh bạch, trách nhiệm và an toàn của trí tuệ nhân tạo; (6) Phương hướng phát triển công nghệ trí tuệ nhân tạo và ứng phó với các thay đổi trong các lĩnh vực xã hội như giáo dục, lao động, kinh tế, văn hóa; (7) Các nội dung khác mà Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông cho là cần thiết để thúc đẩy công nghệ và ngành công nghiệp trí tuệ nhân tạo và tăng cường hợp tác quốc tế. Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông có thể yêu cầu người đứng đầu cơ quan hành chính trung ương liên quan, chính quyền địa phương và các cơ quan công cung cấp tài liệu cần thiết cho việc lập Kế hoạch cơ bản.
3.2. Ủy ban Trí tuệ nhân tạo quốc gia
Để thẩm định và quyết định các chính sách chủ yếu nhằm phát triển trí tuệ nhân tạo và xây dựng nền tảng tin cậy, Ủy ban Trí tuệ Nhân tạo Quốc gia (sau đây gọi là “Ủy ban”) được thành lập trực thuộc Tổng thống. Ủy ban bao gồm tối đa 45 ủy viên, bao gồm 1 Chủ tịch và 1 Phó Chủ tịch. Chủ tịch Ủy ban là Tổng thống, còn Phó Chủ tịch là người do Tổng thống chỉ định. Các ủy viên của Ủy ban bao gồm: (1) Người đứng đầu các cơ quan hành chính trung ương có liên quan; (2) Phó Giám đốc phụ trách công việc liên quan đến trí tuệ nhân tạo tại Văn phòng An ninh Quốc gia; (3) Chánh Văn phòng phụ trách công việc liên quan đến trí tuệ nhân tạo tại Văn phòng Tổng thống; (4) Những người có kiến thức chuyên môn và kinh nghiệm phong phú liên quan đến trí tuệ nhân tạo do Tổng thống bổ nhiệm.
Ủy ban có trách nhiệm thẩm định và quyết định những vấn đề sau: (1) Việc lập, sửa đổi và kiểm tra, phân tích việc thực hiện Kế hoạch cơ bản; (2) Các chính sách liên quan đến trí tuệ nhân tạo v.v; (3) Việc xây dựng chiến lược nghiên cứu và phát triển liên quan đến trí tuệ nhân tạo v.v; (4) Việc xây dựng chiến lược đầu tư liên quan đến trí tuệ nhân tạo v.v.; (5) Việc phát hiện và cải thiện các quy định cản trở sự phát triển và năng lực cạnh tranh của ngành công nghiệp trí tuệ nhân tạo; (6) Các phương án mở rộng hạ tầng như trung tâm dữ liệu trí tuệ nhân tạo; Thúc đẩy ứng dụng trí tuệ nhân tạo trong các lĩnh vực công nghiệp như sản xuất và dịch vụ, cũng như trong khu vực công; (7) Hợp tác quốc tế về trí tuệ nhân tạo như xây dựng quy phạm quốc tế liên quan đến AI; (8) Khuyến nghị hoặc nêu ý kiến; (9) Quy định liên quan đến trí tuệ nhân tạo có ảnh hưởng cao; (10) Tình hình thay đổi xã hội liên quan đến trí tuệ nhân tạo có ảnh hưởng cao và chính sách ứng phó; (11) Những vấn đề được quy định là thuộc thẩm quyền thẩm định của Ủy ban theo luật này hoặc luật khác; (12) Những vấn đề khác do Chủ tịch Ủy ban cho là cần thiết và đưa ra cuộc họp của Ủy ban. Ủy ban có thể đưa ra khuyến nghị hoặc bày tỏ ý kiến với người đứng đầu các cơ quan nhà nước và chủ thể kinh doanh trí tuệ nhân tạo liên quan đến việc sử dụng đúng đắn trí tuệ nhân tạo, thực hành đạo đức trí tuệ nhân tạo, và đảm bảo tính an toàn, độ tin cậy của công nghệ trí tuệ nhân tạo.
Ủy ban có thể thành lập các ủy ban phân ban theo từng lĩnh vực chuyên môn nếu cần thiết để thực hiện công việc một cách hiệu quả. Ủy ban có thể thành lập các ủy ban đặc biệt khi cần thảo luận các vấn đề cụ thể liên quan đến trí tuệ nhân tạo v.v. Ủy ban có thể thành lập một ban tư vấn gồm các chuyên gia có liên quan để tiến hành đánh giá chuyên sâu các vấn đề liên quan đến trí tuệ nhân tạo v.v.
3.3. Trung tâm Chính sách Trí tuệ nhân tạo
Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông có thể chỉ định Trung tâm Chính sách Trí tuệ Nhân tạo (sau đây gọi là “Trung tâm”) để thực hiện toàn diện các nhiệm vụ liên quan đến phát triển chính sách về trí tuệ nhân tạo và xây dựng, phổ biến quy phạm quốc tế. Trung tâm thực hiện các hoạt động sau: (1) Hỗ trợ kỹ thuật chuyên môn cần thiết cho việc xây dựng và thực hiện Kế hoạch cơ bản; (2) Hỗ trợ kỹ thuật chuyên môn cho việc xây dựng chính sách liên quan đến trí tuệ nhân tạo và lập kế hoạch, thực hiện các dự án liên quan; (3) Điều tra và phân tích tác động của việc mở rộng sử dụng trí tuệ nhân tạo đến xã hội, kinh tế, văn hóa và đời sống thường nhật của người dân; (4) Phân tích xu hướng, dự báo thay đổi xã hội - văn hóa và nghiên cứu pháp luật, thể chế nhằm hỗ trợ phát triển chính sách về trí tuệ nhân tạo và công nghệ trí tuệ nhân tạo; (5) Thực hiện các dự án được giao hoặc quy định là thuộc trách nhiệm của Trung tâm theo quy định của pháp luật khác; (6) Các dự án được người đứng đầu cơ quan nhà nước v.v. giao phó.
3.4. Viện Nghiên cứu An toàn Trí tuệ nhân tạo
Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông có thể thành lập Viện Nghiên cứu An toàn Trí tuệ Nhân tạo (sau đây gọi là “Viện An toàn”) để thực hiện một cách chuyên sâu và hiệu quả các nhiệm vụ nhằm đảm bảo an toàn trí tuệ nhân tạo - tức là bảo vệ tính mạng, cơ thể, tài sản của người dân khỏi các rủi ro tiềm tàng liên quan đến trí tuệ nhân tạo, đồng thời duy trì nền tảng tin cậy của xã hội trí tuệ nhân tạo.
Viện An toàn thực hiện các hoạt động sau: (1) Định nghĩa và phân tích các rủi ro liên quan đến an toàn trí tuệ nhân tạo; (2) Nghiên cứu chính sách liên quan đến an toàn trí tuệ nhân tạo; (3) Nghiên cứu tiêu chuẩn và phương pháp đánh giá an toàn trí tuệ nhân tạo; (4) Nghiên cứu công nghệ và tiêu chuẩn hóa an toàn trí tuệ nhân tạo; (5) Giao lưu và hợp tác quốc tế liên quan đến an toàn trí tuệ nhân tạo; (6) Hỗ trợ đảm bảo an toàn hệ thống trí tuệ nhân tạo. Chính phủ có thể cấp vốn hoặc hỗ trợ kinh phí trong phạm vi ngân sách để vận hành Viện An toàn và triển khai các hoạt động của Viện.
4. Phát triển công nghệ trí tuệ nhân tạo và nuôi dưỡng ngành công nghiệp
4.1. Xây dựng nền tảng ngành công nghiệp trí tuệ nhân tạo
Chính phủ có thể hỗ trợ các dự án sau nhằm thúc đẩy phát triển công nghệ trí tuệ nhân tạo: (1) Điều tra xu hướng, trình độ công nghệ trí tuệ nhân tạo trong và ngoài nước cũng như các chế độ liên quan; (2) Nghiên cứu, phát triển, thử nghiệm và đánh giá công nghệ trí tuệ nhân tạo hoặc việc ứng dụng công nghệ đã phát triển; (3) Hỗ trợ phổ biến công nghệ trí tuệ nhân tạo, hợp tác và chuyển giao công nghệ, thương mại hóa và thực tiễn hóa công nghệ; (4) Thúc đẩy lưu thông thông tin nhằm hiện thực hóa công nghệ trí tuệ nhân tạo và hợp tác giữa nhà trường và doanh nghiệp.
Chính phủ có thể hỗ trợ các dự án sau nhằm đảm bảo việc sử dụng công nghệ trí tuệ nhân tạo an toàn và thuận tiện: (1) Các dự án nghiên cứu phát triển nhằm hiện thực hóa các nội dung tại các khoản của Điều 60 khoản 1 của Luật Khung về Thông tin thông minh thông qua công nghệ trí tuệ nhân tạo; (2) Hỗ trợ nghiên cứu công nghệ nhằm triển khai tính năng dừng khẩn cấp trong sản phẩm hoặc dịch vụ trí tuệ nhân tạo và các dự án nhằm phổ biến công nghệ đó; (3) Nghiên cứu, phát triển và phổ biến các tiêu chuẩn thiết kế và công nghệ phù hợp để bảo vệ quyền riêng tư; (4) Nghiên cứu và phát triển việc triển khai và áp dụng đánh giá tác động xã hội; (5) Nghiên cứu, phát triển và phổ biến các tiêu chuẩn và công nghệ nhằm đảm bảo trí tuệ nhân tạo được phát triển và sử dụng theo hướng tôn trọng nhân phẩm và các quyền cơ bản của con người; (6) Tổ chức giáo dục và tuyên truyền nhằm nâng cao nhận thức, phổ biến phương pháp sử dụng đúng đắn và xây dựng môi trường an toàn cho việc phát triển và sử dụng trí tuệ nhân tạo; (7) Các dự án khác cần thiết nhằm bảo vệ quyền cơ bản, thân thể và tài sản của người dân trong việc phát triển và sử dụng trí tuệ nhân tạo. Chính phủ phải công khai và phổ biến kết quả của các dự án nêu trên để mọi người có thể dễ dàng sử dụng; trong trường hợp cần thiết để bảo vệ người phát triển công nghệ, có thể quy định thời hạn bảo hộ, thu phí sử dụng công nghệ hoặc áp dụng các biện pháp bảo vệ khác.
Chính phủ có thể thúc đẩy các dự án sau để tiêu chuẩn hóa công nghệ trí tuệ nhân tạo, dữ liệu đào tạo và các yếu tố liên quan đến an toàn, độ tin cậy của trí tuệ nhân tạo: (1) Ban hành, sửa đổi, bãi bỏ và phổ biến các tiêu chuẩn liên quan đến công nghệ trí tuệ nhân tạo; (2) Điều tra, nghiên cứu và phát triển các tiêu chuẩn quốc gia và quốc tế liên quan đến công nghệ trí tuệ nhân tạo; (3) Các dự án khác liên quan đến tiêu chuẩn hóa công nghệ trí tuệ nhân tạo.
Chính phủ có thể công bố các tiêu chuẩn và khuyến khích các chủ thể kinh doanh liên quan tuân thủ. Chính phủ có thể hỗ trợ các dự án tiêu chuẩn hóa công nghệ trí tuệ nhân tạo do khu vực tư nhân thực hiện. Chính phủ phải duy trì và tăng cường hệ thống hợp tác với các tổ chức tiêu chuẩn hóa quốc tế liên quan đến tiêu chuẩn công nghệ trí tuệ nhân tạo.
Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông, sau khi tham vấn với người đứng đầu các cơ quan hành chính trung ương liên quan, phải thúc đẩy các chính sách cần thiết để khuyến khích sản xuất, thu thập, quản lý, phân phối và sử dụng dữ liệu dùng trong phát triển và ứng dụng trí tuệ nhân tạo (sau đây gọi là “dữ liệu đào tạo”). Chính phủ có thể lựa chọn các dự án đủ điều kiện hỗ trợ và cung cấp ngân sách trong phạm vi có thể nhằm thúc đẩy hiệu quả các chính sách liên quan đến dữ liệu đào tạo. Chính phủ có thể thực hiện các dự án sản xuất và cung cấp đa dạng dữ liệu đào tạo nhằm thúc đẩy sản xuất, thu thập, quản lý, phân phối và sử dụng dữ liệu đào tạo (sau đây gọi là “dự án xây dựng dữ liệu đào tạo”). Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông phải xây dựng và vận hành hệ thống cung cấp tích hợp (sau đây gọi là “hệ thống cung cấp tích hợp”) để có thể cung cấp và quản lý dữ liệu đào tạo một cách tập trung, đồng thời phải cung cấp để khu vực tư nhân có thể sử dụng tự do. Bộ trưởng có thể thu phí từ người sử dụng hệ thống cung cấp tích hợp.
4.2. Phát triển công nghệ trí tuệ nhân tạo và thúc đẩy ngành công nghiệp trí tuệ nhân tạo
Nhà nước và chính quyền địa phương có thể thực hiện các hình thức hỗ trợ sau, khi cần thiết, nhằm thúc đẩy việc áp dụng và mở rộng sử dụng công nghệ trí tuệ nhân tạo tại các doanh nghiệp và cơ quan công: (1) Hỗ trợ phát triển công nghệ, sản phẩm hoặc dịch vụ trí tuệ nhân tạo, cũng như phổ biến kết quả nghiên cứu và phát triển; (2) Hỗ trợ tư vấn cho doanh nghiệp và cơ quan công muốn áp dụng và sử dụng công nghệ trí tuệ nhân tạo; (3) Hỗ trợ đào tạo cho nhân sự của các doanh nghiệp vừa và nhỏ, doanh nghiệp khởi nghiệp liên quan đến việc áp dụng và sử dụng công nghệ trí tuệ nhân tạo; (4) Hỗ trợ tài chính cho việc áp dụng và sử dụng công nghệ trí tuệ nhân tạo tại các doanh nghiệp nhỏ và vừa v.v.
Khi thực hiện các chính sách hỗ trợ liên quan đến công nghệ và ngành công nghiệp trí tuệ nhân tạo theo luật này, phải ưu tiên xem xét đến các doanh nghiệp nhỏ và vừa. Chính phủ phải nỗ lực thúc đẩy sự tham gia của các doanh nghiệp nhỏ và vừa trong ngành công nghiệp trí tuệ nhân tạo, và phản ánh nội dung liên quan vào Kế hoạch cơ bản. Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông có thể hỗ trợ doanh nghiệp nhỏ và vừa v.v. trong việc thực hiện các biện pháp được yêu cầu và đánh giá tác động nhằm đảm bảo an toàn và độ tin cậy của trí tuệ nhân tạo.
Chính phủ có thể thực hiện các dự án sau nhằm thúc đẩy khởi nghiệp trong lĩnh vực công nghiệp trí tuệ nhân tạo: (1) Dự án phát hiện, bồi dưỡng và hỗ trợ các nhà khởi nghiệp trong lĩnh vực công nghiệp trí tuệ nhân tạo; (2) Dự án đào tạo và huấn luyện để thúc đẩy khởi nghiệp trong lĩnh vực công nghiệp trí tuệ nhân tạo; (3) Hỗ trợ thương mại hóa công nghệ trí tuệ nhân tạo xuất sắc do nhân lực chuyên môn phát triển; (4) Đánh giá giá trị công nghệ trí tuệ nhân tạo và hỗ trợ tài chính khởi nghiệp; (5) Cung cấp kết quả nghiên cứu và phát triển công nghệ liên quan đến trí tuệ nhân tạo; (6) Bồi dưỡng các cơ quan và tổ chức hỗ trợ khởi nghiệp trong lĩnh vực công nghiệp trí tuệ nhân tạo; (7) Các dự án cần thiết khác để thúc đẩy khởi nghiệp trong lĩnh vực công nghiệp trí tuệ nhân tạo. Chính quyền địa phương có thể tài trợ hoặc đầu tư vào các cơ quan công hoặc tổ chức công lập hỗ trợ khởi nghiệp trong lĩnh vực công nghiệp trí tuệ nhân tạo.
Chính phủ phải xây dựng và thực hiện các chính sách cần thiết để thúc đẩy tích hợp giữa ngành công nghiệp trí tuệ nhân tạo với các ngành công nghiệp khác, cũng như mở rộng ứng dụng trí tuệ nhân tạo trong mọi lĩnh vực. Chính phủ, khi cần thiết, có thể ưu tiên đưa các đề án nghiên cứu phát triển về sản phẩm và dịch vụ tích hợp trí tuệ nhân tạo vào các dự án nghiên cứu phát triển quốc gia theo Luật Đổi mới Nghiên cứu và Phát triển Quốc gia. Chính phủ phải tích cực hỗ trợ để các sản phẩm và dịch vụ tích hợp trí tuệ nhân tạo có thể được hưởng giấy phép tạm thời và áp dụng cơ chế thử nghiệm đặc biệt.
Chính phủ phải nỗ lực cải thiện các quy định pháp luật, trong đó có việc sửa đổi các quy định hiện hành, nhằm phát triển ngành công nghiệp trí tuệ nhân tạo và xây dựng nền tảng tin cậy. Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông phải đào tạo và hỗ trợ nhân lực chuyên môn liên quan đến trí tuệ nhân tạo và công nghệ trí tuệ nhân tạo nhằm phục vụ cho sự phát triển công nghệ trí tuệ nhân tạo và ngành công nghiệp liên quan. Chính phủ có thể triển khai các chính sách sau nhằm thu hút nhân lực chuyên môn quốc tế trong lĩnh vực trí tuệ nhân tạo và công nghệ trí tuệ nhân tạo: (1) Điều tra và phân tích về nhân lực chuyên môn tại các trường đại học, viện nghiên cứu, doanh nghiệp ở nước ngoài; (2) Xây dựng mạng lưới hợp tác quốc tế nhằm thu hút nhân lực chuyên môn từ nước ngoài; (3) Hỗ trợ việc làm tại Hàn Quốc cho nhân lực chuyên môn quốc tế; (4) Hỗ trợ các viện nghiên cứu trí tuệ nhân tạo trong nước mở rộng ra nước ngoài, và thu hút các viện nghiên cứu nước ngoài vào trong nước; (5) Hỗ trợ tổ chức các hội nghị quốc tế và sự kiện quốc tế về trí tuệ nhân tạo tại Hàn Quốc; (6) Các nội dung khác cần thiết để thu hút nhân lực chuyên môn quốc tế.
Chính phủ phải nắm bắt xu hướng quốc tế liên quan đến trí tuệ nhân tạo và thúc đẩy hợp tác quốc tế. Nhằm tăng cường năng lực cạnh tranh và hỗ trợ mở rộng thị trường nước ngoài của ngành công nghiệp trí tuệ nhân tạo, chính phủ có thể hỗ trợ cá nhân, doanh nghiệp hoặc tổ chức hoạt động trong ngành bằng các nội dung sau: (1) Trao đổi quốc tế về thông tin, công nghệ và nhân lực liên quan đến ngành công nghiệp trí tuệ nhân tạo; (2) Thu thập, phân tích và cung cấp thông tin về việc mở rộng ra thị trường nước ngoài; (3) Nghiên cứu, phát triển chung và tiêu chuẩn hóa quốc tế về công nghệ, sản phẩm hoặc dịch vụ trí tuệ nhân tạo; (4) Thu hút đầu tư nước ngoài vào ngành công nghiệp trí tuệ nhân tạo; (5) Tham gia và quảng bá tại các hội nghị học thuật và triển lãm quốc tế liên quan đến trí tuệ nhân tạo; (6) Xây dựng hệ thống bán hàng, hệ thống phân phối và hệ thống hợp tác cần thiết cho việc xuất khẩu sản phẩm hoặc dịch vụ trí tuệ nhân tạo; (7) Nắm bắt xu hướng và thúc đẩy hợp tác quốc tế về đạo đức trí tuệ nhân tạo; (8) Các nội dung khác cần thiết để nâng cao năng lực cạnh tranh và thúc đẩy mở rộng ra thị trường quốc tế của ngành công nghiệp trí tuệ nhân tạo.
Nhà nước và chính quyền địa phương có thể thúc đẩy việc tích hợp chức năng, cơ sở vật chất và vị trí địa lý của các doanh nghiệp, cơ quan, tổ chức đang nghiên cứu và phát triển công nghệ trí tuệ nhân tạo nhằm thúc đẩy ngành công nghiệp này và tăng cường năng lực cạnh tranh. Khi cần thiết cho việc tích hợp, Nhà nước và chính quyền địa phương có thể chỉ định khu phức hợp tích hợp trí tuệ nhân tạo (sau đây gọi là “khu tích hợp”) và thực hiện các hỗ trợ hành chính, tài chính, kỹ thuật.
Nhà nước và chính quyền địa phương có thể xây dựng và vận hành các cơ sở vật chất, thiết bị và trang bị cần thiết (sau đây gọi là “nền tảng thử nghiệm”) để hỗ trợ việc thử nghiệm, kiểm tra hiệu suất và kiểm định/chứng nhận (sau đây gọi là “thử nghiệm xác minh”) cho các công nghệ do các doanh nghiệp trí tuệ nhân tạo phát triển hoặc chuyển giao. Nhà nước và chính quyền địa phương có thể mở cửa nền tảng thử nghiệm do các tổ chức sở hữu để phục vụ cho các doanh nghiệp trí tuệ nhân tạo.
5. Thiết lập Trung tâm dữ liệu trí tuệ nhân tạo và tổ chức hỗ trợ
Chính phủ phải thúc đẩy các chính sách cần thiết để xây dựng và vận hành trung tâm dữ liệu phục vụ phát triển và ứng dụng trí tuệ nhân tạo (sau đây gọi là “trung tâm dữ liệu trí tuệ nhân tạo”). Để triển khai các chính sách này, chính phủ có thể thực hiện các công việc sau: (1) Hỗ trợ hành chính và tài chính cần thiết cho việc xây dựng và vận hành trung tâm dữ liệu trí tuệ nhân tạo; (2) Hỗ trợ các doanh nghiệp vừa và nhỏ, viện nghiên cứu… trong việc sử dụng trung tâm dữ liệu trí tuệ nhân tạo; (3) Hỗ trợ nhằm thúc đẩy sự phát triển cân bằng giữa các khu vực đối với cơ sở hạ tầng liên quan đến trí tuệ nhân tạo, bao gồm trung tâm dữ liệu trí tuệ nhân tạo.
Những cá nhân hoạt động nghiên cứu và làm việc liên quan đến trí tuệ nhân tạo có thể thành lập hoặc được chỉ định là Hiệp hội Phát triển Trí tuệ Nhân tạo Hàn Quốc (sau đây gọi là “Hiệp hội”), sau khi được Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông phê duyệt, nhằm thúc đẩy phát triển và sử dụng trí tuệ nhân tạo, ngành công nghiệp và công nghệ liên quan, cũng như tuyên truyền và giáo dục. Hiệp hội có tư cách pháp nhân. Hiệp hội thực hiện các hoạt động sau: (1) Thúc đẩy việc sử dụng và mở rộng công nghệ, sản phẩm, dịch vụ trí tuệ nhân tạo; (2) Khảo sát thực trạng và thống kê liên quan đến trí tuệ nhân tạo; (3) Xây dựng, vận hành cơ sở dùng chung cho các doanh nghiệp trí tuệ nhân tạo và đào tạo nhân lực chuyên môn; (4) Hỗ trợ doanh nghiệp và nhân lực chuyên môn liên quan đến trí tuệ nhân tạo vươn ra quốc tế; (5) Giáo dục và tuyên truyền nhằm phát triển và sử dụng trí tuệ nhân tạo một cách an toàn và đáng tin cậy; (6) Các dự án được giao theo luật này hoặc luật khác; (7) Các dự án khác cần thiết để đạt được mục tiêu thành lập, được quy định trong điều lệ.
Nhà nước và chính quyền địa phương, nếu cần thiết để phát triển ngành công nghiệp trí tuệ nhân tạo và xây dựng nền tảng tin cậy, có thể hỗ trợ kinh phí cho các hoạt động của Hiệp hội trong phạm vi ngân sách.
Khi Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông cấp phép, phải công bố công khai việc đó. Trừ khi có quy định khác trong luật này, việc tổ chức và hoạt động của Hiệp hội sẽ áp dụng tương ứng quy định về pháp nhân hội trong Bộ luật Dân sự.
6. Đạo đức và độ tin cậy của trí tuệ nhân tạo
6.1. Nguyên tắc đạo đức về trí tuệ nhân tạo
Chính phủ có thể ban hành và công bố nguyên tắc đạo đức về trí tuệ nhân tạo (sau đây gọi là “nguyên tắc đạo đức”), bao gồm các nội dung sau để thúc đẩy phổ biến đạo đức trí tuệ nhân tạo: (1) Đảm bảo an toàn và độ tin cậy để không gây tổn hại đến tính mạng, cơ thể, sức khỏe tinh thần của con người trong quá trình phát triển và ứng dụng trí tuệ nhân tạo; (2) Đảm bảo khả năng tiếp cận để mọi người đều có thể sử dụng sản phẩm và dịch vụ ứng dụng công nghệ trí tuệ nhân tạo một cách tự do và tiện lợi; (3) Thúc đẩy phát triển và sử dụng trí tuệ nhân tạo nhằm đóng góp vào đời sống và sự thịnh vượng của con người.
Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông phải thu thập ý kiến từ các tầng lớp xã hội, xây dựng phương án thực thi để nguyên tắc đạo đức được hiện thực hóa bởi tất cả những người liên quan đến phát triển và ứng dụng trí tuệ nhân tạo, và công khai, tuyên truyền, giáo dục nội dung đó.
Khi người đứng đầu cơ quan hành chính trung ương hoặc chính quyền địa phương xây dựng hoặc sửa đổi tiêu chuẩn đạo đức trí tuệ nhân tạo (bao gồm mọi hình thức pháp luật, quy chuẩn, hướng dẫn liên quan đến đạo đức AI), Bộ trưởng có thể đưa ra khuyến nghị hoặc ý kiến về tính liên kết và phù hợp với nguyên tắc đạo đức và phương án thực thi.
6.3. Thành lập Ủy ban đạo đức trí tuệ nhân tạo tự chủ tư nhân
Các tổ chức sau đây có thể thành lập Ủy ban đạo đức trí tuệ nhân tạo tự chủ tư nhân (sau đây gọi là “Ủy ban tự chủ tư nhân”) nhằm tuân thủ nguyên tắc đạo đức: (1) Các cơ sở giáo dục và viện nghiên cứu mà trong đó có người nghiên cứu và phát triển công nghệ trí tuệ nhân tạo; (2) Các doanh nghiệp kinh doanh trí tuệ nhân tạo; (3) Các cơ quan khác liên quan đến công nghệ trí tuệ nhân tạo được quy định tại Nghị định Tổng thống.
Ủy ban tự chủ tư nhân thực hiện độc lập các nhiệm vụ sau: (1) Kiểm tra việc tuân thủ nguyên tắc đạo đức trong nghiên cứu, phát triển và ứng dụng công nghệ trí tuệ nhân tạo; (2) Nghiên cứu và điều tra về an toàn và vi phạm nhân quyền liên quan đến công nghệ trí tuệ nhân tạo; (3) Kiểm tra và giám sát quy trình và kết quả nghiên cứu, phát triển, ứng dụng công nghệ trí tuệ nhân tạo; (4) Giáo dục nguyên tắc đạo đức cho nhà nghiên cứu và người làm việc trong tổ chức; (5) Thiết lập hướng dẫn đạo đức theo từng lĩnh vực phù hợp với nghiên cứu, phát triển và ứng dụng công nghệ trí tuệ nhân tạo; (6) Các công việc cần thiết khác để thực hiện nguyên tắc đạo đức.
Việc tổ chức và vận hành Ủy ban tự chủ tư nhân sẽ do tổ chức hoặc cơ quan liên quan tự quyết định. Tuy nhiên, không được chỉ bao gồm một giới tính duy nhất và phải có người có kiến thức, kinh nghiệm đánh giá hợp lý về khía cạnh xã hội và đạo đức, cũng như người không trực thuộc tổ chức đó.
Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông có thể xây dựng và phổ biến hướng dẫn tiêu chuẩn nhằm đảm bảo Ủy ban tự chủ tư nhân được tổ chức và vận hành một cách công bằng và trung lập.
6.4. Thiết lập chính sách xây dựng nền tảng tin cậy cho trí tuệ nhân tạo
Chính phủ phải xây dựng các chính sách sau đây nhằm giảm thiểu các nguy cơ tiềm ẩn do trí tuệ nhân tạo gây ra đối với đời sống người dân và xây dựng nền tảng tin cậy để sử dụng trí tuệ nhân tạo một cách an toàn: (1) Xây dựng môi trường sử dụng trí tuệ nhân tạo an toàn và đáng tin cậy; (2) Dự báo và đánh giá tác động của trí tuệ nhân tạo đối với đời sống thường nhật của người dân và cải cách pháp luật, thể chế liên quan; (3) Hỗ trợ phát triển và phổ biến công nghệ an toàn, công nghệ chứng nhận nhằm đảm bảo an toàn và độ tin cậy của trí tuệ nhân tạo; (4) Giáo dục và tuyên truyền nhằm hiện thực hóa xã hội trí tuệ nhân tạo an toàn và đáng tin cậy cũng như thực hành đạo đức trí tuệ nhân tạo; (5) Hỗ trợ việc xây dựng và thực hiện quy tắc tự nguyện của các doanh nghiệp trí tuệ nhân tạo liên quan đến an toàn và độ tin cậy; (6) Hỗ trợ và thúc đẩy hoạt động tự nguyện trong khu vực tư nhân như hợp tác, xây dựng hướng dẫn đạo đức bởi các tổ chức liên quan đến trí tuệ nhân tạo, bao gồm doanh nghiệp, người sử dụng; (7) Các nội dung khác được quy định bởi Nghị định Tổng thống để đảm bảo an toàn và độ tin cậy của trí tuệ nhân tạo.
6.5. Hỗ trợ kiểm định và chứng nhận an toàn, tin cậy cho trí tuệ nhân tạo
Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông có thể triển khai các dự án sau để hỗ trợ hoạt động kiểm định và chứng nhận (sau đây gọi là “kiểm/nhận”) được các tổ chức liên quan thực hiện một cách tự nguyện nhằm đảm bảo an toàn và độ tin cậy của trí tuệ nhân tạo: (1) Phổ biến hướng dẫn phát triển trí tuệ nhân tạo; (2) Hỗ trợ nghiên cứu liên quan đến kiểm/nhận; (3) Hỗ trợ xây dựng và vận hành thiết bị, hệ thống sử dụng trong kiểm/nhận; (4) Hỗ trợ đào tạo nhân lực chuyên môn cần thiết cho kiểm/nhận; (5) Các nội dung khác do Nghị định Tổng thống quy định để hỗ trợ kiểm/nhận; (6) Bộ trưởng có thể cung cấp thông tin và hỗ trợ hành chính, tài chính cho các doanh nghiệp vừa và nhỏ khi họ muốn tham gia kiểm/nhận theo quy định của Nghị định Tổng thống. Doanh nghiệp cung cấp trí tuệ nhân tạo có ảnh hưởng cao cần nỗ lực tiến hành kiểm/nhận trước khi cung cấp sản phẩm/dịch vụ. Các cơ quan nhà nước khi sử dụng trí tuệ nhân tạo có ảnh hưởng cao phải ưu tiên xem xét sản phẩm hoặc dịch vụ đã được kiểm/nhận.
6.6. Nghĩa vụ đảm bảo tính minh bạch và an toàn của trí tuệ nhân tạo
Doanh nghiệp cung cấp sản phẩm hoặc dịch vụ sử dụng trí tuệ nhân tạo có ảnh hưởng cao hoặc trí tuệ nhân tạo tạo sinh phải thông báo trước cho người sử dụng rằng sản phẩm hoặc dịch vụ đó được vận hành dựa trên trí tuệ nhân tạo. Khi cung cấp trí tuệ nhân tạo tạo sinh hoặc sản phẩm/dịch vụ liên quan, doanh nghiệp phải hiển thị rõ ràng rằng kết quả được tạo ra bởi trí tuệ nhân tạo tạo sinh. Khi cung cấp âm thanh, hình ảnh, video giả lập khó phân biệt với thực tế được tạo ra bởi hệ thống trí tuệ nhân tạo, doanh nghiệp phải thông báo/hiển thị để người sử dụng có thể nhận biết rõ ràng. Trường hợp kết quả đó là tác phẩm nghệ thuật hoặc thể hiện sáng tạo thì có thể thông báo/hiển thị theo cách không cản trở việc trưng bày hoặc thưởng thức.
Doanh nghiệp trí tuệ nhân tạo, đối với hệ thống có khối lượng tính toán tích lũy vượt mức tiêu chuẩn do Nghị định Tổng thống quy định, phải thực hiện các nghĩa vụ sau để đảm bảo an toàn: (1) Nhận diện, đánh giá và giảm thiểu rủi ro trong toàn bộ vòng đời của trí tuệ nhân tạo; (2) Thiết lập hệ thống quản lý rủi ro để giám sát và ứng phó với các sự cố an toàn liên quan đến trí tuệ nhân tạo. Doanh nghiệp phải nộp kết quả thực hiện các nghĩa vụ trên cho Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông.
6.7. Xác nhận trí tuệ nhân tạo có ảnh hưởng cao và trách nhiệm của doanh nghiệp liên quan đến trí tuệ nhân tạo có ảnh hưởng cao
Doanh nghiệp cung cấp trí tuệ nhân tạo hoặc sản phẩm/dịch vụ sử dụng trí tuệ nhân tạo phải xem xét trước xem hệ thống đó có thuộc trí tuệ nhân tạo có ảnh hưởng cao hay không; nếu cần thiết có thể yêu cầu Bộ trưởng xác nhận. Khi có yêu cầu theo khoản 1, Bộ trưởng phải xác nhận việc đó và có thể thành lập hội đồng chuyên môn để xin ý kiến tư vấn. Bộ trưởng có thể xây dựng và phổ biến hướng dẫn về tiêu chuẩn và ví dụ cụ thể của trí tuệ nhân tạo có ảnh hưởng cao.
Khi doanh nghiệp trí tuệ nhân tạo cung cấp trí tuệ nhân tạo có ảnh hưởng cao hoặc sản phẩm, dịch vụ sử dụng trí tuệ nhân tạo có ảnh hưởng cao, thì phải thực hiện các biện pháp bao gồm các nội dung sau để đảm bảo an toàn và độ tin cậy: (1) Thiết lập và vận hành phương án quản lý rủi ro; (2) Thiết lập và thực hiện phương án giải thích về kết quả cuối cùng do trí tuệ nhân tạo tạo ra, các tiêu chí chính được sử dụng để đưa ra kết quả đó, và tổng quan về dữ liệu học đã sử dụng, trong phạm vi kỹ thuật cho phép; (3) Thiết lập và vận hành các biện pháp bảo vệ người dùng; (4) Giám sát và kiểm soát bởi con người đối với trí tuệ nhân tạo có ảnh hưởng cao; (5) Soạn thảo và lưu trữ tài liệu có thể xác minh nội dung các biện pháp đảm bảo an toàn và độ tin cậy; (6) Các nội dung khác đã được Ủy ban thẩm định và quyết nghị để đảm bảo an toàn và độ tin cậy của trí tuệ nhân tạo có ảnh hưởng cao. Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông có thể công bố hướng dẫn cụ thể về các nội dung nêu trên và khuyến nghị doanh nghiệp trí tuệ nhân tạo thực hiện. Trường hợp doanh nghiệp trí tuệ nhân tạo đã thực hiện các biện pháp tương đương theo quy định pháp luật khác, thì được xem là đã thực hiện các biện pháp kể trên.
6.8. Đánh giá tác động của trí tuệ nhân tạo có ảnh hưởng cao và chỉ định đại diện tại Hàn Quốc
Doanh nghiệp trí tuệ nhân tạo khi cung cấp sản phẩm hoặc dịch vụ sử dụng trí tuệ nhân tạo có ảnh hưởng cao phải nỗ lực thực hiện đánh giá tác động đến quyền cơ bản của con người một cách chủ động trước khi cung cấp. Khi cơ quan nhà nước sử dụng sản phẩm hoặc dịch vụ sử dụng trí tuệ nhân tạo có ảnh hưởng cao, phải ưu tiên xem xét các sản phẩm/dịch vụ đã thực hiện đánh giá tác động.
Doanh nghiệp trí tuệ nhân tạo không có địa chỉ hoặc văn phòng kinh doanh tại Hàn Quốc nhưng đáp ứng các tiêu chí về số lượng người sử dụng, doanh thu… phải chỉ định bằng văn bản một người đại diện tại Hàn Quốc (sau đây gọi là “đại diện trong nước”) để thực hiện các nghĩa vụ sau và thông báo với Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông: (1) Nộp kết quả thực hiện nghĩa vụ; (2) Yêu cầu xác nhận việc trí tuệ nhân tạo có thuộc loại ảnh hưởng cao; (3) Hỗ trợ thực hiện các biện pháp đảm bảo an toàn và độ tin cậy (bao gồm kiểm tra tính cập nhật và độ chính xác của tài liệu đi kèm). Đại diện trong nước phải là người có địa chỉ hoặc văn phòng kinh doanh tại Hàn Quốc. Trường hợp đại diện trong nước vi phạm quy định liên quan đến các nội dung nêu trên, doanh nghiệp trí tuệ nhân tạo đã chỉ định người đó sẽ bị coi là đã thực hiện hành vi vi phạm.
7. Bảo đảm nguồn tài chính cho phát triển ngành công nghiệp trí tuệ nhân tạo
Nhà nước phải xây dựng phương án để ổn định và tăng cường nguồn tài chính một cách liên tục, nhằm thực hiện hiệu quả Kế hoạch cơ bản và các chính sách theo luật này. Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông có thể khuyến nghị các cơ quan công hỗ trợ thực hiện các dự án nhằm thúc đẩy ngành công nghiệp trí tuệ nhân tạo khi thấy cần thiết. Nhà nước và chính quyền địa phương phải chuẩn bị các biện pháp để khuyến khích khu vực tư nhân, như các doanh nghiệp, tích cực đầu tư vào các dự án liên quan đến thúc đẩy ngành công nghiệp trí tuệ nhân tạo. Nhà nước và chính quyền địa phương phải nỗ lực quản lý và sử dụng hiệu quả nguồn đầu tư, có tính đến giai đoạn phát triển của ngành công nghiệp trí tuệ nhân tạo.
8. Khảo sát thực trạng, thống kê, xây dựng chỉ số, ủy quyền, xử lý vi phạm
Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông, sau khi tham vấn với Tổng cục Thống kê, phải xây dựng, quản lý và công bố các khảo sát thực trạng, số liệu thống kê và chỉ số liên quan đến trí tuệ nhân tạo trong và ngoài nước, nhằm phục vụ việc lập kế hoạch và thực hiện các chính sách và dự án liên quan. Để thực hiện việc xây dựng thống kê và chỉ số kể trên, Bộ trưởng có thể yêu cầu sự hợp tác từ người đứng đầu các cơ quan hành chính trung ương, chính quyền địa phương và cơ quan công trong việc cung cấp dữ liệu.
Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông hoặc người đứng đầu cơ quan hành chính trung ương có liên quan có thể ủy quyền một phần thẩm quyền theo luật này cho người đứng đầu cơ quan trực thuộc hoặc cho thị trưởng đặc biệt, thị trưởng đô thị trực thuộc trung ương, thị trưởng thành phố tự trị đặc biệt, tỉnh trưởng, tỉnh trưởng của tỉnh tự trị đặc biệt. Trong trường hợp này, tỉnh trưởng có thể tiếp tục ủy quyền cho thị trưởng, huyện trưởng, quận trưởng. Chính phủ có thể ủy thác các công việc sau đây cho các tổ chức hoặc cơ quan liên quan: (1) Hỗ trợ các dự án liên quan đến phát triển và sử dụng công nghệ trí tuệ nhân tạo; (2) Lựa chọn và hỗ trợ các dự án thuộc diện hỗ trợ liên quan đến sản xuất, thu thập, quản lý, phân phối và sử dụng dữ liệu học; triển khai dự án xây dựng dữ liệu học; (3) Xây dựng, vận hành và quản lý hệ thống cung cấp tích hợp; (4) Các nội dung mà Bộ trưởng cho là cần thiết nhằm thúc đẩy khởi nghiệp; (5) Hỗ trợ liên quan đến kiểm định và chứng nhận; (6) Khảo sát thực trạng, thống kê và xây dựng chỉ số...
Trong các trường hợp sau, Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông có thể yêu cầu doanh nghiệp trí tuệ nhân tạo nộp tài liệu liên quan hoặc cử công chức trực thuộc tiến hành điều tra cần thiết: (1) Khi phát hiện hoặc nghi ngờ có hành vi vi phạm; (2) Khi nhận được tố cáo hoặc đơn khiếu nại liên quan đến hành vi vi phạm các điều trên. Bộ trưởng có thể cử công chức đến trụ sở hoặc nơi kinh doanh của doanh nghiệp trí tuệ nhân tạo để kiểm tra sổ sách, tài liệu, hiện vật nếu thấy cần thiết cho điều tra. Nếu qua điều tra như nêu ở trên thấy có hành vi vi phạm, Bộ trưởng có thể ra lệnh ngừng hoặc yêu cầu khắc phục hành vi vi phạm đó.
Người tiết lộ bí mật mà mình biết được trong quá trình thực hiện nhiệm vụ quy định trong Luật này hoặc sử dụng vào mục đích khác ngoài công vụ, sẽ bị phạt tù đến 3 năm hoặc phạt tiền đến 30 triệu won. Người thuộc một trong các trường hợp sau sẽ bị phạt hành chính bằng tiền không quá 30 triệu won: (1) Không thực hiện nghĩa vụ thông báo; (2) Không chỉ định đại diện tại Hàn Quốc; (3) Không thực hiện lệnh ngừng hoặc khắc phục các hành vi vi phạm.
Luật Khung về trí tuệ nhân tạo của Hàn Quốc gồm 43 điều được chia thành 6 chương cùng với 1 phụ lục, bao gồm: Chương 1 “Những quy định chung” (từ Điều 1 đến Điều 5); Chương 2 “Hệ thống thúc đẩy phát triển lành mạnh trí tuệ nhân tạo và xây dựng nền tảng tin cậy” (từ Điều 6 đến Điều 12); Chương 3 “Phát triển công nghệ trí tuệ nhân tạo và nuôi dưỡng ngành công nghiệp” (từ Điều 13 đến Điều 26); Chương 4 “Đạo đức trí tuệ nhân tạo và đảm bảo độ tin cậy” (từ Điều 27 đến Điều 36); Chương 5 “Quy định bổ sung” (từ Điều 37 đến Điều 41); Chương 6 “Hình thức xử phạt” (Điều 42 và Điều 43).
1. Những thuật ngữ cơ bản được giải thích trong Luật
Luật Khung về trí tuệ nhân tạo của Hàn Quốc quy định 11 thuật ngữ cơ bản được giải thích chi tiết tại Điều 2 của Luật.
Cụ thể, “Trí tuệ nhân tạo” được giải thích là việc tái hiện năng lực trí tuệ của con người như học tập, suy luận, tri giác, phán đoán, hiểu ngôn ngữ… thông qua phương pháp điện tử. “Hệ thống trí tuệ nhân tạo” là hệ thống dựa trên trí tuệ nhân tạo có khả năng tự chủ và thích ứng ở các mức độ khác nhau, có khả năng suy luận để đưa ra kết quả như dự đoán, đề xuất, quyết định… nhằm đạt được mục tiêu đã định và ảnh hưởng đến môi trường thực tế và môi trường ảo.
“Công nghệ trí tuệ nhân tạo” là công nghệ phần cứng, phần mềm hoặc công nghệ ứng dụng cần thiết để hiện thực hóa trí tuệ nhân tạo. “Trí tuệ nhân tạo tạo sinh” là hệ thống trí tuệ nhân tạo tạo ra các sản phẩm như văn bản, âm thanh, hình ảnh, video… bằng cách mô phỏng cấu trúc và đặc điểm của dữ liệu đầu vào.
“Ngành công nghiệp trí tuệ nhân tạo” là ngành phát triển, sản xuất, phân phối sản phẩm sử dụng trí tuệ nhân tạo hoặc công nghệ liên quan (gọi là “sản phẩm trí tuệ nhân tạo”) hoặc cung cấp dịch vụ liên quan (gọi là “dịch vụ trí tuệ nhân tạo”).
Luật cũng giải thích “trí tuệ nhân tạo có ảnh hưởng cao” là hệ thống trí tuệ nhân tạo có khả năng gây ảnh hưởng nghiêm trọng hoặc tạo nguy cơ đối với tính mạng, an toàn cơ thể và các quyền cơ bản của con người, được sử dụng trong một trong các lĩnh vực sau:
(a) Cung cấp năng lượng;
(b) Quy trình sản xuất nước uống;
(c) Cung cấp và vận hành hệ thống sử dụng dịch vụ y tế;
(d) Phát triển và sử dụng thiết bị y tế và thiết bị y tế kỹ thuật số;
(e) Quản lý và vận hành an toàn vật liệu hạt nhân;
(f) Phân tích và sử dụng thông tin sinh trắc học (gồm khuôn mặt, vân tay, mống mắt, tĩnh mạch lòng bàn tay - các đặc điểm sinh lý, hành vi có thể nhận dạng cá nhân) cho điều tra hình sự hoặc bắt giữ tội phạm;
(g) Các đánh giá hoặc phán đoán ảnh hưởng nghiêm trọng đến quyền và nghĩa vụ cá nhân như tuyển dụng hoặc thẩm định vay vốn;
(h) Vận hành và hoạt động chủ yếu của phương tiện giao thông, cơ sở hạ tầng giao thông và hệ thống giao thông;
(i) Quyết định của các cơ quan nhà nước, chính quyền địa phương và các tổ chức công lập về xác nhận tư cách và thu phí cần thiết để cung cấp dịch vụ công có ảnh hưởng đến người dân;
(j) Đánh giá học sinh trong giáo dục mầm non, tiểu học và trung học cơ sở;
(k) Các lĩnh vực khác có ảnh hưởng nghiêm trọng đến tính mạng, an toàn cơ thể và quyền cơ bản của con người.
Theo quy định của Luật kể trên, “Chủ thể kinh doanh trí tuệ nhân tạo” là pháp nhân, tổ chức, cá nhân hoặc cơ quan nhà nước thực hiện một trong các hoạt động sau:
(a) Chủ thể phát triển AI: Tổ chức/cá nhân phát triển và cung cấp trí tuệ nhân tạo;
(b) Chủ thể sử dụng AI: Tổ chức/cá nhân sử dụng trí tuệ nhân tạo do chủ thể ở mục a cung cấp để cung cấp sản phẩm hoặc dịch vụ trí tuệ nhân tạo. “Người sử dụng” là người tiếp nhận sản phẩm hoặc dịch vụ trí tuệ nhân tạo. “Người bị ảnh hưởng” là người bị ảnh hưởng nghiêm trọng đến tính mạng, an toàn cơ thể và các quyền cơ bản bởi sản phẩm hoặc dịch vụ trí tuệ nhân tạo. “Xã hội trí tuệ nhân tạo” là xã hội tạo ra giá trị và thúc đẩy phát triển trong tất cả các lĩnh vực như công nghiệp, kinh tế, xã hội, văn hóa, hành chính thông qua trí tuệ nhân tạo. “Đạo đức trí tuệ nhân tạo” là các tiêu chuẩn đạo đức mà các thành viên trong xã hội cần tuân thủ trong tất cả các lĩnh vực phát triển, cung cấp và sử dụng trí tuệ nhân tạo, nhằm xây dựng một xã hội trí tuệ nhân tạo an toàn và đáng tin cậy, bảo vệ quyền lợi, tính mạng và tài sản của người dân trên cơ sở tôn trọng nhân phẩm con người.
2. Nguyên tắc cơ bản của phát triển trí tuệ nhân tạo và trách nhiệm của các chủ thể có liên quan
Công nghệ trí tuệ nhân tạo và ngành công nghiệp trí tuệ nhân tạo phải được phát triển theo hướng nâng cao tính an toàn và độ tin cậy, từ đó cải thiện chất lượng cuộc sống của người dân.
Người bị ảnh hưởng phải được cung cấp giải thích rõ ràng và có ý nghĩa trong phạm vi kỹ thuật và hợp lý về các tiêu chí và nguyên lý chính đã được sử dụng để đưa ra kết quả cuối cùng của trí tuệ nhân tạo.
Nhà nước và chính quyền địa phương phải tôn trọng tinh thần sáng tạo của các chủ thể kinh doanh trí tuệ nhân tạo và nỗ lực xây dựng môi trường sử dụng trí tuệ nhân tạo an toàn; phải xây dựng chính sách để giúp toàn thể người dân thích ứng ổn định với những thay đổi do trí tuệ nhân tạo mang lại trong mọi lĩnh vực như xã hội, kinh tế, văn hóa và đời sống thường nhật.
3. Hệ thống thúc đẩy phát triển trí tuệ nhân tạo
3.1. Xây dựng Kế hoạch cơ bản về trí tuệ nhân tạo
Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông, sau khi lấy ý kiến của người đứng đầu các cơ quan hành chính trung ương liên quan và chính quyền địa phương, phải lập, sửa đổi và thực hiện Kế hoạch cơ bản về trí tuệ nhân tạo (sau đây gọi là “Kế hoạch cơ bản”) 3 năm một lần, nhằm thúc đẩy công nghệ và ngành công nghiệp trí tuệ nhân tạo và tăng cường năng lực cạnh tranh quốc gia, sau khi được Hội đồng trí tuệ nhân tạo quốc gia thẩm định và thông qua. Tuy nhiên, trong trường hợp thay đổi những nội dung nhỏ trong Kế hoạch cơ bản thì không cần phải tuân theo quy trình này.
Kế hoạch cơ bản phải bao gồm các nội dung sau: (1) Phương hướng và chiến lược cơ bản của chính sách liên quan đến trí tuệ nhân tạo v.v; (2) Đào tạo nhân lực chuyên môn và xây dựng nền tảng thúc đẩy phát triển và ứng dụng trí tuệ nhân tạo để phát triển có hệ thống ngành công nghiệp trí tuệ nhân tạo; (3) Các hệ thống pháp luật, thể chế và văn hóa nhằm hiện thực hóa xã hội trí tuệ nhân tạo lành mạnh như phổ biến đạo đức trí tuệ nhân tạo; (4) Bảo đảm nguồn lực tài chính và phương hướng đầu tư cho phát triển công nghệ trí tuệ nhân tạo và thúc đẩy ngành công nghiệp trí tuệ nhân tạo; (5) Xây dựng nền tảng tin cậy như đảm bảo tính công bằng, minh bạch, trách nhiệm và an toàn của trí tuệ nhân tạo; (6) Phương hướng phát triển công nghệ trí tuệ nhân tạo và ứng phó với các thay đổi trong các lĩnh vực xã hội như giáo dục, lao động, kinh tế, văn hóa; (7) Các nội dung khác mà Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông cho là cần thiết để thúc đẩy công nghệ và ngành công nghiệp trí tuệ nhân tạo và tăng cường hợp tác quốc tế. Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông có thể yêu cầu người đứng đầu cơ quan hành chính trung ương liên quan, chính quyền địa phương và các cơ quan công cung cấp tài liệu cần thiết cho việc lập Kế hoạch cơ bản.
3.2. Ủy ban Trí tuệ nhân tạo quốc gia
Để thẩm định và quyết định các chính sách chủ yếu nhằm phát triển trí tuệ nhân tạo và xây dựng nền tảng tin cậy, Ủy ban Trí tuệ Nhân tạo Quốc gia (sau đây gọi là “Ủy ban”) được thành lập trực thuộc Tổng thống. Ủy ban bao gồm tối đa 45 ủy viên, bao gồm 1 Chủ tịch và 1 Phó Chủ tịch. Chủ tịch Ủy ban là Tổng thống, còn Phó Chủ tịch là người do Tổng thống chỉ định. Các ủy viên của Ủy ban bao gồm: (1) Người đứng đầu các cơ quan hành chính trung ương có liên quan; (2) Phó Giám đốc phụ trách công việc liên quan đến trí tuệ nhân tạo tại Văn phòng An ninh Quốc gia; (3) Chánh Văn phòng phụ trách công việc liên quan đến trí tuệ nhân tạo tại Văn phòng Tổng thống; (4) Những người có kiến thức chuyên môn và kinh nghiệm phong phú liên quan đến trí tuệ nhân tạo do Tổng thống bổ nhiệm.
Ủy ban có trách nhiệm thẩm định và quyết định những vấn đề sau: (1) Việc lập, sửa đổi và kiểm tra, phân tích việc thực hiện Kế hoạch cơ bản; (2) Các chính sách liên quan đến trí tuệ nhân tạo v.v; (3) Việc xây dựng chiến lược nghiên cứu và phát triển liên quan đến trí tuệ nhân tạo v.v; (4) Việc xây dựng chiến lược đầu tư liên quan đến trí tuệ nhân tạo v.v.; (5) Việc phát hiện và cải thiện các quy định cản trở sự phát triển và năng lực cạnh tranh của ngành công nghiệp trí tuệ nhân tạo; (6) Các phương án mở rộng hạ tầng như trung tâm dữ liệu trí tuệ nhân tạo; Thúc đẩy ứng dụng trí tuệ nhân tạo trong các lĩnh vực công nghiệp như sản xuất và dịch vụ, cũng như trong khu vực công; (7) Hợp tác quốc tế về trí tuệ nhân tạo như xây dựng quy phạm quốc tế liên quan đến AI; (8) Khuyến nghị hoặc nêu ý kiến; (9) Quy định liên quan đến trí tuệ nhân tạo có ảnh hưởng cao; (10) Tình hình thay đổi xã hội liên quan đến trí tuệ nhân tạo có ảnh hưởng cao và chính sách ứng phó; (11) Những vấn đề được quy định là thuộc thẩm quyền thẩm định của Ủy ban theo luật này hoặc luật khác; (12) Những vấn đề khác do Chủ tịch Ủy ban cho là cần thiết và đưa ra cuộc họp của Ủy ban. Ủy ban có thể đưa ra khuyến nghị hoặc bày tỏ ý kiến với người đứng đầu các cơ quan nhà nước và chủ thể kinh doanh trí tuệ nhân tạo liên quan đến việc sử dụng đúng đắn trí tuệ nhân tạo, thực hành đạo đức trí tuệ nhân tạo, và đảm bảo tính an toàn, độ tin cậy của công nghệ trí tuệ nhân tạo.
Ủy ban có thể thành lập các ủy ban phân ban theo từng lĩnh vực chuyên môn nếu cần thiết để thực hiện công việc một cách hiệu quả. Ủy ban có thể thành lập các ủy ban đặc biệt khi cần thảo luận các vấn đề cụ thể liên quan đến trí tuệ nhân tạo v.v. Ủy ban có thể thành lập một ban tư vấn gồm các chuyên gia có liên quan để tiến hành đánh giá chuyên sâu các vấn đề liên quan đến trí tuệ nhân tạo v.v.
3.3. Trung tâm Chính sách Trí tuệ nhân tạo
Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông có thể chỉ định Trung tâm Chính sách Trí tuệ Nhân tạo (sau đây gọi là “Trung tâm”) để thực hiện toàn diện các nhiệm vụ liên quan đến phát triển chính sách về trí tuệ nhân tạo và xây dựng, phổ biến quy phạm quốc tế. Trung tâm thực hiện các hoạt động sau: (1) Hỗ trợ kỹ thuật chuyên môn cần thiết cho việc xây dựng và thực hiện Kế hoạch cơ bản; (2) Hỗ trợ kỹ thuật chuyên môn cho việc xây dựng chính sách liên quan đến trí tuệ nhân tạo và lập kế hoạch, thực hiện các dự án liên quan; (3) Điều tra và phân tích tác động của việc mở rộng sử dụng trí tuệ nhân tạo đến xã hội, kinh tế, văn hóa và đời sống thường nhật của người dân; (4) Phân tích xu hướng, dự báo thay đổi xã hội - văn hóa và nghiên cứu pháp luật, thể chế nhằm hỗ trợ phát triển chính sách về trí tuệ nhân tạo và công nghệ trí tuệ nhân tạo; (5) Thực hiện các dự án được giao hoặc quy định là thuộc trách nhiệm của Trung tâm theo quy định của pháp luật khác; (6) Các dự án được người đứng đầu cơ quan nhà nước v.v. giao phó.
3.4. Viện Nghiên cứu An toàn Trí tuệ nhân tạo
Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông có thể thành lập Viện Nghiên cứu An toàn Trí tuệ Nhân tạo (sau đây gọi là “Viện An toàn”) để thực hiện một cách chuyên sâu và hiệu quả các nhiệm vụ nhằm đảm bảo an toàn trí tuệ nhân tạo - tức là bảo vệ tính mạng, cơ thể, tài sản của người dân khỏi các rủi ro tiềm tàng liên quan đến trí tuệ nhân tạo, đồng thời duy trì nền tảng tin cậy của xã hội trí tuệ nhân tạo.
Viện An toàn thực hiện các hoạt động sau: (1) Định nghĩa và phân tích các rủi ro liên quan đến an toàn trí tuệ nhân tạo; (2) Nghiên cứu chính sách liên quan đến an toàn trí tuệ nhân tạo; (3) Nghiên cứu tiêu chuẩn và phương pháp đánh giá an toàn trí tuệ nhân tạo; (4) Nghiên cứu công nghệ và tiêu chuẩn hóa an toàn trí tuệ nhân tạo; (5) Giao lưu và hợp tác quốc tế liên quan đến an toàn trí tuệ nhân tạo; (6) Hỗ trợ đảm bảo an toàn hệ thống trí tuệ nhân tạo. Chính phủ có thể cấp vốn hoặc hỗ trợ kinh phí trong phạm vi ngân sách để vận hành Viện An toàn và triển khai các hoạt động của Viện.
4. Phát triển công nghệ trí tuệ nhân tạo và nuôi dưỡng ngành công nghiệp
4.1. Xây dựng nền tảng ngành công nghiệp trí tuệ nhân tạo
Chính phủ có thể hỗ trợ các dự án sau nhằm thúc đẩy phát triển công nghệ trí tuệ nhân tạo: (1) Điều tra xu hướng, trình độ công nghệ trí tuệ nhân tạo trong và ngoài nước cũng như các chế độ liên quan; (2) Nghiên cứu, phát triển, thử nghiệm và đánh giá công nghệ trí tuệ nhân tạo hoặc việc ứng dụng công nghệ đã phát triển; (3) Hỗ trợ phổ biến công nghệ trí tuệ nhân tạo, hợp tác và chuyển giao công nghệ, thương mại hóa và thực tiễn hóa công nghệ; (4) Thúc đẩy lưu thông thông tin nhằm hiện thực hóa công nghệ trí tuệ nhân tạo và hợp tác giữa nhà trường và doanh nghiệp.
Chính phủ có thể hỗ trợ các dự án sau nhằm đảm bảo việc sử dụng công nghệ trí tuệ nhân tạo an toàn và thuận tiện: (1) Các dự án nghiên cứu phát triển nhằm hiện thực hóa các nội dung tại các khoản của Điều 60 khoản 1 của Luật Khung về Thông tin thông minh thông qua công nghệ trí tuệ nhân tạo; (2) Hỗ trợ nghiên cứu công nghệ nhằm triển khai tính năng dừng khẩn cấp trong sản phẩm hoặc dịch vụ trí tuệ nhân tạo và các dự án nhằm phổ biến công nghệ đó; (3) Nghiên cứu, phát triển và phổ biến các tiêu chuẩn thiết kế và công nghệ phù hợp để bảo vệ quyền riêng tư; (4) Nghiên cứu và phát triển việc triển khai và áp dụng đánh giá tác động xã hội; (5) Nghiên cứu, phát triển và phổ biến các tiêu chuẩn và công nghệ nhằm đảm bảo trí tuệ nhân tạo được phát triển và sử dụng theo hướng tôn trọng nhân phẩm và các quyền cơ bản của con người; (6) Tổ chức giáo dục và tuyên truyền nhằm nâng cao nhận thức, phổ biến phương pháp sử dụng đúng đắn và xây dựng môi trường an toàn cho việc phát triển và sử dụng trí tuệ nhân tạo; (7) Các dự án khác cần thiết nhằm bảo vệ quyền cơ bản, thân thể và tài sản của người dân trong việc phát triển và sử dụng trí tuệ nhân tạo. Chính phủ phải công khai và phổ biến kết quả của các dự án nêu trên để mọi người có thể dễ dàng sử dụng; trong trường hợp cần thiết để bảo vệ người phát triển công nghệ, có thể quy định thời hạn bảo hộ, thu phí sử dụng công nghệ hoặc áp dụng các biện pháp bảo vệ khác.
Chính phủ có thể thúc đẩy các dự án sau để tiêu chuẩn hóa công nghệ trí tuệ nhân tạo, dữ liệu đào tạo và các yếu tố liên quan đến an toàn, độ tin cậy của trí tuệ nhân tạo: (1) Ban hành, sửa đổi, bãi bỏ và phổ biến các tiêu chuẩn liên quan đến công nghệ trí tuệ nhân tạo; (2) Điều tra, nghiên cứu và phát triển các tiêu chuẩn quốc gia và quốc tế liên quan đến công nghệ trí tuệ nhân tạo; (3) Các dự án khác liên quan đến tiêu chuẩn hóa công nghệ trí tuệ nhân tạo.
Chính phủ có thể công bố các tiêu chuẩn và khuyến khích các chủ thể kinh doanh liên quan tuân thủ. Chính phủ có thể hỗ trợ các dự án tiêu chuẩn hóa công nghệ trí tuệ nhân tạo do khu vực tư nhân thực hiện. Chính phủ phải duy trì và tăng cường hệ thống hợp tác với các tổ chức tiêu chuẩn hóa quốc tế liên quan đến tiêu chuẩn công nghệ trí tuệ nhân tạo.
Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông, sau khi tham vấn với người đứng đầu các cơ quan hành chính trung ương liên quan, phải thúc đẩy các chính sách cần thiết để khuyến khích sản xuất, thu thập, quản lý, phân phối và sử dụng dữ liệu dùng trong phát triển và ứng dụng trí tuệ nhân tạo (sau đây gọi là “dữ liệu đào tạo”). Chính phủ có thể lựa chọn các dự án đủ điều kiện hỗ trợ và cung cấp ngân sách trong phạm vi có thể nhằm thúc đẩy hiệu quả các chính sách liên quan đến dữ liệu đào tạo. Chính phủ có thể thực hiện các dự án sản xuất và cung cấp đa dạng dữ liệu đào tạo nhằm thúc đẩy sản xuất, thu thập, quản lý, phân phối và sử dụng dữ liệu đào tạo (sau đây gọi là “dự án xây dựng dữ liệu đào tạo”). Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông phải xây dựng và vận hành hệ thống cung cấp tích hợp (sau đây gọi là “hệ thống cung cấp tích hợp”) để có thể cung cấp và quản lý dữ liệu đào tạo một cách tập trung, đồng thời phải cung cấp để khu vực tư nhân có thể sử dụng tự do. Bộ trưởng có thể thu phí từ người sử dụng hệ thống cung cấp tích hợp.
4.2. Phát triển công nghệ trí tuệ nhân tạo và thúc đẩy ngành công nghiệp trí tuệ nhân tạo
Nhà nước và chính quyền địa phương có thể thực hiện các hình thức hỗ trợ sau, khi cần thiết, nhằm thúc đẩy việc áp dụng và mở rộng sử dụng công nghệ trí tuệ nhân tạo tại các doanh nghiệp và cơ quan công: (1) Hỗ trợ phát triển công nghệ, sản phẩm hoặc dịch vụ trí tuệ nhân tạo, cũng như phổ biến kết quả nghiên cứu và phát triển; (2) Hỗ trợ tư vấn cho doanh nghiệp và cơ quan công muốn áp dụng và sử dụng công nghệ trí tuệ nhân tạo; (3) Hỗ trợ đào tạo cho nhân sự của các doanh nghiệp vừa và nhỏ, doanh nghiệp khởi nghiệp liên quan đến việc áp dụng và sử dụng công nghệ trí tuệ nhân tạo; (4) Hỗ trợ tài chính cho việc áp dụng và sử dụng công nghệ trí tuệ nhân tạo tại các doanh nghiệp nhỏ và vừa v.v.
Khi thực hiện các chính sách hỗ trợ liên quan đến công nghệ và ngành công nghiệp trí tuệ nhân tạo theo luật này, phải ưu tiên xem xét đến các doanh nghiệp nhỏ và vừa. Chính phủ phải nỗ lực thúc đẩy sự tham gia của các doanh nghiệp nhỏ và vừa trong ngành công nghiệp trí tuệ nhân tạo, và phản ánh nội dung liên quan vào Kế hoạch cơ bản. Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông có thể hỗ trợ doanh nghiệp nhỏ và vừa v.v. trong việc thực hiện các biện pháp được yêu cầu và đánh giá tác động nhằm đảm bảo an toàn và độ tin cậy của trí tuệ nhân tạo.
Chính phủ có thể thực hiện các dự án sau nhằm thúc đẩy khởi nghiệp trong lĩnh vực công nghiệp trí tuệ nhân tạo: (1) Dự án phát hiện, bồi dưỡng và hỗ trợ các nhà khởi nghiệp trong lĩnh vực công nghiệp trí tuệ nhân tạo; (2) Dự án đào tạo và huấn luyện để thúc đẩy khởi nghiệp trong lĩnh vực công nghiệp trí tuệ nhân tạo; (3) Hỗ trợ thương mại hóa công nghệ trí tuệ nhân tạo xuất sắc do nhân lực chuyên môn phát triển; (4) Đánh giá giá trị công nghệ trí tuệ nhân tạo và hỗ trợ tài chính khởi nghiệp; (5) Cung cấp kết quả nghiên cứu và phát triển công nghệ liên quan đến trí tuệ nhân tạo; (6) Bồi dưỡng các cơ quan và tổ chức hỗ trợ khởi nghiệp trong lĩnh vực công nghiệp trí tuệ nhân tạo; (7) Các dự án cần thiết khác để thúc đẩy khởi nghiệp trong lĩnh vực công nghiệp trí tuệ nhân tạo. Chính quyền địa phương có thể tài trợ hoặc đầu tư vào các cơ quan công hoặc tổ chức công lập hỗ trợ khởi nghiệp trong lĩnh vực công nghiệp trí tuệ nhân tạo.
Chính phủ phải xây dựng và thực hiện các chính sách cần thiết để thúc đẩy tích hợp giữa ngành công nghiệp trí tuệ nhân tạo với các ngành công nghiệp khác, cũng như mở rộng ứng dụng trí tuệ nhân tạo trong mọi lĩnh vực. Chính phủ, khi cần thiết, có thể ưu tiên đưa các đề án nghiên cứu phát triển về sản phẩm và dịch vụ tích hợp trí tuệ nhân tạo vào các dự án nghiên cứu phát triển quốc gia theo Luật Đổi mới Nghiên cứu và Phát triển Quốc gia. Chính phủ phải tích cực hỗ trợ để các sản phẩm và dịch vụ tích hợp trí tuệ nhân tạo có thể được hưởng giấy phép tạm thời và áp dụng cơ chế thử nghiệm đặc biệt.
Chính phủ phải nỗ lực cải thiện các quy định pháp luật, trong đó có việc sửa đổi các quy định hiện hành, nhằm phát triển ngành công nghiệp trí tuệ nhân tạo và xây dựng nền tảng tin cậy. Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông phải đào tạo và hỗ trợ nhân lực chuyên môn liên quan đến trí tuệ nhân tạo và công nghệ trí tuệ nhân tạo nhằm phục vụ cho sự phát triển công nghệ trí tuệ nhân tạo và ngành công nghiệp liên quan. Chính phủ có thể triển khai các chính sách sau nhằm thu hút nhân lực chuyên môn quốc tế trong lĩnh vực trí tuệ nhân tạo và công nghệ trí tuệ nhân tạo: (1) Điều tra và phân tích về nhân lực chuyên môn tại các trường đại học, viện nghiên cứu, doanh nghiệp ở nước ngoài; (2) Xây dựng mạng lưới hợp tác quốc tế nhằm thu hút nhân lực chuyên môn từ nước ngoài; (3) Hỗ trợ việc làm tại Hàn Quốc cho nhân lực chuyên môn quốc tế; (4) Hỗ trợ các viện nghiên cứu trí tuệ nhân tạo trong nước mở rộng ra nước ngoài, và thu hút các viện nghiên cứu nước ngoài vào trong nước; (5) Hỗ trợ tổ chức các hội nghị quốc tế và sự kiện quốc tế về trí tuệ nhân tạo tại Hàn Quốc; (6) Các nội dung khác cần thiết để thu hút nhân lực chuyên môn quốc tế.
Chính phủ phải nắm bắt xu hướng quốc tế liên quan đến trí tuệ nhân tạo và thúc đẩy hợp tác quốc tế. Nhằm tăng cường năng lực cạnh tranh và hỗ trợ mở rộng thị trường nước ngoài của ngành công nghiệp trí tuệ nhân tạo, chính phủ có thể hỗ trợ cá nhân, doanh nghiệp hoặc tổ chức hoạt động trong ngành bằng các nội dung sau: (1) Trao đổi quốc tế về thông tin, công nghệ và nhân lực liên quan đến ngành công nghiệp trí tuệ nhân tạo; (2) Thu thập, phân tích và cung cấp thông tin về việc mở rộng ra thị trường nước ngoài; (3) Nghiên cứu, phát triển chung và tiêu chuẩn hóa quốc tế về công nghệ, sản phẩm hoặc dịch vụ trí tuệ nhân tạo; (4) Thu hút đầu tư nước ngoài vào ngành công nghiệp trí tuệ nhân tạo; (5) Tham gia và quảng bá tại các hội nghị học thuật và triển lãm quốc tế liên quan đến trí tuệ nhân tạo; (6) Xây dựng hệ thống bán hàng, hệ thống phân phối và hệ thống hợp tác cần thiết cho việc xuất khẩu sản phẩm hoặc dịch vụ trí tuệ nhân tạo; (7) Nắm bắt xu hướng và thúc đẩy hợp tác quốc tế về đạo đức trí tuệ nhân tạo; (8) Các nội dung khác cần thiết để nâng cao năng lực cạnh tranh và thúc đẩy mở rộng ra thị trường quốc tế của ngành công nghiệp trí tuệ nhân tạo.
Nhà nước và chính quyền địa phương có thể thúc đẩy việc tích hợp chức năng, cơ sở vật chất và vị trí địa lý của các doanh nghiệp, cơ quan, tổ chức đang nghiên cứu và phát triển công nghệ trí tuệ nhân tạo nhằm thúc đẩy ngành công nghiệp này và tăng cường năng lực cạnh tranh. Khi cần thiết cho việc tích hợp, Nhà nước và chính quyền địa phương có thể chỉ định khu phức hợp tích hợp trí tuệ nhân tạo (sau đây gọi là “khu tích hợp”) và thực hiện các hỗ trợ hành chính, tài chính, kỹ thuật.
Nhà nước và chính quyền địa phương có thể xây dựng và vận hành các cơ sở vật chất, thiết bị và trang bị cần thiết (sau đây gọi là “nền tảng thử nghiệm”) để hỗ trợ việc thử nghiệm, kiểm tra hiệu suất và kiểm định/chứng nhận (sau đây gọi là “thử nghiệm xác minh”) cho các công nghệ do các doanh nghiệp trí tuệ nhân tạo phát triển hoặc chuyển giao. Nhà nước và chính quyền địa phương có thể mở cửa nền tảng thử nghiệm do các tổ chức sở hữu để phục vụ cho các doanh nghiệp trí tuệ nhân tạo.
5. Thiết lập Trung tâm dữ liệu trí tuệ nhân tạo và tổ chức hỗ trợ
Chính phủ phải thúc đẩy các chính sách cần thiết để xây dựng và vận hành trung tâm dữ liệu phục vụ phát triển và ứng dụng trí tuệ nhân tạo (sau đây gọi là “trung tâm dữ liệu trí tuệ nhân tạo”). Để triển khai các chính sách này, chính phủ có thể thực hiện các công việc sau: (1) Hỗ trợ hành chính và tài chính cần thiết cho việc xây dựng và vận hành trung tâm dữ liệu trí tuệ nhân tạo; (2) Hỗ trợ các doanh nghiệp vừa và nhỏ, viện nghiên cứu… trong việc sử dụng trung tâm dữ liệu trí tuệ nhân tạo; (3) Hỗ trợ nhằm thúc đẩy sự phát triển cân bằng giữa các khu vực đối với cơ sở hạ tầng liên quan đến trí tuệ nhân tạo, bao gồm trung tâm dữ liệu trí tuệ nhân tạo.
Những cá nhân hoạt động nghiên cứu và làm việc liên quan đến trí tuệ nhân tạo có thể thành lập hoặc được chỉ định là Hiệp hội Phát triển Trí tuệ Nhân tạo Hàn Quốc (sau đây gọi là “Hiệp hội”), sau khi được Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông phê duyệt, nhằm thúc đẩy phát triển và sử dụng trí tuệ nhân tạo, ngành công nghiệp và công nghệ liên quan, cũng như tuyên truyền và giáo dục. Hiệp hội có tư cách pháp nhân. Hiệp hội thực hiện các hoạt động sau: (1) Thúc đẩy việc sử dụng và mở rộng công nghệ, sản phẩm, dịch vụ trí tuệ nhân tạo; (2) Khảo sát thực trạng và thống kê liên quan đến trí tuệ nhân tạo; (3) Xây dựng, vận hành cơ sở dùng chung cho các doanh nghiệp trí tuệ nhân tạo và đào tạo nhân lực chuyên môn; (4) Hỗ trợ doanh nghiệp và nhân lực chuyên môn liên quan đến trí tuệ nhân tạo vươn ra quốc tế; (5) Giáo dục và tuyên truyền nhằm phát triển và sử dụng trí tuệ nhân tạo một cách an toàn và đáng tin cậy; (6) Các dự án được giao theo luật này hoặc luật khác; (7) Các dự án khác cần thiết để đạt được mục tiêu thành lập, được quy định trong điều lệ.
Nhà nước và chính quyền địa phương, nếu cần thiết để phát triển ngành công nghiệp trí tuệ nhân tạo và xây dựng nền tảng tin cậy, có thể hỗ trợ kinh phí cho các hoạt động của Hiệp hội trong phạm vi ngân sách.
Khi Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông cấp phép, phải công bố công khai việc đó. Trừ khi có quy định khác trong luật này, việc tổ chức và hoạt động của Hiệp hội sẽ áp dụng tương ứng quy định về pháp nhân hội trong Bộ luật Dân sự.
6. Đạo đức và độ tin cậy của trí tuệ nhân tạo
6.1. Nguyên tắc đạo đức về trí tuệ nhân tạo
Chính phủ có thể ban hành và công bố nguyên tắc đạo đức về trí tuệ nhân tạo (sau đây gọi là “nguyên tắc đạo đức”), bao gồm các nội dung sau để thúc đẩy phổ biến đạo đức trí tuệ nhân tạo: (1) Đảm bảo an toàn và độ tin cậy để không gây tổn hại đến tính mạng, cơ thể, sức khỏe tinh thần của con người trong quá trình phát triển và ứng dụng trí tuệ nhân tạo; (2) Đảm bảo khả năng tiếp cận để mọi người đều có thể sử dụng sản phẩm và dịch vụ ứng dụng công nghệ trí tuệ nhân tạo một cách tự do và tiện lợi; (3) Thúc đẩy phát triển và sử dụng trí tuệ nhân tạo nhằm đóng góp vào đời sống và sự thịnh vượng của con người.
Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông phải thu thập ý kiến từ các tầng lớp xã hội, xây dựng phương án thực thi để nguyên tắc đạo đức được hiện thực hóa bởi tất cả những người liên quan đến phát triển và ứng dụng trí tuệ nhân tạo, và công khai, tuyên truyền, giáo dục nội dung đó.
Khi người đứng đầu cơ quan hành chính trung ương hoặc chính quyền địa phương xây dựng hoặc sửa đổi tiêu chuẩn đạo đức trí tuệ nhân tạo (bao gồm mọi hình thức pháp luật, quy chuẩn, hướng dẫn liên quan đến đạo đức AI), Bộ trưởng có thể đưa ra khuyến nghị hoặc ý kiến về tính liên kết và phù hợp với nguyên tắc đạo đức và phương án thực thi.
6.3. Thành lập Ủy ban đạo đức trí tuệ nhân tạo tự chủ tư nhân
Các tổ chức sau đây có thể thành lập Ủy ban đạo đức trí tuệ nhân tạo tự chủ tư nhân (sau đây gọi là “Ủy ban tự chủ tư nhân”) nhằm tuân thủ nguyên tắc đạo đức: (1) Các cơ sở giáo dục và viện nghiên cứu mà trong đó có người nghiên cứu và phát triển công nghệ trí tuệ nhân tạo; (2) Các doanh nghiệp kinh doanh trí tuệ nhân tạo; (3) Các cơ quan khác liên quan đến công nghệ trí tuệ nhân tạo được quy định tại Nghị định Tổng thống.
Ủy ban tự chủ tư nhân thực hiện độc lập các nhiệm vụ sau: (1) Kiểm tra việc tuân thủ nguyên tắc đạo đức trong nghiên cứu, phát triển và ứng dụng công nghệ trí tuệ nhân tạo; (2) Nghiên cứu và điều tra về an toàn và vi phạm nhân quyền liên quan đến công nghệ trí tuệ nhân tạo; (3) Kiểm tra và giám sát quy trình và kết quả nghiên cứu, phát triển, ứng dụng công nghệ trí tuệ nhân tạo; (4) Giáo dục nguyên tắc đạo đức cho nhà nghiên cứu và người làm việc trong tổ chức; (5) Thiết lập hướng dẫn đạo đức theo từng lĩnh vực phù hợp với nghiên cứu, phát triển và ứng dụng công nghệ trí tuệ nhân tạo; (6) Các công việc cần thiết khác để thực hiện nguyên tắc đạo đức.
Việc tổ chức và vận hành Ủy ban tự chủ tư nhân sẽ do tổ chức hoặc cơ quan liên quan tự quyết định. Tuy nhiên, không được chỉ bao gồm một giới tính duy nhất và phải có người có kiến thức, kinh nghiệm đánh giá hợp lý về khía cạnh xã hội và đạo đức, cũng như người không trực thuộc tổ chức đó.
Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông có thể xây dựng và phổ biến hướng dẫn tiêu chuẩn nhằm đảm bảo Ủy ban tự chủ tư nhân được tổ chức và vận hành một cách công bằng và trung lập.
6.4. Thiết lập chính sách xây dựng nền tảng tin cậy cho trí tuệ nhân tạo
Chính phủ phải xây dựng các chính sách sau đây nhằm giảm thiểu các nguy cơ tiềm ẩn do trí tuệ nhân tạo gây ra đối với đời sống người dân và xây dựng nền tảng tin cậy để sử dụng trí tuệ nhân tạo một cách an toàn: (1) Xây dựng môi trường sử dụng trí tuệ nhân tạo an toàn và đáng tin cậy; (2) Dự báo và đánh giá tác động của trí tuệ nhân tạo đối với đời sống thường nhật của người dân và cải cách pháp luật, thể chế liên quan; (3) Hỗ trợ phát triển và phổ biến công nghệ an toàn, công nghệ chứng nhận nhằm đảm bảo an toàn và độ tin cậy của trí tuệ nhân tạo; (4) Giáo dục và tuyên truyền nhằm hiện thực hóa xã hội trí tuệ nhân tạo an toàn và đáng tin cậy cũng như thực hành đạo đức trí tuệ nhân tạo; (5) Hỗ trợ việc xây dựng và thực hiện quy tắc tự nguyện của các doanh nghiệp trí tuệ nhân tạo liên quan đến an toàn và độ tin cậy; (6) Hỗ trợ và thúc đẩy hoạt động tự nguyện trong khu vực tư nhân như hợp tác, xây dựng hướng dẫn đạo đức bởi các tổ chức liên quan đến trí tuệ nhân tạo, bao gồm doanh nghiệp, người sử dụng; (7) Các nội dung khác được quy định bởi Nghị định Tổng thống để đảm bảo an toàn và độ tin cậy của trí tuệ nhân tạo.
6.5. Hỗ trợ kiểm định và chứng nhận an toàn, tin cậy cho trí tuệ nhân tạo
Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông có thể triển khai các dự án sau để hỗ trợ hoạt động kiểm định và chứng nhận (sau đây gọi là “kiểm/nhận”) được các tổ chức liên quan thực hiện một cách tự nguyện nhằm đảm bảo an toàn và độ tin cậy của trí tuệ nhân tạo: (1) Phổ biến hướng dẫn phát triển trí tuệ nhân tạo; (2) Hỗ trợ nghiên cứu liên quan đến kiểm/nhận; (3) Hỗ trợ xây dựng và vận hành thiết bị, hệ thống sử dụng trong kiểm/nhận; (4) Hỗ trợ đào tạo nhân lực chuyên môn cần thiết cho kiểm/nhận; (5) Các nội dung khác do Nghị định Tổng thống quy định để hỗ trợ kiểm/nhận; (6) Bộ trưởng có thể cung cấp thông tin và hỗ trợ hành chính, tài chính cho các doanh nghiệp vừa và nhỏ khi họ muốn tham gia kiểm/nhận theo quy định của Nghị định Tổng thống. Doanh nghiệp cung cấp trí tuệ nhân tạo có ảnh hưởng cao cần nỗ lực tiến hành kiểm/nhận trước khi cung cấp sản phẩm/dịch vụ. Các cơ quan nhà nước khi sử dụng trí tuệ nhân tạo có ảnh hưởng cao phải ưu tiên xem xét sản phẩm hoặc dịch vụ đã được kiểm/nhận.
6.6. Nghĩa vụ đảm bảo tính minh bạch và an toàn của trí tuệ nhân tạo
Doanh nghiệp cung cấp sản phẩm hoặc dịch vụ sử dụng trí tuệ nhân tạo có ảnh hưởng cao hoặc trí tuệ nhân tạo tạo sinh phải thông báo trước cho người sử dụng rằng sản phẩm hoặc dịch vụ đó được vận hành dựa trên trí tuệ nhân tạo. Khi cung cấp trí tuệ nhân tạo tạo sinh hoặc sản phẩm/dịch vụ liên quan, doanh nghiệp phải hiển thị rõ ràng rằng kết quả được tạo ra bởi trí tuệ nhân tạo tạo sinh. Khi cung cấp âm thanh, hình ảnh, video giả lập khó phân biệt với thực tế được tạo ra bởi hệ thống trí tuệ nhân tạo, doanh nghiệp phải thông báo/hiển thị để người sử dụng có thể nhận biết rõ ràng. Trường hợp kết quả đó là tác phẩm nghệ thuật hoặc thể hiện sáng tạo thì có thể thông báo/hiển thị theo cách không cản trở việc trưng bày hoặc thưởng thức.
Doanh nghiệp trí tuệ nhân tạo, đối với hệ thống có khối lượng tính toán tích lũy vượt mức tiêu chuẩn do Nghị định Tổng thống quy định, phải thực hiện các nghĩa vụ sau để đảm bảo an toàn: (1) Nhận diện, đánh giá và giảm thiểu rủi ro trong toàn bộ vòng đời của trí tuệ nhân tạo; (2) Thiết lập hệ thống quản lý rủi ro để giám sát và ứng phó với các sự cố an toàn liên quan đến trí tuệ nhân tạo. Doanh nghiệp phải nộp kết quả thực hiện các nghĩa vụ trên cho Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông.
6.7. Xác nhận trí tuệ nhân tạo có ảnh hưởng cao và trách nhiệm của doanh nghiệp liên quan đến trí tuệ nhân tạo có ảnh hưởng cao
Doanh nghiệp cung cấp trí tuệ nhân tạo hoặc sản phẩm/dịch vụ sử dụng trí tuệ nhân tạo phải xem xét trước xem hệ thống đó có thuộc trí tuệ nhân tạo có ảnh hưởng cao hay không; nếu cần thiết có thể yêu cầu Bộ trưởng xác nhận. Khi có yêu cầu theo khoản 1, Bộ trưởng phải xác nhận việc đó và có thể thành lập hội đồng chuyên môn để xin ý kiến tư vấn. Bộ trưởng có thể xây dựng và phổ biến hướng dẫn về tiêu chuẩn và ví dụ cụ thể của trí tuệ nhân tạo có ảnh hưởng cao.
Khi doanh nghiệp trí tuệ nhân tạo cung cấp trí tuệ nhân tạo có ảnh hưởng cao hoặc sản phẩm, dịch vụ sử dụng trí tuệ nhân tạo có ảnh hưởng cao, thì phải thực hiện các biện pháp bao gồm các nội dung sau để đảm bảo an toàn và độ tin cậy: (1) Thiết lập và vận hành phương án quản lý rủi ro; (2) Thiết lập và thực hiện phương án giải thích về kết quả cuối cùng do trí tuệ nhân tạo tạo ra, các tiêu chí chính được sử dụng để đưa ra kết quả đó, và tổng quan về dữ liệu học đã sử dụng, trong phạm vi kỹ thuật cho phép; (3) Thiết lập và vận hành các biện pháp bảo vệ người dùng; (4) Giám sát và kiểm soát bởi con người đối với trí tuệ nhân tạo có ảnh hưởng cao; (5) Soạn thảo và lưu trữ tài liệu có thể xác minh nội dung các biện pháp đảm bảo an toàn và độ tin cậy; (6) Các nội dung khác đã được Ủy ban thẩm định và quyết nghị để đảm bảo an toàn và độ tin cậy của trí tuệ nhân tạo có ảnh hưởng cao. Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông có thể công bố hướng dẫn cụ thể về các nội dung nêu trên và khuyến nghị doanh nghiệp trí tuệ nhân tạo thực hiện. Trường hợp doanh nghiệp trí tuệ nhân tạo đã thực hiện các biện pháp tương đương theo quy định pháp luật khác, thì được xem là đã thực hiện các biện pháp kể trên.
6.8. Đánh giá tác động của trí tuệ nhân tạo có ảnh hưởng cao và chỉ định đại diện tại Hàn Quốc
Doanh nghiệp trí tuệ nhân tạo khi cung cấp sản phẩm hoặc dịch vụ sử dụng trí tuệ nhân tạo có ảnh hưởng cao phải nỗ lực thực hiện đánh giá tác động đến quyền cơ bản của con người một cách chủ động trước khi cung cấp. Khi cơ quan nhà nước sử dụng sản phẩm hoặc dịch vụ sử dụng trí tuệ nhân tạo có ảnh hưởng cao, phải ưu tiên xem xét các sản phẩm/dịch vụ đã thực hiện đánh giá tác động.
Doanh nghiệp trí tuệ nhân tạo không có địa chỉ hoặc văn phòng kinh doanh tại Hàn Quốc nhưng đáp ứng các tiêu chí về số lượng người sử dụng, doanh thu… phải chỉ định bằng văn bản một người đại diện tại Hàn Quốc (sau đây gọi là “đại diện trong nước”) để thực hiện các nghĩa vụ sau và thông báo với Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông: (1) Nộp kết quả thực hiện nghĩa vụ; (2) Yêu cầu xác nhận việc trí tuệ nhân tạo có thuộc loại ảnh hưởng cao; (3) Hỗ trợ thực hiện các biện pháp đảm bảo an toàn và độ tin cậy (bao gồm kiểm tra tính cập nhật và độ chính xác của tài liệu đi kèm). Đại diện trong nước phải là người có địa chỉ hoặc văn phòng kinh doanh tại Hàn Quốc. Trường hợp đại diện trong nước vi phạm quy định liên quan đến các nội dung nêu trên, doanh nghiệp trí tuệ nhân tạo đã chỉ định người đó sẽ bị coi là đã thực hiện hành vi vi phạm.
7. Bảo đảm nguồn tài chính cho phát triển ngành công nghiệp trí tuệ nhân tạo
Nhà nước phải xây dựng phương án để ổn định và tăng cường nguồn tài chính một cách liên tục, nhằm thực hiện hiệu quả Kế hoạch cơ bản và các chính sách theo luật này. Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông có thể khuyến nghị các cơ quan công hỗ trợ thực hiện các dự án nhằm thúc đẩy ngành công nghiệp trí tuệ nhân tạo khi thấy cần thiết. Nhà nước và chính quyền địa phương phải chuẩn bị các biện pháp để khuyến khích khu vực tư nhân, như các doanh nghiệp, tích cực đầu tư vào các dự án liên quan đến thúc đẩy ngành công nghiệp trí tuệ nhân tạo. Nhà nước và chính quyền địa phương phải nỗ lực quản lý và sử dụng hiệu quả nguồn đầu tư, có tính đến giai đoạn phát triển của ngành công nghiệp trí tuệ nhân tạo.
8. Khảo sát thực trạng, thống kê, xây dựng chỉ số, ủy quyền, xử lý vi phạm
Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông, sau khi tham vấn với Tổng cục Thống kê, phải xây dựng, quản lý và công bố các khảo sát thực trạng, số liệu thống kê và chỉ số liên quan đến trí tuệ nhân tạo trong và ngoài nước, nhằm phục vụ việc lập kế hoạch và thực hiện các chính sách và dự án liên quan. Để thực hiện việc xây dựng thống kê và chỉ số kể trên, Bộ trưởng có thể yêu cầu sự hợp tác từ người đứng đầu các cơ quan hành chính trung ương, chính quyền địa phương và cơ quan công trong việc cung cấp dữ liệu.
Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông hoặc người đứng đầu cơ quan hành chính trung ương có liên quan có thể ủy quyền một phần thẩm quyền theo luật này cho người đứng đầu cơ quan trực thuộc hoặc cho thị trưởng đặc biệt, thị trưởng đô thị trực thuộc trung ương, thị trưởng thành phố tự trị đặc biệt, tỉnh trưởng, tỉnh trưởng của tỉnh tự trị đặc biệt. Trong trường hợp này, tỉnh trưởng có thể tiếp tục ủy quyền cho thị trưởng, huyện trưởng, quận trưởng. Chính phủ có thể ủy thác các công việc sau đây cho các tổ chức hoặc cơ quan liên quan: (1) Hỗ trợ các dự án liên quan đến phát triển và sử dụng công nghệ trí tuệ nhân tạo; (2) Lựa chọn và hỗ trợ các dự án thuộc diện hỗ trợ liên quan đến sản xuất, thu thập, quản lý, phân phối và sử dụng dữ liệu học; triển khai dự án xây dựng dữ liệu học; (3) Xây dựng, vận hành và quản lý hệ thống cung cấp tích hợp; (4) Các nội dung mà Bộ trưởng cho là cần thiết nhằm thúc đẩy khởi nghiệp; (5) Hỗ trợ liên quan đến kiểm định và chứng nhận; (6) Khảo sát thực trạng, thống kê và xây dựng chỉ số...
Trong các trường hợp sau, Bộ trưởng Bộ Khoa học, Công nghệ và Thông tin Truyền thông có thể yêu cầu doanh nghiệp trí tuệ nhân tạo nộp tài liệu liên quan hoặc cử công chức trực thuộc tiến hành điều tra cần thiết: (1) Khi phát hiện hoặc nghi ngờ có hành vi vi phạm; (2) Khi nhận được tố cáo hoặc đơn khiếu nại liên quan đến hành vi vi phạm các điều trên. Bộ trưởng có thể cử công chức đến trụ sở hoặc nơi kinh doanh của doanh nghiệp trí tuệ nhân tạo để kiểm tra sổ sách, tài liệu, hiện vật nếu thấy cần thiết cho điều tra. Nếu qua điều tra như nêu ở trên thấy có hành vi vi phạm, Bộ trưởng có thể ra lệnh ngừng hoặc yêu cầu khắc phục hành vi vi phạm đó.
Người tiết lộ bí mật mà mình biết được trong quá trình thực hiện nhiệm vụ quy định trong Luật này hoặc sử dụng vào mục đích khác ngoài công vụ, sẽ bị phạt tù đến 3 năm hoặc phạt tiền đến 30 triệu won. Người thuộc một trong các trường hợp sau sẽ bị phạt hành chính bằng tiền không quá 30 triệu won: (1) Không thực hiện nghĩa vụ thông báo; (2) Không chỉ định đại diện tại Hàn Quốc; (3) Không thực hiện lệnh ngừng hoặc khắc phục các hành vi vi phạm.
TS Nguyễn Văn Cương
Viện trưởng Viện Chiến lược và Khoa học pháp lý
Bộ Tư pháp
Viện trưởng Viện Chiến lược và Khoa học pháp lý
Bộ Tư pháp
Cục công nghệ thông tin - bộ tư pháp
Địa chỉ: 60 Trần Phú - Ba Đình - Hà Nội
Điện thoại: 024.62739718 Fax: 024.62739730
Email: it@moj.gov.vn