Theo Điều 80 dự thảo Luật Công nghiệp công nghệ số, các hoạt động trí tuệ nhân tạo bị nghiêm cấm bao gồm:
- Đưa ra thị trường, đưa vào sử dụng hoặc sử dụng hệ thống trí tuệ nhân tạo triển khai các kỹ thuật nhằm mục đích gây ảnh hưởng đến hành vi của cá nhân mà cá nhân đó không thể nhận thức được hoặc sử dụng các kỹ thuật lôi kéo hoặc lừa đảo nhằm bóp méo hành vi của cá nhân đó một cách nghiêm trọng bằng cách làm suy giảm khả năng đưa ra quyết định dẫn đến tổn hại đáng kể.
Ảnh minh họa.
- Đưa ra thị trường, đưa vào sử dụng hoặc sử dụng hệ thống trí tuệ nhân tạo khai thác những điểm yếu của cá nhân hoặc nhóm người người do tuổi tác, tình trạng khuyết tật hoặc hoàn cảnh kinh tế hoặc xã hội làm bóp méo nghiêm trọng hành vi và gây tổn hạn đáng kể cho cá nhân hoặc nhóm người đó.
- Đưa ra thị trường, đưa vào sử dụng hoặc sử dụng hệ thống trí tuệ nhân tạo được dùng để đánh giá hoặc phân loại cá nhân dựa trên hành vi xã hội hoặc các đặc điểm cá nhân hoặc tính cách được suy luận hoặc dự đoán dẫn đến một hoặc cả hai trường hợp sau:
Đối xử bất lợi trong bối cảnh xã hội không liên quan đến bối cảnh mà dữ liệu ban đầu được tạo ra hoặc thu thập;
Tổn hại bất lợi đối với cá nhân hoặc nhóm người không chính đáng hoặc không tương xứng với hành vi xã hội hoặc hoặc mức độ nghiêm trọng của hành vi đó.
- Đưa ra thị trường, đưa vào sử dụng hệ thống trí tuệ nhân tạo được sử dụng để đánh giá rủi ro của cá nhân nhằm xác định hoặc dự đoán nguy cơ một cá nhân sẽ phạm tội hình sự chỉ dựa trên hồ sơ hoặc đánh giá tính cách và đặc điểm; không áp dụng cho các hệ thống trí tuệ nhân tạo được sử dụng để hỗ trợ đánh giá liên quan trực tiếp đến hoạt động phòng, chống tội phạm theo quy định pháp luật hiện hành.
- Đưa ra thị trường, đưa vào sử dụng hoặc sử dụng hệ thống trí tuệ nhân tạo tạo hoặc mở rộng cơ sở dữ liệu nhận dạng khuôn mặt thông qua việc thu thập hình ảnh khuôn mặt không có mục tiêu từ Internet hoặc đoạn phim CCTV.
- Đưa ra thị trường, đưa vào sử dụng hệ thống trí tuệ nhân tạo suy đoán cảm xúc của con người trong khu vực nơi làm việc và cơ sở giáo dục, ngoại trừ hệ thống trí tuệ nhân tạo được dùng cho y tế và an toàn.
- Đưa ra thị trường, đưa vào sử dụng hệ thống trí tuệ nhân tạo phân loại sinh trắc học để phân loại các cá nhân dựa trên dữ liệu sinh trắc học để suy luận ra dữ liệu cá nhân nhạy cảm; không bao gồm việc dán nhãn hoặc lọc các tập dữ liệu sinh trắc học được thu thập hợp pháp.
Dự án Luật Công nghiệp công nghệ số thể hiện rõ các nội dung cần thiết để phát triển ngành công nghiệp công nghệ số, trong đó có trí tuệ nhân tạo (AI). Đây là nội dung được trình Ủy ban Thường vụ Quốc hội cho ý kiến tại Phiên họp 38, ngày 08/10/2024.
Theo đó, phát biểu tại phiên họp, Bộ trưởng Bộ TT&TT Nguyễn Mạnh Hùng cho biết, mục đích xây dựng luật nhằm phát triển công nghiệp công nghệ số trở thành ngành kinh tế đóng góp lớn vào kinh tế đất nước; tạo môi trường thuận lợi nhất để nuôi dưỡng và phát triển doanh nghiệp công nghệ số.
Việc phát triển ngành công nghiệp công nghệ số với trọng tâm là các doanh nghiệp công nghệ số Việt Nam, từng bước chuyển dịch từ lắp ráp, gia công sang sáng tạo, thiết kế, tích hợp, sản xuất, làm chủ công nghệ lõi tại Việt Nam; góp phần xây dựng Chính phủ số, động lực phát triển kinh tế số, xã hội số.
Cùng với đó, khẳng định giá trị pháp lý của công nghiệp công nghệ số; hình thành các quy định, chính sách để thúc đẩy phát triển công nghiệp công nghệ số.
Dự thảo Luật cũng đã thể hiện rõ các nội dung cần thiết để phát triển ngành công nghiệp công nghệ số, bao gồm: Nghiên cứu và phát triển công nghệ số; Hạ tầng cho công nghiệp công nghệ số; Hệ sinh thái công nghiệp công nghệ số; Doanh nghiệp công nghệ số; Sản phẩm, dịch vụ công nghệ số; Tiêu chuẩn và quy chuẩn kỹ thuật, Nhân lực cho công nghiệp công nghệ số.
Nhấn mạnh trí tuệ nhân tạo (AI) là một trong các công nghệ số cốt lõi nhất, Bộ trưởng Nguyễn Mạnh Hùng cho biết dự thảo luật đưa ra định nghĩa, các nguyên tắc quản lý và phát triển, giao Chính phủ quy định chi tiết nội dung này.
Cũng theo Bộ trưởng Bộ TT&TT, Luật dự thảo nguyên tắc quản lý và phát triển AI. AI phục vụ sự thịnh vượng và hạnh phúc con người phải đảm bảo minh bạch và giải thích được, có trách nhiệm giải trình, công bằng và không phân biệt đối xử, tôn trọng các giá trị đạo đức và giúp con người, bảo vệ quyền riêng tư, tiếp cận bao trùm, an ninh và bảo mật, kiểm soát được, quản lý dựa trên rủi ro, đổi mới có trách nhiệm và khuyến khích hợp tác quốc tế.
Thẩm tra dự án luật, Ủy ban KH-CN&MT của Quốc hội cho biết, một số ý kiến cho rằng, việc quy định như dự thảo Luật về cơ bản là hợp lý. Tuy nhiên, có ý kiến đề nghị cần nghiên cứu toàn diện (bao gồm cả những vấn đề như sở hữu, quyền tài sản và quyền nhân thân đối với dữ liệu, vấn đề bảo hộ quyền tác giả…) để xây dựng một đạo luật riêng về AI của Việt Nam.
Ủy ban KH-CN&MT thấy rằng, tại thời điểm này Việt Nam cần phải có cơ sở pháp lý để điều chỉnh về trí tuệ nhân tạo để phát triển thế mạnh, lợi thế của AI, đồng thời hạn chế tác động bất lợi trong nghiên cứu, ứng dụng, phát triển công nghệ AI.
Do đó, cơ quan thẩm tra cơ bản tán thành sự cần thiết quy định đối với các hệ thống AI được lồng ghép trong dự thảo Luật. Tuy nhiên, Ủy ban KH-CN&MT đề nghị nghiên cứu bổ sung các quy định hạn chế rủi ro, ảnh hưởng của công nghệ AI đối với đời sống kinh tế, xã hội như nguyên tắc đạo đức; nghiên cứu, phát triển AI do Việt Nam sáng tạo; cho phép các doanh nghiệp có dự án nghiên cứu về trí tuệ nhân tạo được sử dụng nguồn dữ liệu từ các cơ quan nhà nước; quy định mức độ ứng dụng trí tuệ nhân tạo trong các cơ quan nhà nước từ các giải pháp do doanh nghiệp trong nước làm chủ nhằm khuyến khích sử dụng và tạo thị trường.
Góp ý về nội dung này, Phó Chủ tịch Quốc hội Nguyễn Thị Thanh đề nghị cần tiếp tục nghiên cứu để quy định phù hợp, vì trí tuệ nhân tạo (AI) là lĩnh vực mới, đặt ra nhiều thách thức về quản lý. Nội dung cần đảm bảo phân định rõ trách nhiệm giữa người sử dụng, nhà cung cấp, bên triển khai; có tiêu chí xác định rõ ràng, minh bạch.
Phát biểu tại phiên họp, Chủ tịch Quốc hội Trần Thanh Mẫn lưu ý, có nhiều khái niệm rất mới, như trí tuệ nhân tạo, tài sản số, tài sản mã hóa… Do đó cần chuẩn hóa, thống nhất cách hiểu xuyên suốt trong luật; cùng với đó tuyên truyền mạnh mẽ để khi luật ra đời thì người dân hiểu, áp dụng thuận lợi.
Ủy ban Thường vụ Quốc hội cũng đề nghị rà soát kỹ lưỡng, đảm bảo thống nhất, đồng bộ trong hệ thống pháp luật vì có quy định liên quan đến nhiều luật khác như Luật Công nghệ thông tin, Bộ luật Dân sự...
Nghiên cứu, áp dụng khung pháp lý chuyên biệt góp phần đưa hệ thống pháp luật Việt Nam bắt kịp tốc độ phát triển của nền kinh tế số
Mới đây, ngày 28/02, Văn phòng Trung ương Đảng công bố kết luận của Tổng Bí thư Tô Lâm tại buổi làm việc với Ban Chính sách, chiến lược Trung ương.
Trong đó, có nêu rõ, để thúc đẩy tăng trưởng kinh tế nhanh và bền vững, Tổng Bí thư yêu cầu phải tập trung cải cách, thúc đẩy cả về phía cung và phía cầu một cách phù hợp với thực tiễn và tính chất, trình độ của nền kinh tế Việt Nam. Trong đó, thúc đẩy các yếu tố về phía cung sẽ bảo đảm yêu cầu tăng trưởng cho dài hạn, ít hệ lụy nhưng sẽ có độ trễ cao hơn; thúc đẩy các yếu tố về phía cầu sẽ có thể nhanh hơn nhưng kèm theo nhiều rủi ro hơn.
Cụ thể, về phía cung, cần tiếp tục tập trung cải cách mạnh mẽ thể chế, cải thiện môi trường đầu tư kinh doanh, củng cố niềm tin của doanh nghiệp và người dân, phấn đấu trong năm 2025 giảm ít nhất 30% thời gian xử lý thủ tục hành chính; giảm ít nhất 30% chi phí kinh doanh, đặc biệt là trong lĩnh vực hải quan, chi phí tuân thủ quy định, chi phí không chính thức... Bãi bỏ ít nhất 30% điều kiện kinh doanh không cần thiết. Phấn đấu trong vòng 2-3 năm tới môi trường đầu tư của Việt Nam nằm trong nhóm 03 nước dẫn đầu trong ASEAN.
Nghiên cứu, áp dụng khung pháp lý chuyên biệt góp phần đưa hệ thống pháp luật Việt Nam bắt kịp tốc độ phát triển của nền kinh tế số, đổi mới sáng tạo và hội nhập quốc tế, đặc biệt là công nghệ tài chính, trí tuệ nhân tạo (AI), kinh tế nền tảng, thương mại điện tử và đặc khu kinh tế; đề xuất khung pháp lý thử nghiệm có kiểm soát đối với các ngành công nghệ mới; đề xuất khung pháp lý riêng cho đặc khu kinh tế và đặc khu công nghệ (như các cơ chế thuế đặc biệt ưu đãi, cơ chế đặc thù trong giải quyết các tranh chấp thương mại trong đặc khu...).
