Ảnh minh hoạ.
Cụ thể, Điều 83 Dự thảo Luật Công nghiệp công nghệ số quy định rõ các hoạt động trí tuệ nhân tạo bị nghiêm cấm bao gồm:
- Đưa ra thị trường, đưa vào sử dụng hoặc sử dụng hệ thống trí tuệ nhân tạo triển khai các kỹ thuật nhằm mục đích gây ảnh hưởng đến hành vi của cá nhân mà cá nhân đó không thể nhận thức được hoặc sử dụng các kỹ thuật lôi kéo hoặc lừa đảo nhằm bóp méo hành vi của cá nhân đó một cách nghiêm trọng bằng cách làm suy giảm khả năng đưa ra quyết định dẫn đến tổn hại đáng kể.
- Đưa ra thị trường, đưa vào sử dụng hoặc sử dụng hệ thống trí tuệ nhân tạo khai thác những điểm yếu của cá nhân hoặc nhóm người người do tuổi tác, tình trạng khuyết tật hoặc hoàn cảnh kinh tế hoặc xã hội làm bóp méo nghiêm trọng hành vi và gây tổn hạn đáng kể cho cá nhân hoặc nhóm người đó.
- Đưa ra thị trường, đưa vào sử dụng hoặc sử dụng hệ thống trí tuệ nhân tạo được dùng để đánh giá hoặc phân loại cá nhân dựa trên hành vi xã hội hoặc các đặc điểm cá nhân hoặc tính cách được suy luận hoặc dự đoán dẫn đến một hoặc cả hai trường hợp sau: Đối xử bất lợi trong bối cảnh xã hội không liên quan đến bối cảnh mà dữ liệu ban đầu được tạo ra hoặc thu thập; Tổn hại bất lợi đối với cá nhân hoặc nhóm người không chính đáng hoặc không tương xứng với hành vi xã hội hoặc hoặc mức độ nghiêm trọng của hành vi đó.
- Đưa ra thị trường, đưa vào sử dụng hệ thống trí tuệ nhân tạo được sử dụng để đánh giá rủi ro của cá nhân nhằm xác định hoặc dự đoán nguy cơ một cá nhân sẽ phạm tội hình sự chỉ dựa trên hồ sơ hoặc đánh giá tính cách và đặc điểm; không áp dụng cho các hệ thống trí tuệ nhân tạo được sử dụng để hỗ trợ đánh giá liên quan trực tiếp đến hoạt động phòng, chống tội phạm theo quy định pháp luật hiện hành.
- Đưa ra thị trường, đưa vào sử dụng hoặc sử dụng hệ thống trí tuệ nhân tạo tạo hoặc mở rộng cơ sở dữ liệu nhận dạng khuôn mặt thông qua việc thu thập hình ảnh khuôn mặt không có mục tiêu từ Internet hoặc đoạn phim CCTV.
- Đưa ra thị trường, đưa vào sử dụng hệ thống trí tuệ nhân tạo suy đoán cảm xúc của con người trong khu vực nơi làm việc và cơ sở giáo dục, ngoại trừ hệ thống trí tuệ nhân tạo được dùng cho y tế và an toàn.
- Đưa ra thị trường, đưa vào sử dụng hệ thống trí tuệ nhân tạo phân loại sinh trắc học để phân loại các cá nhân dựa trên dữ liệu sinh trắc học để suy luận ra dữ liệu cá nhân nhạy cảm; không bao gồm việc dán nhãn hoặc lọc các tập dữ liệu sinh trắc học được thu thập hợp pháp.
Ngoài ra, theo Nghị quyết 129/2024/QH15, dự kiến Dự thảo Luật Công nghiệp công nghệ số sẽ được trình lên Quốc hội cho ý kiến tại Kỳ họp thứ 8 (tháng 10/2024) và được thông qua tại Kỳ họp thứ 9 (tháng 5/2025).
