Ảnh minh họa.
Thống đốc Newsom cho biết dự luật không phân biệt mức độ rủi ro của hệ thống AI, tức không xem xét liệu hệ thống đó có được sử dụng trong các môi trường nguy hiểm, có tham gia vào quá trình ra quyết định quan trọng, hay có xử lý dữ liệu nhạy cảm hay không. Thay vào đó, dự luật áp dụng các tiêu chuẩn rất nghiêm ngặt ngay cả với những chức năng cơ bản nhất của AI nếu đó là do một hệ thống lớn với công nghệ phức tạp vận hành.
Ông Newsom đã yêu cầu các chuyên gia hàng đầu về AI tạo sinh hỗ trợ California "phát triển các rào cản khả thi", tập trung vào "phân tích lộ trình dựa trên khoa học và thực nghiệm". Thống đốc California cũng chỉ đạo các cơ quan cấp bang mở rộng đánh giá các rủi ro tiềm ẩn từ các sự kiện thảm khốc liên quan đến việc sử dụng AI. Ngoài ra, quan chức này dự định sẽ làm việc với cơ quan lập pháp về các dự luật liên quan đến AI trong kỳ họp tiếp theo.
Ngày 28/8 vừa qua, cơ quan lập pháp California, nơi tọa lạc Thung lũng Silicon, đã thông qua dự luật nhằm quản lý các mô hình AI. Được đặt tên chính thức là Luật Đổi mới an toàn và bảo mật cho các mô hình AI tiên phong, văn bản pháp lý này khuấy động nhiều tranh luận với nhiều ý kiến trái chiều.
Dự luật yêu cầu các nhà phát triển các mô hình AI tiên phong lớn phải thực hiện các biện pháp phòng ngừa như thử nghiệm trước khi triển khai, mô phỏng các cuộc tấn công của tin tặc, cài đặt các biện pháp bảo vệ an ninh mạng và người tố giác.
Thượng nghị sĩ đảng Dân chủ Scott Wiener, tác giả của dự luật, nhấn mạnh việc ban hành văn kiện này là điều cần thiết để bảo vệ công chúng trước khi những tiến bộ của AI trở nên vượt ngoài tầm kiểm soát. Ông cho rằng việc bác bỏ dự luật khiến California kém an toàn hơn, khi các công ty muốn phát triển công nghệ vô cùng mạnh sẽ không phải chịu bất kỳ hạn chế ràng buộc nào. Thượng nghị sĩ này lưu ý không thể chờ đợi một thảm họa lớn xảy ra trước khi có các biện pháp bảo vệ công chúng.
Tuy nhiên, dự luật cũng đã vấp phải sự phản đối mạnh mẽ từ các tập đoàn công nghệ. Google của Alphabet, OpenAI do Microsoft hậu thuẫn và Meta Platforms, tất cả đều đang phát triển các mô hình AI tạo sinh. Một số nghị sĩ đảng Dân chủ tại Quốc hội Mỹ cũng phản đối dự luật này.
Trước đó, Thống đốc Newsom đã ký một quy định riêng rẽ yêu cầu bang California đánh giá các mối đe dọa tiềm tàng do AI tạo sinh đặt ra đối với cơ sở hạ tầng quan trọng của bang này. California đang tiến hành phân tích các rủi ro đối với hạ tầng năng lượng. Dự kiến, trong năm tới, giới chức bang sẽ thực hiện đánh giá tương tự với các nhà cung cấp cơ sở hạ tầng nước và sau đó là lĩnh vực viễn thông.
Với khả năng tạo ra văn bản, hình ảnh và video từ các câu lệnh mở, AI tạo sinh đã mở ra nhiều tiềm năng mới nhưng đồng thời cũng đặt ra những thách thức lớn. Khả năng tự động hóa công việc, gây rối loạn các cuộc bầu cử và tiềm năng vượt trội của AI đòi hỏi thế giới phải có những chuẩn bị kỹ lưỡng để phòng ngừa những hậu quả thảm khốc trong tương lai.
THANH HẢI/TTXVN
