Theo thông báo đăng trên tài khoản WeChat chính thức của Công an TP. Thiệu Hưng, tỉnh Chiết Giang, miền Đông Trung Quốc, cảnh sát thành phố này vừa phá được vụ án đầu tiên của tỉnh sử dụng công nghệ ChatGPT tạo video giả.
Tin giả được tạo ra bằng ChatGPT ở Chiết Giang, Trung Quốc. Ảnh: The Paper.
Vụ án được phát hiện khi lực lượng cảnh sát tại đây thực hiện một cuộc tuần tra trực tuyến vào ngày 2/6. Khi đó, có cư dân mạng tung video về vụ cháy ở một khu công nghiệp địa phương lên mạng và ngay lập tức nhận được số lượt xem tăng lên nhanh chóng. Sau khi cơ quan Công an vào cuộc xác minh đã khẳng định đoạn video trên là sai sự thật.
Cảnh sát Thiệu Hưng sau đó đã xác định vụ việc có liên quan đến một công ty công nghệ ở tỉnh khác và cử lực lượng đến địa bàn tỉnh này bắt giữ 03 nghi phạm vào ngày 05/6. Điều tra cho thấy, công ty này đã mua trái phép một số tài khoản video trên Internet từ tháng 5, đồng thời sử dụng công nghệ ChatGPT để ghép nối, tạo video giả đăng lên mạng nhằm thu hút lưu lượng và thu lợi nhờ thuật toán lưu lượng truy cập người dùng. Tính đến thời điểm bị bắt, băng nhóm này đã mua trái phép hơn 1.500 tài khoản video và phát hành hơn 3.000 video chưa được kiểm chứng. Hiện 03 nghi phạm đã bị cảnh sát thực hiện các biện pháp cưỡng chế hình sự vì tội gây rối, vụ việc đang được tiếp tục điều tra.
Hồi tháng 5, cảnh sát tỉnh Cam Túc, miền Tây Bắc Trung Quốc cũng cho biết đã bắt giữ một người đàn ông nghi ngờ sử dụng ChatGPT để tạo tin giả về tai nạn tàu hỏa, sau đó đăng thông tin lên mạng. Truyền thông địa phương gọi đây là trường hợp phạm tội đầu tiên tại Trung Quốc liên quan đến công cụ trò chuyện (chatbot) trí tuệ nhân tạo (AI) này.
Trung Quốc cấm ChatGPT, nhưng người dùng internet vẫn có thể tiếp cận công cụ này qua mạng riêng ảo (VPN). Cơ quan quản lý không gian mạng Trung Quốc hồi tháng 1 đã ban hành quy định mới để kiểm soát việc sử dụng công nghệ AI thay thế khuôn mặt (deep fake). Hồi tháng 4, cơ quan này cũng ban hành dự thảo quy định kiểm soát các dịch vụ được tạo bởi trí tuệ nhân tạo (AI), trong bối cảnh ChatGPT gây sốt trên toàn cầu và các công ty công nghệ trong nước liên tiếp tung ra các dịch vụ tương tự.
BÍCH THUẬN/VOV
