Deepfake là từ ghép của hai từ “deep learning” (học sâu) và “fake” (giả). Deepfake là một kỹ thuật kết hợp giữa các thuật toán học sâu và học máy với mục đích tạo ra những video, hình ảnh hoặc âm thanh giả mạo một cách rất chân thực. Thời gian gần đây, những vụ bê bối liên quan đến CSAM đã trở thành vấn đề nóng tại Hạ viện Mỹ, nhất là sau khi xuất hiện những báo cáo về việc các nữ sinh trở thành nạn nhân tại trường học bởi những sản phẩm mà AI tạo ra có chứa hình ảnh của họ.

leftcenterrightdel
OpenAI là một trong những công ty đã ký kết các tiêu chuẩn mới của Thorn. Ảnh: Getty Images 

Theo kênh tin tức NBC, các video deepfake chứa nội dung tình dục với khuôn mặt thật của trẻ em nằm trong số kết quả tìm kiếm hàng đầu trên trên Microsoft’s Bing, cũng như kết quả tìm kiếm từ khóa “deepfake” trên Google gắn với các ngôi sao nữ nổi tiếng…

Trước thực trạng trên, Thorn-một tổ chức phi lợi nhuận mới đây cho biết, các tập đoàn công nghệ lớn như Meta, Google, Microsoft, CivitAI, Stability AI, Amazon, OpenAI và một số công ty khác đã ký văn bản cam kết với tổ chức này nhằm chống lại sự lan truyền CSAM. Theo đó, các công ty công nghệ đã ký nguyên tắc “An toàn qua thiết kế”, trong đó nêu rõ phát triển công nghệ cho phép các công ty phát hiện hình ảnh có phải được tạo ra bởi AI hay không.

Ngoài ra, các nội dung lạm dụng tình dục trẻ em sẽ không được đưa vào bộ dữ liệu tạo ra mô hình AI. Theo nguyên tắc mới, các công ty chỉ nên phát hành các mô hình AI sau khi đã được kiểm tra về mức độ an toàn cho trẻ em, phải chịu trách nhiệm lưu trữ các mô hình đó và bảo đảm chúng không bị sử dụng vào mục đích xâm hại.

Hiện vẫn chưa rõ các công ty công nghệ sẽ áp dụng nguyên tắc “An toàn qua thiết kế” như thế nào trong bối cảnh một số điều khoản vấp phải sự chỉ trích về cách thức áp dụng cũng như tác động đến cộng đồng.

MINH HỒNG (Theo NBC News)

*Mời bạn đọc vào chuyên mục Quốc tế xem các tin, bài liên quan.