Banner

Sự trỗi dậy của deepfake

Thứ ba, 5/3/2024 06:33 (GMT+7)

Khi các công cụ AI dần cải tiến và dễ tiếp cận, deepfake ngày càng bị lợi dụng để lừa đảo và phát tán tin giả.

Deepfake ngày càng bị lợi dụng cho mục đích xấu. Ảnh: Shutterstock.

Đầu tháng 2, cảnh sát Hong Kong cho biết một công ty đa quốc gia bị deepfake lừa hơn 25 triệu USD. Công nghệ này đã đóng giả giám đốc tài chính, ra lệnh nhân viên chuyển tiền trong một cuộc họp video.

Trước đó, ảnh deepfake của Taylor Swift lan truyền nhanh chóng trên mạng xã hội X vào cuối tháng 1. Nội dung khiêu dâm giả mạo nữ ca sĩ thu hút hàng chục triệu lượt xem trước khi bị xóa khỏi nền tảng.

Tại Việt Nam, đã có nhiều trường hợp bị lừa do nghe lời chuyển tiền từ các video deepfake giả mạo người thân hoặc công an. Việc OpenAI công bố mô hình tạo video Sora khiến lo ngại về deepfake ngày càng lớn.

Hiện nay, nhiều công cụ AI tạo sinh có thể truy cập dễ dàng, khiến kẻ xấu lợi dụng để tạo nội dung giả mạo. Theo các chuyên gia, việc nhận diện và ngăn chặn mối nguy từ deepfake là thách thức không đơn giản.

Làm sao để phát hiện deepfake?

Về cơ bản, deepfake sử dụng thuật toán máy học để tạo nội dung giả một cách chân thực. Với trường hợp của Taylor Swift, kẻ xấu thu thập hình ảnh của ca sĩ, đưa vào phần mềm để phân tích biểu đạt khuôn mặt. Tiếp theo, chúng kết hợp nội dung khiêu dâm để tạo hình ảnh tục tĩu rồi phát tán lên mạng xã hội.

Theo 404 Media, deepfake của nữ ca sĩ bắt nguồn từ diễn đàn 4chan và một nhóm trên Telegram, tạo bởi công cụ Microsoft Designer (hỗ trợ AI). Ngay sau đó, Microsoft đã giải quyết lỗ hổng bằng cách cấm tạo ảnh người nổi tiếng.

Các công ty công nghệ thường xuyên hứng chỉ trích do tác hại của deepfake. Tuy nhiên, nhiều deepfake độc hại còn được tạo bởi công cụ mã nguồn mở, phát tán trên các ứng dụng mã hóa như Telegram nên rất khó truy vết, MIT Technology Review cho biết.

Nhiều nghệ sĩ bị làm giả khuôn mặt để chạy quảng cáo trên mạng xã hội. Ảnh: Ad Age.

Một số công cụ tạo deepfake được chia sẻ trên Hugging Face hay GitHub, giúp người dùng truy cập các mô hình như Stable Diffusion để xây dựng deepfake của riêng mình. Chỉ cần hình ảnh, video và bản ghi giọng nói, ai cũng có thể tạo (hoặc trở thành nạn nhân) của deepfake.

TS Jonathan Crellin, Chủ nhiệm bộ môn An toàn thông tin, khoa Khoa học, Kỹ thuật và Công nghệ, Đại học RMIT, đưa ra một số giải pháp giúp phát hiện deepfake.

Đầu tiên, người dùng nên giảm số lượng hình ảnh, video hoặc bản ghi âm trên Internet.

“Hãy đảm bảo bạn chỉ chia sẻ chúng với người quen chứ không đăng tải rộng rãi. Một khi đã đưa nội dung lên Internet thì hầu như không thể xóa bỏ”, TS Crellin cho biết.

Thứ hai, có thể đặt quy ước bí mật (từ khóa) cho gia đình nhằm xác thực cuộc gọi. Tiếp theo, nhận biết các lỗi kỳ lạ (như được dàn dựng) trong hình ảnh hoặc cuộc gọi video.

Một kỹ thuật khác là dùng tính năng tìm kiếm ngược trên Google để xác định hình ảnh gốc.

“Bài học cuối cùng là đừng mù quáng tin vào những gì bạn thấy. Máy ảnh (hoặc AI) có thể nói dối”, TS Crellin nhấn mạnh.

Chiến lược đối phó deepfake

Các công ty công nghệ lớn có giải pháp ngăn chặn deepfake. Ngoài Microsoft, OpenAI hay Google cũng duy trì chính sách kiểm duyệt, cấm người dùng tạo ảnh của nhân vật nổi tiếng. Dù vậy, một số thủ thuật như chỉnh sửa tên gọi vẫn có thể khiến AI bị đánh lừa.

Những nền tảng chia sẻ mã nguồn như GitHub hay Hugging Face cũng có biện pháp hạn chế sử dụng mô hình cho mục đích xấu. Tuy nhiên theo chuyên gia, không chỉ nền tảng, công ty công nghệ mà con người cũng cần có biện pháp đối phó deepfake, đặc biệt khi kẻ xấu có thể lợi dụng để bôi nhọ, phát tán tin giả.

“Deepfake tạo ra mối nguy rất lớn cho người nổi tiếng và chính trị gia, do thông tin tiêu cực về họ xuất hiện với tần suất liên tục, khiến công chúng có cái nhìn không thiện cảm với họ”, TS Nguyễn Văn Thăng Long, giảng viên cấp cao khoa Truyền thông và Thiết kế, Đại học RMIT, cho biết.

Một trang web cung cấp avatar ảo với hình ảnh giống con người. Ảnh: AFP.

Theo TS Thăng Long, với sự tràn lan của tin giả từ deepfake, đội ngũ truyền thông của người nổi tiếng, chính trị gia cần có sẵn nguồn lực để theo dõi, phản ứng kịp thời với tin giả hay liên tục hiệu đính thông tin sai lệch.

Deepfake xuất hiện trên mạng xã hội gây khó khăn khi xác minh bởi tốc độ lan truyền rất nhanh. Ngoài ra, hậu quả của deepfake có thể lớn nếu nội dung liên quan đến chủ đề nhạy cảm.

Đại diện Đại học RMIT cho rằng cần chuẩn bị bài bản. Bên cạnh kế hoạch xử lý khủng hoảng cho deepfake, các tổ chức có thể lập chiến lược quản lý rủi ro để ứng phó tốt hơn, giảm thiểu hậu quả đáng tiếc.

“Trong bối cảnh deepfake tràn lan, chiến lược quản lý rủi ro hiệu quả nhất vẫn là duy trì kênh thông tin nhất quán, thông qua các nền tảng mạng xã hội phổ biến, website, gặp mặt trực tiếp giữa doanh nghiệp, người nổi tiếng, chính trị gia với các bên liên quan chủ chốt như người hâm mộ, báo chí, cộng đồng, nhân viên.

Bằng cách duy trì các kênh truyền thông này, việc tiếp nhận nhanh chóng thông tin liên quan đến deepfake trở nên khả thi hơn, giúp hiệu đính tin đồn kịp thời và hiệu quả, đồng thời vạch trần thông tin sai lệch ngay từ đầu”, TS Thăng Long cho biết.

QC
Powered by mAds
Cùng danh mục
QC
Powered by mAds