AI có thể đánh lừa mọi người tin rằng khuôn mặt người giả là thật

Một nghiên cứu mới cho biết con người không còn có thể phân biệt được đâu là khuôn mặt người thật và khuôn mặt giả do trí tuệ nhân tạo (AI) tạo ra.

Khái niệm tạo danh tính giả không phải là mới, nhưng nó đã được đưa đến một thái cực mới với sự nổi lên của “Deep Fake” kỹ thuật số. AI và học máy đang được sử dụng để tạo ra con người kỹ thuật số, và chúng dường như đang trở nên tốt hơn theo từng giờ.

Các chương trình AI giả làm con người có tiềm năng thực hiện nhiều vai trò hiện đang do con người đảm nhiệm. Chúng được coi là những người làm việc hoàn hảo và không mệt mỏi cho các dịch vụ ngân hàng kỹ thuật số, dịch vụ khách hàng, trung tâm cuộc gọi, bán hàng và hỗ trợ. Ảnh đại diện hồ sơ được tạo bởi AI cũng được sử dụng nhiều để tạo hồ sơ giả mạo và có liên quan đến các mối đe dọa về gian lận và an ninh mạng.

Các nhà nghiên cứu của Đại học Lancaster (Anh) kết luận rằng con người không còn có thể phân biệt được giữa khuôn mặt do AI tạo ra và khuôn mặt người thật. Nhóm nghiên cứu cho biết điều này đại diện cho một nguy cơ khẩn cấp cần được giải quyết bằng cách tạo ra các biện pháp an toàn để bảo vệ công chúng. Các nhà nghiên cứu nói thêm rằng văn bản, âm thanh, hình ảnh và video do AI tổng hợp đã được sử dụng cho nhiều mục đích bất chính, bao gồm cả lừa đảo và tuyên truyền.

Các nhà nghiên cứu giải thích rằng các khuôn mặt nhân tạo được tạo ra bằng cách sử dụng StyleGAN2 - một mạng lưới do các nhà nghiên cứu Nvidia tạo ra vào năm 2018. Thí nghiệm có hơn 500 người tham gia được yêu cầu phân biệt khuôn mặt nhân tạo với thật, đồng thời được yêu cầu xác định mức độ tin cậy mà những khuôn mặt họ chọn.

Kết quả cho thấy hình ảnh AI không chỉ giống như ảnh thực mà gần như không thể phân biệt được. Đáng quan tâm hơn nữa, nghiên cứu cho thấy mọi người đánh giá khuôn mặt nhân tạo đáng tin cậy hơn người thật. Các hình ảnh được sử dụng trong nghiên cứu đa dạng về độ tuổi, chủng tộc và cảm xúc. Trong khi các nhà nghiên cứu không biết rõ tại sao mọi người tin tưởng khuôn mặt nhân tạo hơn khuôn mặt thật.

Vào năm 2019, Facebook đã gỡ bỏ một mạng lưới các tài khoản giả mạo sử dụng khuôn mặt nhân tạo. Giọng nói, hình ảnh và video “Deep Fake” cũng đã được sử dụng để tấn công các công ty. Chi phí cho một cuộc tấn công Deep Fake hiện ước tính hơn 200.000 USD, và các chuyên gia AI thường cảnh báo số lượng các cuộc tấn công Deep Fake sẽ tăng lên đáng kể trong tương lai. Nghiên cứu AI mới nhất này cũng cảnh báo về những rủi ro và nguy hiểm, đồng thời kêu gọi tất cả các khuôn mặt nhân tạo được tạo bởi AI phải có hình mờ và được xác định, giúp chúng dễ dàng được truy tìm hơn.