Hiểm họa tội phạm Deepfake AI giả giọng nói để lừa đảo, đưa ra chỉ đạo sai

Tại hội nghị, người đứng đầu Đảng bộ thành phố đề cập tới thực trạng của tội phạm lừa đảo qua mạng, sử dụng công nghệ cao. Vấn nạn này ngày càng phức tạp và ảnh hưởng lớn đến đời sống người dân.

Bí thư Nguyễn Văn Nên chia sẻ, vừa rồi khi ra TP Hà Nội công tác, có một cán bộ nói đã nhận cuộc gọi từ một người xưng danh Bí thư Thành uỷ TPHCM để mượn tiền. “Giọng nói trong cuộc gọi rất giống đồng chí Nguyễn Văn Nên, nhưng khi tôi kiểm tra số tài khoản lại không phải tên đồng chí”, đồng chí Nguyễn Văn Nên chia sẻ lại câu chuyện.

Đồng chí Nguyễn Văn Nên chia sẻ thêm, bản thân đồng chí và những người xung quanh hàng ngày đều nhận được thông tin về những vụ việc tương tự, kể cả lãnh đạo TPHCM và cán bộ Thành ủy TPHCM liên tục bị các đối tượng lợi dụng hình ảnh, dựng lên những câu chuyện để lừa đảo.

“Loại tội phạm này đang gây hoang mang cho nhiều người. Nhiều người đã gọi điện hỏi tôi làm gì mà mượn tiền và huy động vốn. Tôi phải giải thích rõ ràng để mọi người hiểu và cảnh giác”, ông Nên cho biết.

Bí thư Nguyễn Văn Nên cảnh báo, hiện nay, tội phạm trên không gian mạng và tội phạm sử dụng công nghệ cao đang lợi dụng hình ảnh cán bộ cao cấp, lãnh đạo các cấp, cán bộ tòa án, viện kiểm sát và công an để thực hiện các hành vi lừa đảo. Các đối tượng này sử dụng kỹ thuật cắt ghép hình ảnh, giả mạo giọng nói để thực hiện hành vi phi pháp. Tình trạng này ngày càng trở nên phổ biến và phức tạp.

Từ đó, Bí thư Nguyễn Văn Nên yêu cầu các lực lượng, đặc biệt là lực lượng công an, tập trung vào việc phòng ngừa, ngăn chặn và triệt phá loại tội phạm này. Đồng chí cũng kêu gọi người dân nâng cao cảnh giác để tránh bị sập bẫy; tích cực hợp tác và phối hợp cùng cơ quan chức năng để phòng ngừa và ngăn chặn tội phạm hiệu quả.

Theo ông Võ Đỗ Thắng, Giám đốc Trung tâm tư vấn và đào tạo an ninh mạng ATHENA, hiện nay với công nghệ trí tuệ nhân tạo AI, bọn tội phạm mạng có thể sử dụng AI deepfake, chỉ cần 15 giây ghi âm giọng nói của một cá nhân, thì bọn tội phạm mạng có thể “sản xuất” ra thành một đoạn nói chuyện, đoạn chỉ đạo của cá nhân đó có giọng nói giống như thật.

Việc này thật sự nguy hiểm, có thể gây ra nhiều hiểm họa cho cộng đồng. Nếu cá nhân đó là những lãnh đạo, những người có ảnh hưởng thì những sản phẩm giọng nói “như thật” sẽ có những chỉ đạo sai, gây nhiều bất ổn xã hội.

Để minh họa cho việc này, ông Thắng đã dẫn chứng hãng công nghệ OpenAI đã đưa ra công nghệ tái hiện giọng nói của bất cứ ai chỉ với đoạn ghi âm 15 giây với phần mềm Voice Engine, sử dụng AI tạo ra giọng nói dựa trên bản ghi âm ngắn và có thể đọc văn bản.

Trong đó, phần mềm Voice Engine thể hiện khả năng hỗ trợ đọc, dịch nội dung giữa các ngôn ngữ khác nhau và tạo tiếng nói cho những người mất khả năng nói chuyện.

Cũng theo ông Võ Đỗ Thắng, tội phạm Công nghệ deepfake AI giả mạo hình ảnh, giọng nói giống “như thật” nhắm vào các nhà lãnh đạo, các nhà quản lý là một dạng tội phạm mới. Do đó, để bảo vệ người dân, tránh bị sập bẫy thì cơ quan quản lý nhà nước và các cơ quan liên quan cần phải có những cảnh báo thường xuyên đến người dân. Từ đây, người dân mới có những vắc xin đề kháng lại những deepfake AI giả mạo này.