Vụ án nổi tiếng

Có thể đi tù vì sử dụng AI để tạo ra hình ảnh khiêu dâm

Hà Mai • 28/09/2023 - 14:33

Một người đàn ông Hàn Quốc mới đây bị kết án tù vì sử dụng trí tuệ nhân tạo để tạo ra (AI) những hình ảnh khiêu dâm trẻ em. Đây là vụ án đầu tiên thuộc loại này ở Hàn Quốc khi các Tòa án trên khắp thế giới đang phải xử lý các vụ án liên quan tới việc sử dụng AI để tạo ra nội dung lạm dụng tình dục.

Sử dụng AI để tạo hình ảnh khiêu dâm trẻ em có thể bị phạt tù. (Ảnh: Bloomberg)

Theo Tòa án quận Busan và Văn phòng công tố quận, người đàn ông giấu tên, ở độ tuổi 40, vừa bị kết án 2 năm rưỡi tù giam.

Văn phòng công tố cho biết, người đàn ông này đã sử dụng công nghệ AI để tạo ra khoảng 360 hình ảnh khiêu dâm. Những hình ảnh này chưa được phát tán và đã bị cảnh sát tịch thu.

Các công tố viên lập luận trong vụ án rằng định nghĩa về hình ảnh lạm dụng hay bóc lộc tình dục phải bao gồm cả những hành vi tình dục của “con người ảo” chứ không chỉ hình ảnh của trẻ em thực sự.

Văn phòng công tố cho biết phán quyết cho thấy nội dung lạm dụng tình dục có thể bao gồm hình ảnh được tạo bằng công nghệ cao, đủ chân thực để trông giống trẻ em và trẻ vị thành niên thật.

Vụ việc xảy ra khi các chính phủ trên khắp thế giới đang vật lộn với sự bùng nổ của AI, với những tác động sâu rộng từ bản quyền và sở hữu trí tuệ đến an ninh quốc gia, quyền riêng tư cá nhân và nội dung khiêu dâm.

Nhiều nước đang chạy đua để quản lý công nghệ - đặc biệt là khi những trường hợp như bản án của Hàn Quốc này nêu bật cách AI có thể được sử dụng để vi phạm quyền tự chủ và an toàn cơ thể của con người, phần lớn là phụ nữ và trẻ vị thành niên.

Đầu tháng này, cảnh sát Tây Ban Nha đã mở một cuộc điều tra sau khi hình ảnh các cô gái chưa đủ tuổi vị thành niên bị AI “lột bỏ quần áo” và gửi đi khắp thị trấn. Một thanh niên đã sử dụng hình ảnh khỏa thân do AI tạo ra để tống tiền một trong các cô gái này.

Trong nhiều năm, deepfake - những video giả mạo có sức thuyết phục cao được thực hiện bằng AI - đã được sử dụng để đưa khuôn mặt của phụ nữ vào các video khiêu dâm mà không có sự đồng ý của họ. Các video thường xuất hiện chân thực đến mức nạn nhân khó có thể phủ nhận rằng đó không phải là họ.

Nền tảng phát trực tuyến Twitch đã thắt chặt các chính sách của mình, gọi các video khiêu dâm sử dụng công nghệ deepfake là “vi phạm cá nhân và gây khó chịu với mọi người”. Các nền tảng lớn khác cũng đang cập nhật các quy tắc tương tự, trong đó TikTok bổ sung thêm các hạn chế đối với việc chia sẻ các nội dung giả mạo AI từ tháng 3.

Liên minh châu Âu đã trở thành một trong những quốc gia đầu tiên trên thế giới đưa ra các quy định về cách các công ty có thể sử dụng AI vào tháng 6, tiếp theo là Trung Quốc vào tháng 7. Mới đây, vào tháng 9, một số nhà lãnh đạo công nghệ lớn nhất ở Mỹ - bao gồm Bill Gates, Elon Musk và Mark Zuckerberg - đã tập trung tại Washington để đưa ra những góp ý khi Thượng viện chuẩn bị soạn thảo luật về AI.