Đi tù 18 năm vì dùng deepfake

Hugh Nelson cũng bị kết tội khuyến khích những kẻ phạm tội khác thực hiện hành vi hiếp dâm. Ảnh: CPS.

Hugh Nelson (27 tuổi) từ Bolton, Anh vừa bị tuyên án 18 năm tù với 16 tội danh lạm dụng hình ảnh trẻ em bằng trí tuệ nhân tạo (AI). Đây là tiền lệ pháp lý đầu tiên tại Anh về việc xét xử tội phạm sử dụng AI để tạo ra nội dung lạm dụng trẻ em. Vụ án được điều tra bởi cảnh sát Greater Manchester (GMP).

Tạo ảnh bằng deepfake và phát tán qua phòng chat

The GMP, Nelson đã sử dụng phần mềm Daz 3D - một công cụ thiết kế tích hợp AI để biến những bức ảnh bình thường của trẻ em thành hình ảnh gợi dục. Một số hình ảnh còn được thực hiện theo yêu cầu của các đối tượng khác, bao gồm cả những người có quan hệ trực tiếp với trẻ em trong hình ảnh.

Từ đó, Nelson không chỉ tạo ra những hình ảnh biến thái mà còn hỗ trợ và khuyến khích các đối tượng khác thực hiện hành vi phạm tội nghiêm trọng như hiếp dâm. Thông qua các phòng chat trên mạng, Nelson đã bán hình ảnh lạm dụng trong suốt 18 tháng, kiếm được khoảng 5.000 bảng Anh từ hoạt động phi pháp này.

Nelson đã bán những bức ảnh của mình trong các phòng chat trên Internet. Ảnh: BBC.

Nói trước tòa án Bolton, thẩm phán Martin Walsh nhấn mạnh sự nguy hiểm của các hình ảnh do Nelson tạo ra, đặc biệt là tác động tâm lý nặng nề gây ra cho các nạn nhân.

Thẩm phán Walsh gọi những hình ảnh này “không có giới hạn về độ đồi trụy”. Ông cho rằng Nelson hoàn toàn không quan tâm đến hậu quả của việc phát tán những hình ảnh độc hại này. “Không thể biết chắc rằng đã có bao nhiêu trẻ em bị xâm hại vì những hình ảnh mà bị cáo đã tạo ra và phát tán”, thẩm phán nói. Ông gọi hành vi của Nelson là biểu hiện của sự sa đọa đến mức không thể chấp nhận.

Theo Guardian, Nelson bị phát hiện sau khi tiếp xúc với một cảnh sát ngầm trên một phòng chat trực tuyến và đưa ra mức phí 80 bảng để tạo một “nhân vật mới” dựa trên ảnh được cung cấp.

Theo lời kể từ phía công tố viên, Nelson đã liệt kê danh sách các hành động kinh khủng mà anh ta sẵn sàng thực hiện với các nhân vật ảo, kèm theo biểu tượng cười khúc khích. Khi bị bắt, Nelson thừa nhận rằng bản thân cảm thấy “kinh tởm” và cho biết rằng tâm trí mình đã “bị tha hóa”.

Lo ngại AI phát triển nhanh hơn luật pháp

Song, trong quá trình khám xét các thiết bị của Nelson, cảnh sát còn tìm thấy các tin nhắn trao đổi với 3 người khác. Trong đó, anh ta khuyến khích việc hiếp dâm trẻ em dưới 13 tuổi.

GMP còn phối hợp với các cơ quan thực thi pháp luật quốc tế và xác định các nghi phạm, nạn nhân tại nhiều quốc gia khác như Italy, Pháp và Mỹ. Khi xuất hiện tại tòa án, Nelson tỏ ra không có vẻ gì là hối cải.

Nhưng để bảo vệ Nelson trước tòa, luật sư Robert Elias mô tả anh ta là một người sống cô độc, “chui rúc trong phòng ngủ của bố mẹ”. Luật sư cho rằng Nelson chỉ tìm kiếm sự công nhận và cảm giác thuộc về một cộng đồng.

Nelson đã tạo ra các “nhân vật” 3D từ những bức ảnh bình thường. Ảnh: Depositphotos.

Tuy nhiên, theo ông, sự tham gia của Nelson vào những hành vi phi pháp này đã khiến anh ta “trượt dài vào một cuộc sống ảo tưởng đầy nguy hiểm”. Dù có nỗ lực biện hộ của luật sư, hành động của Nelson vẫn bị công chúng và pháp luật lên án gay gắt.

Jeanette Smith, công tố viên chuyên trách Cơ quan Công tố Hoàng gia (CPS) Anh, bày tỏ sự phẫn nộ trước hành vi sử dụng AI để tạo ra những hình ảnh lạm dụng và phát tán trực tuyến.

“Công nghệ đang phát triển một cách nhanh chóng và thật đáng buồn, mối nguy hiểm đối với trẻ em cũng vậy”, Smith nói với Guardian. Bà khẳng định rằng vụ án này là một lời cảnh báo đối với bất kỳ ai có ý định lợi dụng công nghệ để gây hại cho trẻ em. “Bạn sẽ bị truy bắt đến cùng và sẽ phải chịu sự trừng phạt của pháp luật”, bà tuyên bố.

Theo điều tra viên Jen Tattersall từ GMP, AI mang lại nhiều cơ hội để thực thi pháp luật nhưng công nghệ tinh vi này cũng gây ra mối đe dọa cho lực lượng cảnh sát. Họ lo ngại nguy cơ AI có thể phát triển nhanh hơn luật hình sự hiện hành.

Tuy nhiên, Tattersall cũng cho hay vụ án Nelson chứng minh rằng tội phạm có thể sử dụng công nghệ và thao túng mọi thứ, nhưng cảnh sát vẫn sẽ truy tố họ. “Chúng tôi sẽ tống anh vào tù”, điều tra viên nói.