Ác mộng deepfake khiêu dâm trên Telegram của nữ sinh Hàn Quốc

"Hình ảnh và thông tin cá nhân của cô đã bị rò rỉ. Hãy tham gia nhóm chat để thảo luận về chuyện này nào", tin nhắn mà Heejin nhận được trên ứng 🥀dụng Telegram cuối tuần trước có đoạn.

Khi 𝄹tham gia nhóm chat, Heejin nhận được một bức ảnh cô chụp vài năm trước, khi cô còn đi học, ngay sau đó là một bức ảnh y hệt, nhưng đã bị chỉnh sửa để loại bỏ quần áo trên người.

Quá sợ hãi, Heejin không trả lời bất cứ tinℱ nhắn nào, nhưng các hình ảnh l🍷iên tục được gửi đến. Trong nhiều hình, gương mặt nữ sinh này bị ghép vào những cảnh khiêu dâm bằng công nghệ deepfake tinh vi.

Deepfake là côn💎g nghệ sử dụng AI ph📖ân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo và chỉnh sửa để cho ra ảnh hoặc video trông như thật về người đó, thậm chí tái tạo được cả giọng nói.

"Tôi cực kỳ sợ hãi, cảm thấy r😼ất cô đơn", Heejin nói.

Nhưng nữ sinh viên này không 🦹đơn độc. Cảnh sát Hàn Quốc đang điều tra các đường dây tạo nội dung nhạy cảm bằng công nghệ deepfake tại hai trường đại học lớn của quốc 🙈gia.

Tin rằng vấn nạn này phủ bóng rộng hơn, phóng viên Ko Narin của báo Hankyoreh đã tiến hành một phóng sự điều tra và phát hiện hàng chục nhóm chat trên Telegram, nơi người dùng liên tục gửi ảnh phụ nữ họ quen để AI chuyển thể thành ảnh, video൲ nhạy c♓ảm. Ngoài sinh viên đại học, các nhóm này còn nhắm vào nữ sinh phổ thông trung học, thậm chí trung học cơ sở.

Một số phòng chat còn nêu rõ thành viên cần gửi trê♓n 4 ảnh của một người, kèm tên, tuổ𝓰i, nơi ở của người đó.

"Các thành viên đăng ảnh phụ nữ họ quen lên nhóm mỗi phút, yêu cầu biến chúng thành deepfake khiêu dâm. Tôi sốc nặng khi tội ác này được thực hiện có hệ thống, có tổ chức như thế nào. Kinh hoàng nhất là một nhóm nhắm vào trẻ vị thành niên, với hơn 2.000 thành viên", phóng viên Koꦓ Narin nói.

Bài báo của Narin trên Hankyoreh gây chấn động toàn quốc. Ngày 2/9, cảnh sát Hàn Qu🐲ốc thông báo phối hợp với các bên, trong đó có Pháp, để mở rộng cuಌộc điều tra Telegram.

Nhà sáng lập kiêm CEO Telegram bị bắt ở Pháp cuối tháng trước, với cáo buộc không ngăn chặn nội dung cực đoan, bất hợp pháp trên nền tảng. Telegram nổi tiếng về công nghệ mã hóa đầu cuối (chỉ nh⛎ững người liên lạc với nhau có thể đọc được tin nhắn) và cam kết bảo vệ quyền riêng tư của người dùng.

Các nhà hoạt động xã hội Hàn Quốc cũng bắt đầu tìm hiểu về đường dây tạo nội dung nhạy cảm bằng deepfake trên Telegram sau bài báo của Nar🐬in.

Vài ngày sau,🌞 hơn 500 trường học, đại học trên toàn quốc được xác định là mục tiêu của đường dây, trong đó nhiều nạn nhân dưới 16 tuổi, phần lớn nghi phạm cũng là trẻ vị thành niên.

Phụ nữ, thiếu nữ khắp nơi cũng bắt đầu xóa ảnh cá nhân khỏi mạng xã hội, hoặc đóng hoàn toàn tài khoản khi quy mô cuộc khủng hoảng ngày càng được phơi bày. "Chúng tôi rất thất vọng và tức giận vì phải hạn chế hành vi trên mạng xã hội trong khi không làm gì sai", Ah-eun, sinh viên có bạn là nạn nhân, ꦬnói.

Bạn học của Ah-eun đã trình báo cảnh sá🐓t sau khi phát hiện những hình ảnh nhạy cảm ghép khuôn mặt mình trên mạng, nhưng cảnh sát chỉ khuyên cô không quá bận tâm,♌ bởi "rất khó bắt được thủ phạm". "Họ nói người đó thậm chí còn không phải tội phạm, bởi các bức ảnh đó là giả", Ah-eun nhớ lại.

Các nhà hoạt động c🔴ũng cáo buộc giới chức "buông lỏng" quản lý nạn khiêu dâm trên T𓆉elegram trong thời gian quá dài.

Năm 2019, giới chức Hàn Quốc phá𝐆t hiện đường dây tạo và chia sẻ hình ảnh nhạy cảm của phụ nữ và trẻ em trên Telegram. Cảnh sát khi đó đã 7 lần yêu cầu Telegram giúp đỡ điều tra, nhưng nền tảng này đều làm ngơ. Thủ phạm đứn♚g sau đường dây bị kết án 40 năm tù, nhưng Seoul không đưa ra bất kỳ án phạt hay chính sách quản lý nào đối với Telegram.

"Họ kết án kẻ chủ mưu, nhưng bỏ mặc những thứ khác", phóng viên Marin nhận xéꩲt.

Kể từ khi cuộc khủng hoảng deepfake khiêu dâm trên Telegram bùng phát gần đây, số lượng học sinh, phụ huynh báo ಌcáo bị lạm dụng tăng vọt💃.

Năm 2023, Trung tâm Hỗ trợ Nạn nhân Tình dục Trực tuyến Hàn Quốc (ACOSAV) đã tư vấn cho 86 nạn nhân vị thành niên. Con số này tăng đến 238 nạn nhân ♛trong 8 tháng đầu năm.

Chỉ trong tuần trước, ACOSAV ghi ๊nhận thêm 64 trẻ vị thành niên lên tiến🍃g, khiến các nhân viên phải làm việc, tư vấn suốt ngày đêm.

"Đây là tình huống khẩn cấp toàn diện, tình hình như t🐓hời chiến vậy", Park Seong-hye, lãnh đạo trung tâm, nói. "Công nghệ deepfake hiện tại đã tạo ra số lượng nội dung nhạy cảm lớn hơn trước rất nhiều, không có dấu hiệu suy giảm".

Giới chức đã triệt phá nhiều phòng🐷 chat, nhưng ghi nhận thêm nhiều phòng mới thay thế, trong đó có một phòng chuyên nhắm vào các phóng viên, nhà báo. Điều này khiến Ko Narin mất ngủ nhiều đêm. "Tôi liên tục kiểm tra xem có ảnh của mình không", Marin nói.

Trong khi đó, các nữ sinh Hàn Quốc bắt đầu nghi ngờ người quen, bạn học khác giới của mình. "H꧃iện không thể chắc chắn ai đang phạm tội ác này sau lưng mà tôi không biết. Tôi trở nên cực kỳ cảnh giác khi tương tác với mọi người. Điều này không tốt chút nào", sinh viên Ah-un cho hay.

Đức Trung (Theo BBC, AP, KoreaTimes)