Tại trụ sở Cơ quan Cảnh sát quốc gia, Tổng thống Yoon Suk Yeol chỉ đạo cảnh sát tăng cường năng lực điều tra để theo kịp tốc độ phát triển nhanh chóng của công nghệ, đẩy nhanh quá trình phát triển các hệ thống nhận diện các nội dung giả mạo như việc sử dụng công nghệ deepfake và hợp tác với các cơ quan liên quan để xóa bỏ các loại tội phạm tình dục sử dụng kỹ thuật số.
Ông Yoon Suk Yeol cũng yêu cầu xử lý và trừng trị nghiêm các loại tội phạm gây nguy hiểm với dân thường và các nhóm dễ bị tổn thương trong xã hội, tội phạm bạo lực gia đình và lạm dụng trẻ em...;triển khai các biện pháp bảo vệ an toàn và hỗ trợ tâm lý cho các nạn nhân.
Các hoạt động phạm tội trở nên tinh vi và phức tạp khi AI bị sử dụng cho mục đích bất hợp pháp, từ tấn công khủng bố cho đến tống tiền, lừa đảo bắt cóc.
Đi liền với tiến bộ, AI tiềm ẩn nhiều vô vàn rủi ro và thách thức với những lo ngại về độ tin cậy của các hệ thống khác nhau, bao gồm dữ liệu, thuật toán và ứng dụng. Điều này đặc biệt đúng sau các sự cố của các nền tảng AI khác nhau được coi là thiên vị, phân biệt đối xử, thao túng hoặc bất hợp pháp.
Để AI được chấp nhận hoàn toàn và những lợi ích của AI được hiện thực hóa, người dân phải tin tưởng rằng AI đang được phát triển và sử dụng một cách có trách nhiệm.
Duy trì niềm tin này là điều cần thiết để chấp nhận và áp dụng AI trong xã hội. Để đạt được, các hệ thống AI phải được thiết kế và phát triển có trách nhiệm và minh bạch, đảm bảo không đi ngược lại các chuẩn mực xã hội.
Tỷ phú giàu nhất thế giới, Giám đốc điều hành Tesla Elon Musk đã từng cảnh báo rằng nếu không được kiểm soát, các hệ thống AI có thể dẫn đến "sự hủy diệt nền văn minh".
Duy trì niềm tin này là điều cần thiết để chấp nhận và áp dụng AI trong xã hội. Để đạt được điều này, các hệ thống AI phải được thiết kế và phát triển có trách nhiệm và minh bạch, đảm bảo không đi ngược lại các chuẩn mực xã hội.
4 năm trước, các nhà nghiên cứu tại Trường Đại học University College London đánh giá công nghệ deepfake sử dụng AI để tạo các video và hình ảnh giả mạo là "loại tội phạm dựa trên AI nguy hiểm nhất có thể xảy ra trong 15 năm tới".
31 chuyên gia từ học viện và cơ quan thực thi pháp luật đã đánh giá 18 loại tội phạm dựa trên AI với các tác hại tiềm ẩn và tính khả thi.
Công nghệ deepfake xuất hiện trong bối cảnh lo ngại về khả năng bị sử dụng sai mục đích trong các tội phạm nghiêm trọng. Tại Hàn Quốc, tội phạm lợi dụng công nghệ này đang gia tăng. Deepfake không chỉ được sử dụng trong các tội phạm tình dục gây tranh cãi mà còn trong việc phát tán thông tin giả mạo hoặc mạo danh người nổi tiếng để lừa đảo.
Các chuyên gia cho rằng mặc dù việc quản lý công nghệ là điều không thể, nhưng đã đến lúc phải áp dụng các giải pháp thay thế như tăng cường hợp tác quốc tế.
Theo Giáo sư danh dự Lim Jong In tại Khoa An ninh thông tin của Đại học Hàn Quốc, deepfake có thể gây nên bầu không khí ngờ vực trong xã hội, thậm chí có khả năng dẫn đến khủng hoảng dân chủ. Hợp tác quốc tế để kiểm soát tội phạm liên quan tới deepfake là điều cần thiết, như cách cộng đồng toàn cầu giải quyết tội phạm ma túy.