Theo Cục An toàn thông tin, hệ thống tự động quảng cáo với những nội dung được tạo ra bởi AI đã trở thành yếu tố để những tên tội phạm mạng vượt qua được hàng rào bảo mật cũng như những chính sách mà YouTube đặt ra, khiến cho nền tảng này trở thành không gian hoạt động hoàn hảo của những tên lừa đảo.
Lừa đảo qua gọi video giả bằng Deepfake có dấu hiệu ngày càng tăng và tinh vi.
Trong đó, thủ thuật được các đối tượng lừa đảo sử dụng phổ biến trên nền tảng YouTube là tạo dựng các nội dung giả mạo. Bất kể là những đoạn video có thật hoặc được tạo ra bởi AI, các đối tượng tội phạm đều có thể sử dụng nhằm thu hút và điều hướng người dùng vào nhiều mục đích khác nhau. Nội dung video lừa đảo đáng chú ý trong thời gian gần đây là những đoạn video đã được chỉnh sửa bởi công nghệ Deepfake nhằm mạo danh một ai đó nổi tiếng và có tầm ảnh hưởng để lừa đảo chiếm đoạt tiền, tài sản.
Đối tượng sử dụng công nghệ AI để giả mạo giọng nói, quảng bá và dẫn dụ người dùng sử dụng những dịch vụ có chứa mã độc. Với sự phát triển của công nghệ, những video kể trên đều rất công phu, khiến nhiều người khó có thể phát hiện được.
Đại diện Cục An toàn thông tin cho rằng: Khi công nghệ AI được phát triển, việc phát hiện, phân biệt giữa nội dung thật và giả trên không gian mạng sẽ trở nên khó khăn hơn. Bất kỳ ai cũng có thể trở thành mục tiêu, nạn nhân tấn công mạng của tội phạm sử dụng công nghệ AI. Tuy nhiên, có trở thành nạn nhân hay không, còn phụ thuộc vào việc trang bị kiến thức và thông tin cần thiết của mỗi người.
Tình trạng lừa đảo sử dụng công nghệ AI này không chỉ xuất hiện tại Việt Nam mà còn có ở nhiều nước trên thế giới. Hiện nay các cơ quan, tổ chức và các tập đoàn công nghệ lớn đang cùng tìm biện pháp, giải pháp kỹ thuật để phát hiện, ngăn chặn tận gốc.
Hiện nay, biện pháp quan trọng là đẩy mạnh tuyên truyền, nâng cao nhận thức của người dân về các phương thức, thủ đoạn và cách thức để nhận biết, đối phó với hình thức giả mạo tinh vi này, giúp làm giảm và hạn chế tác động của deepfake tới các hoạt động trên không gian mạng, chủ động đưa ra cảnh báo rộng rãi trên các phương tiện truyền thông đại chúng khi có những diễn biến, hình thức lừa đảo mới.
Về biện pháp phòng tránh, đại diện Cục An toàn thông tin cho rằng: Trước nguy cơ cả hình ảnh và giọng nói đều có thể làm giả mạo, người dân phải luôn có ý thức xác minh; Đừng vội truy cập bất kỳ đường link nào để đề phòng nguy cơ bị hack tài khoản ngân hàng, tài khoản mạng xã hội; Hạn chế sự hiện diện trên mạng xã hội, hoặc đặt tài khoản của mình ở chế độ riêng tư, chỉ chấp nhận yêu cầu từ những người tin tưởng để phòng ngừa, ngăn chặn việc dữ liệu hình ảnh, âm thanh của mình bị sao chép. Việc hạn chế quyền truy cập vào giọng nói và hình ảnh cá nhân giúp loại trừ khả năng hình ảnh bị lợi dụng; Quản lý chặt chẽ thông tin cá nhân của mình. Tuyệt đối không đưa lên mạng các thông tin như số căn cước công dân, địa chỉ nhà riêng, ngày sinh, số điện thoại, tên của con cái...
Bên cạnh đó, nếu nhận được các cuộc gọi đe doạ tống tiền bằng hình ảnh hay video nhạy cảm, người dân cần bình tĩnh, xác minh và tìm hiểu kĩ nguồn gốc của hình ảnh, video. Đồng thời, người dân cần nâng cao nhận thức về những vấn đề an toàn không gian mạng, tìm hiểu các dấu hiệu nhận biết về hình thức lừa đảo AI để tránh bị sập bẫy chiếm đoạt tài sản hay lộ lọt thông tin cá nhân phục vụ vào mục đích xấu. Không nên truy cập vào các địa chỉ website lạ, không cài đặt các phần mềm lạ không rõ nguồn gốc, những phần mềm đòi hỏi yêu cầu cấp quyền truy cập cao vào thông tin người dùng, truy cập thẻ nhớ, danh bạ, vị trí, chụp ảnh,…
Nếu bị làm giả Deepfake hay lừa đảo trực tuyến nói chung, người dùng nên thông báo ngay lập tức cho mọi người biết và báo cơ quan công an tại nơi cư trú.