Thời gian gần đây, mạng xã hội xuất hiện trào lưu mới là tạo ảnh bằng trí tuệ nhân tạo (tức AI). Có nhiều nền tảng mạng xã hội và ứng dụng xuất hiện phục vụ cho trào lưu này. Nhưng ít người biết về nguy cơ, hậu quả diễn ra sau đó.

Trên thực tế, dù người dùng sau khi thu về ảnh đã xử lý và chỉ dùng các ảnh đã xử lý này để thay avatar trên mạng. Tuy nhiên, các hình ảnh gốc, phần lớn là ảnh chụp cận mặt về bản chất đã được tải lên và có thể vẫn lưu trữ tại hệ thống máy chủ của các nhà cung cấp dịch vụ. Việc tập trung các hình ảnh này tại một nơi sẽ tiềm ẩn nguy cơ bị lộ lọt, tấn công bởi hacker.

Cục An toàn Thông tin (Bộ Thông tin và Truyền thông) cho biết, việc sử dụng các ứng dụng chỉnh sửa ảnh anime và cung cấp hình ảnh khuôn mặt cá nhân cho ứng dụng tiềm ẩn rất nhiều rủi ro về an toàn thông tin, nguy cơ lộ lọt thông tin cá nhân. Với công nghệ trí tuệ nhân tạo, dữ liệu khuôn mặt có thể được sử dụng tạo các hình ảnh, video giả bạn bè, người thân, từ đó thực hiện các cuộc gọi lừa đảo deepfake. Đây cũng là một trong những chiêu lừa đảo trực tuyến phổ biến thời gian qua, nhất là khi có sự hỗ trợ của công nghệ AI.

Ngoài ra, hình ảnh khuôn mặt cũng có thể được các đối tượng xấu sử dụng để xác thực các tài khoản thanh toán, từ đó dễ dàng chiếm đoạt tiền trong tài khoản người dùng.

Mới đây, Công an TP.HCM phát đi cảnh báo về việc mất an toàn thông tin, mất tài sản, tiếp tay cho hoạt động tội phạm công nghệ từ các ứng dụng tạo ảnh hoạt hình đang là trào lưu trên mạng xã hội hiện nay. Công an TP cũng chỉ ra 3 nguy cơ lộ lọt thông tin khi trao quyền tiếp cận dữ liệu cá nhân cho các ứng dụng này. Một là lộ, lọt thông tin cá nhân kèm theo hình ảnh (có các thông tin về thiết bị, thời gian, vị trí chụp ảnh), thông tin trên thiết bị điện tử do tải và cấp một số quyền truy cập thiết bị cho ứng dụng.

Hai là người dùng bị thu thập các bức ảnh chân dung, từ đó đối tượng xấu sử dụng tạo video giả mạo thông qua công nghệ Deepfake, thực hiện cuộc gọi Video call lừa đảo cho người thân của nạn nhân.

Ba là người dùng bị lợi dụng các hình ảnh chân dung để đánh cắp thông tin tài khoản cá nhân có thiết bị xác lập tài khoản bằng khuôn mặt và một số nguy cơ mất an toàn thông tin khác.

Công an TP.HCM khuyến cáo, người dùng nên chọn lọc và sử dụng các phương thức, ứng dụng uy tín được các cơ quan có thẩm quyền đánh giá. Bên cạnh đó, người dùng phải đọc kỹ, hiểu về các điều khoản, yêu cầu trước khi cài đặt, sử dụng ứng dụng. Khi cài đặt bất kỳ ứng dụng nào, người dùng cần phải xem xét những quyền mà ứng dụng yêu cầu được truy cập.

Ngoài ra, Công an khuyến cáo, người dùng mạng xã hội hạn chế chia sẻ hình ảnh, thông tin, dữ liệu cá nhân trên các nền tảng mạng xã hội và đặc biệt không cung cấp những hình ảnh nhạy cảm, riêng tư cho mạng xã hội.