Lừa đảo bắt đầu khi kẻ lừa đảo thu thập thông tin về một người, bao gồm số điện thoại, tên và các thông tin cá nhân khác từ các nguồn công khai hoặc các cuộc tấn công mạng. Sau đó, chúng sử dụng AI để tạo ra tin nhắn giả mạo từ người thân hoặc bạn bè của nạn nhân. Những tin nhắn này có thể bao gồm các lời yêu cầu đơn giản như: "Hi Mum, it's me" (Chào mẹ, là con đây), và theo sau đó là yêu cầu chuyển tiền hoặc cung cấp thông tin nhạy cảm.
Những tin nhắn này không chỉ được tạo ra để trông giống như từ người thân, mà còn sử dụng ngữ điệu, thói quen nói chuyện của người đó. Trí tuệ nhân tạo đã đạt được mức độ phát triển cao đến nỗi chúng có thể phân tích dữ liệu về cách một người thường xuyên giao tiếp và tái tạo lại phong cách đó. Điều này khiến cho nạn nhân tin rằng đó là một tin nhắn thật và không nghi ngờ gì khi cung cấp thông tin cá nhân.
Theo báo cáo, một số nạn nhân đã mất một số tiền rất lớn từ những vụ lừa đảo này. Một số trường hợp ghi nhận số tiền bị lừa lên đến 1,5 triệu bảng Anh chỉ trong vài tháng. Các chuyên gia cho biết, vì mức độ tinh vi của các vụ lừa đảo này, không ít người dùng trở thành nạn nhân mà không hề biết mình đã bị lừa cho đến khi quá muộn.
Khi các cuộc tấn công kiểu này ngày càng gia tăng, các nhà nghiên cứu đang phát triển các phương pháp nhận diện tin nhắn giả mạo dựa trên AI để giúp người dùng nhận biết những dấu hiệu lừa đảo. Ngoài ra, các công ty công nghệ cũng đang phát triển các giải pháp bảo mật tiên tiến để bảo vệ người dùng khỏi các mối nguy hại từ các cuộc tấn công này.
AI có thể mang lại nhiều tiện ích nhưng cũng tạo ra một "khoảng trống" trong việc bảo vệ con người khỏi các cuộc tấn công tinh vi. Điều này cảnh báo rằng, trong khi chúng ta tận dụng công nghệ để cải thiện cuộc sống, chúng ta cũng cần cảnh giác và trang bị kiến thức về các mối đe dọa đang ngày càng trở nên phức tạp hơn.
