Sự phát triển và tiếp thu liên tục của công nghệ có nghĩa là những kẻ lừa đảo không chỉ gây ra mối đe dọa cho những người không biết hoặc dễ bị tổn thương, mà ngay cả những người tiêu dùng thận trọng cũng có nguy cơ bị tổn thất tài chính lớn do gian lận mà AI cung cấp.
Gian lận tinh vi
Alex West, chuyên gia về gian lận ngân hàng và thanh toán tại Công ty Tư vấn PwC cho biết, việc xác định quy mô sử dụng AI của những kẻ lừa đảo là một nhiệm vụ khó khăn.
“Những kẻ lừa đảo đã rất thành công và có thể là họ không cần sử dụng loại công nghệ này hoặc có thể là họ đang sử dụng AI và chúng tôi không thể phân biệt được khi nào AI được sử dụng…Nhưng rõ ràng AI sẽ thúc đẩy sự gia tăng các nỗ lực lừa đảo tinh vi hơn”, ông cho biết.
Steve Cornwell, người đứng đầu bộ phận rủi ro gian lận tại ngân hàng TSB cho biết, mức độ phức tạp ngày càng tăng của công nghệ là mối lo ngại lớn đối với các ngân hàng.
“Nếu xem xét về cách AI tạo sinh đang phát triển, thì còn bao lâu nữa giải pháp AI đó có thể trò chuyện theo thời gian thực với bạn bằng cách sử dụng giọng nói giả tạo?”, ông cho biết.
Số liệu từ cơ quan thương mại ngành ngân hàng từ UK Finance cho thấy một xu hướng đáng hoan nghênh, với tổn thất do gian lận trong năm 2023 đã giảm 8% so với cùng kỳ năm 2022. Nhưng một chính trị gia cấp cao giấu tên nói rằng, việc tăng cường áp dụng AI có thể đảo ngược xu hướng đó.
Dữ liệu từ Cifas - dịch vụ phòng chống gian lận phi lợi nhuận ở Anh - cũng cho thấy mối lo ngại. Trong khi dữ liệu từ năm 2022 cho thấy gian lận danh tính đã tăng gần 25%, thì báo cáo về các công cụ AI được sử dụng để thử và đánh lừa hệ thống của ngân hàng đã tăng 84%.
Stephen Dalton, Giám đốc tình báo tại Cifas cảnh báo: “Chúng tôi nhận thấy việc sử dụng hình ảnh, video và âm thanh deepfake ngày càng tăng trong quá trình ứng dụng, cùng với danh tính giả được xác định do quá trình kiểm tra sự sống động hiện đang được thực hiện ở giai đoạn truy cập ứng dụng".
Phát biểu tại Davos hôm thứ Tư (17/1), Mary Callahan Erdoes, người đứng đầu bộ phận quản lý tài sản của JPMorgan cho biết, việc tội phạm mạng sử dụng AI là một mối lo ngại lớn. Ngân hàng đã chi 15 tỷ USD hàng năm cho công nghệ trong những năm gần đây và tuyển dụng 62.000 kỹ sư công nghệ, trong đó nhiều người chỉ tập trung vào việc chống lại sự gia tăng của tội phạm mạng.
“Những kẻ lừa đảo ngày càng thông minh hơn, khôn ngoan hơn, nhanh nhẹn hơn, ranh ma hơn, tinh quái hơn”, bà cho biết.
PwC và Stop Scams cũng xác định các video được làm giả, hay còn gọi là deepfake, là một rủi ro lớn. Henry Ajder, một chuyên gia về truyền thông do AI tạo ra cho biết, công nghệ mới chỉ xuất hiện vào năm 2019 này đã nhanh chóng phát triển.
Andrew Bud, giám đốc điều hành và người sáng lập nhà cung cấp xác minh danh tính trực tuyến iProov cho biết, chất lượng của những video giả này đã được cải thiện đáng kể. Ông chỉ ra một nghiên cứu gần đây cho thấy hơn 3/4 số người tham gia không thể xác định được các tác phẩm này là giả.
“Các tác phẩm deepfake chất lượng tốt có giá khoảng 150 USD trên web đen…Chúng hiện đang có cả một chuỗi cung ứng đang phát triển gian lận được hỗ trợ bởi AI, với các bộ phận R&D xây dựng các công cụ tinh vi và kiếm tiền từ chúng trên web đen”, ông cho biết.
Natalie Kelly, giám đốc rủi ro của Visa châu Âu cảnh báo rằng có một loạt các hệ thống tập trung vào tội phạm, chẳng hạn như WormGPT, FraudGPT và DarkBART. “Ngày nay thật khó để phân biệt đâu là hàng thật đâu là hàng giả”, bà cho biết.
Bằng cách sử dụng những công cụ có sẵn trên web đen và liên lạc qua các diễn đàn hack và ứng dụng nhắn tin chuyên dụng, tội phạm có thể cung cấp dịch vụ viết phần mềm độc hại hoặc email lừa đảo nâng cao.
Trong khi đó, Meta cho biết quảng cáo deepfake không được phép trên nền tảng của họ và họ sẽ xóa nội dung đó khi nó được chú ý, đồng thời cho biết Meta đang “không ngừng làm việc để cải thiện hệ thống của chúng tôi”.
Chính sách thông tin sai lệch của YouTube cũng cấm các video bị chỉnh sửa hoặc bị thao túng. Nền tảng này đã thông báo vào năm ngoái rằng họ sẽ bắt đầu yêu cầu người sáng tạo công bố tài liệu thực tế đã được thay đổi hoặc do AI tạo ra.
Chống lại gian lận bằng AI
Tình hình không hoàn toàn ảm đạm. Mặc dù việc sử dụng AI của những kẻ lừa đảo đang gia tăng, nhưng các tổ chức từ ngân hàng, Visa và Mastercard cho đến các công ty công nghệ chuyên dụng cũng đang áp dụng AI.
“Nếu mắt người không thể biết được nó có phải là thật hay không thì trò chơi vẫn chưa kết thúc…Đó là một trò chơi mèo vờn chuột và chúng tôi đang phát triển nhanh như những kẻ xấu để luôn dẫn đầu”, ông Andrew Bud cho biết.
Ông cho biết công nghệ của iProov được thiết kế để giúp chống lại các trò lừa đảo và các hành vi giả mạo khác, đã được các khách hàng bao gồm Dịch vụ kỹ thuật số của Chính phủ Anh và các ngân hàng lớn ở Nam Mỹ sử dụng.
Một công ty khởi nghiệp khác cũng sử dụng AI để chống gian lận là Catch có trụ sở tại Mỹ, nhằm mục đích giúp đỡ những người trưởng thành dễ bị tổn thương bằng cách phát hiện các vụ lừa đảo qua email, giải thích các cảnh báo nguy hiểm và đề xuất các bước tiếp theo.
AI cũng đang được các ngân hàng sử dụng để hỗ trợ đội ngũ nhân viên đánh giá các vi phạm tiềm ẩn đối với các quy định chống rửa tiền.
Gudmundur Kristjansson, người sáng lập và giám đốc điều hành của công ty fintech Lucinity cho biết: “Có rất nhiều công ty nhỏ rất thú vị đang xuất hiện trong lĩnh vực hiểu khách hàng. Chúng tôi đang thực hiện nhiều bước phát triển với AI tạo sinh”.
Một trong những sản phẩm của Lucinity đã lấy dữ liệu và chuyển đổi thành định dạng dễ đọc, tăng tốc quy trình giám sát giao dịch vốn mang tính thủ công cao.
Nhưng ngay cả những tiến bộ này cũng có thể không đủ khả năng chống lại một số mảng đang bị tấn công.
“Đối với giọng nói, ngày càng rõ ràng là không có biện pháp bảo vệ nào, vì lượng dữ liệu nhỏ trong các tệp âm thanh khiến các công ty công nghệ khó phân biệt được đâu là thật đâu là giả”, ông Andrew Bud cho biết.
