CEO OpenAI Sam Altman đã cảnh báo các giám đốc điều hành phố Wall rằng những kẻ có ý đồ xấu có thể khai thác công nghệ xác thực ID giọng nói số để lừa đảo người tiêu dùng thông qua việc thực hiện các giao dịch chuyển tiền lớn, tạo ra cuộc khủng hoảng lừa đảo sắp xảy ra.
“Tôi rất lo lắng rằng chúng ta đang đối mặt với một cuộc khủng hoảng lừa đảo đáng kể sắp tới,” Altman phát biểu tại hội nghị quy định ngân hàng do Federal Reserve tổ chức hôm thứ Ba.
Trong phiên thảo luận được điều hành bởi Michelle Bowman, Phó chủ tịch giám sát của Federal Reserve, Altman cho biết một trong những mối quan ngại lớn nhất của ông là việc một số tổ chức tài chính chấp nhận ID giọng nói số làm phương thức xác thực để ai đó có thể di chuyển một lượng tiền lớn.
Ông nhấn mạnh mối lo ngại về việc xác thực giả mạo, nói rằng “một kẻ xấu nào đó sẽ phát hành nó – đây không phải là điều quá khó thực hiện. Điều này sẽ xảy ra rất, rất sớm.”
Đây cũng không phải là mối quan ngại mới – các chuyên gia trong ngành đã đưa ra cảnh báo về vấn đề này trong nhiều năm. Vào tháng 6 năm 2024, Hiệp hội Điều tra viên Gian lận Được Chứng nhận (ACFE), tổ chức chống gian lận lớn nhất thế giới, đã thảo luận về cách trí tuệ nhân tạo có thể được sử dụng để sao chép giọng nói của ai đó “với độ chính xác đáng kinh ngạc.”
“Công nghệ này sử dụng các thuật toán phức tạp và mạng thần kinh để phân tích và bắt chước các mẫu giọng nói, âm sắc và nhịp điệu của một cá nhân mục tiêu. Trong khi deepfake bắt đầu với nội dung hình ảnh, chẳng hạn như video giả của các nhân vật nổi tiếng hoặc chính trị gia, thì sự tiến bộ trong deepfake âm thanh hiện là một mối quan ngại cấp bách,” ACFE viết, lưu ý rằng việc lạm dụng giọng nói được tạo bởi AI có thể dẫn đến những hậu quả nghiêm trọng, bao gồm các giao dịch tài chính trái phép.
Tại Hội nghị RSA 2025 ở San Francisco đầu năm nay, hàng chục nghìn chuyên gia an ninh mạng và công nghệ đã tụ họp để thảo luận về cách AI đang nhanh chóng định hình lại bối cảnh an ninh mạng.
Trong hội nghị, các cuộc thảo luận bao gồm cách công nghệ không chỉ đang tăng tốc độ của các cuộc tấn công mạng, với tin tặc thường xuyên đột nhập vào hệ thống trong vòng chưa đầy một giờ, mà còn mang lại cho tội phạm những cách thức mới để tạo ra các cuộc tấn công có tính thuyết phục cao và được cá nhân hóa ở “quy mô chưa từng có”, theo công ty tư vấn McKinsey.
“Khả năng của tin tặc trong việc sử dụng các công cụ AI – từ tạo email lừa đảo thuyết phục, trang web giả, và thậm chí cả video deepfake đến tiêm các lời nhắc hoặc mã độc hại – cho phép tội phạm mạng tạo ra các thông điệp và phương pháp cá nhân hóa, thực tế để vượt qua các cơ chế phát hiện truyền thống,” McKinsey nói trong bài đăng blog tháng 5 năm 2025 có tiêu đề “AI là mối đe dọa lớn nhất – và phòng thủ – trong an ninh mạng ngày nay.”
Để phát hiện, ngăn chặn và dừng việc mạo danh liên quan đến AI, Ủy ban Thương mại Federal (FTC) cho biết họ đã thực hiện một số biện pháp phòng ngừa, chẳng hạn như hoàn thiện quy tắc vào năm 2024 để chống lại việc mạo danh chính phủ và doanh nghiệp. Cơ quan này cũng đã khởi động thử thách nhân bản giọng nói nhằm phát triển ý tưởng bảo vệ người tiêu dùng bằng cách phát hiện và ngăn chặn việc lạm dụng phần mềm nhân bản giọng nói bởi những người dùng trái phép, theo FTC.
Theo: Fox Business