Đơn vị nghiên cứu AI Dessa cảnh báo chỉ trong vài năm tới (thậm chí có thể ngắn hơn), AI chỉ cần một đoạn ghi âm ngắn cũng có thể dựng được giọng nói hoàn chỉnh của một người.
Tháng Ba năm nay, nước Anh chứng kiến một vụ lừa đảo nghiêm trọng: CEO của một công ty năng lượng lớn tưởng như mình đang làm theo lệnh của cấp trên, chuyển hàng ngàn bảng Anh cho một bên thứ ba khác. Hóa ra giọng nói ra lệnh ấy xuất phát từ một cỗ máy, một hệ thống trí tuệ nhân tạo giả giọng nói do kẻ lừa đảo tạo nên.
Theo báo cáo từ Wall Street Journal (WSJ), giám đốc chi nhánh đã tưởng mình nhận cuộc gọi từ chủ tịch của công ty mẹ đặt tại Đức. Giọng nói Đức ấy đã yêu cầu chuyển 220.000 bảng Anh (tương đương 243.000 USD) cho một đầu mối hàng hóa tại Hungary. Euler Hermes Group SA, đơn vị bảo hiểm cho công ty bị hại cung cấp thông tin vụ việc nhưng từ chối chỉ đích danh ai đã mắc lừa.
Chuyên gia phát hiện lừa đảo Rüdiger Kirsch nói với WSJ rằng nạn nhân tưởng người gọi chính là người chủ của mình do người ở đầu dây bên kia có giọng Đức và có những “âm điệu” rất giống với CEO của công ty mẹ. Đây là lần đầu tiên Euler Hermes phải đối mặt với một vụ lừa đảo sử dụng công nghệ cao theo hình thức giả giọng nói.
Nạn nhân nhận được tổng cộng 3 cuộc gọi. Một khi giao dịch diễn ra sau cuộc gọi đầu tiên, nạn nhân nhận thêm một cuộc gọi nữa để báo tin (sai sự thật) rằng tiền đã bị hoàn trả. Rồi tên hacker gọi cuộc điện thoại thứ ba, yêu cầu chuyển đi một khoản tiền nữa. Giọng nói vẫn vậy, nhưng khi nhận thấy số điện thoại có nguồn gốc từ Áo, rồi kiểm tra thấy không có thông báo hoàn tiền nào, nạn nhân đã đặt dấu hỏi và không thực hiện yêu cầu chuyển tiền lần hai.
Những tháng gần đây, công nghệ giả giọng nói đã hoàn thiện hơn trước nhiều. Một số ví dụ được tung ra gần đây khiến người ta không khỏi hoài nghi tương lai của Internet sẽ ra sao; công ty nghiên cứu AI Dessa mới công bố giọng giả của Joe Rogan, một nghệ sĩ hài độc thoại và một người làm podcast nổi tiếng trên YouTube, nghe giống Joe Rogan thật một cách đáng kinh ngạc.
Những người thường xuyên xem chương trình của Joe Rogan cũng khó lòng phân biệt đâu là phiên bản thật.
Joe Rogan.
Lại nói về doanh nghiệp bị lừa tiền. Họ lần dấu được tiền tới một tài khoản Hungary, rồi phát hiện ra nó đã được chuyển tới Mexico rồi chia tới một loạt các ngân hàng nhỏ khác nằm rải rác khắp nơi. Chưa xác nhận được ai là kẻ đứng sau màn lừa đảo công nghệ cao này.
Dessa cũng đưa lời cảnh báo:
“Một vài năm tới (thậm chí có thể sớm hơn), chúng ta sẽ thấy công nghệ tiên tiến tới mức sẽ cần vài giây giọng nói để tái dựng một giọng giả y như thật của bất kỳ ai trên hành tinh này”.
Đáng tiếc là cảnh báo trên xuất hiện hai tháng sau thời điểm vụ lừa đảo bằng giọng nói giả diễn ra.
Công nghệ, hay cụ thể là khả năng của trí tuệ nhân tạo, quả là con dao hai lưỡi. Hẳn đây là một phần những lo ngại của Elon Musk.
