5/2/2024 (TinAI.vn) – AudioSeal là một hệ thống mới của Facebook Research được thiết kế để phát hiện âm thanh deepfake do AI tạo ra thông qua hình mờ không thể nhận ra. Khi khả năng tổng hợp giọng nói của AI được cải thiện, việc phân biệt giữa lời nói thật và giả của con người đã trở nên khó khăn, dẫn đến nguy cơ lạm dụng như sao chép giọng nói và giả mạo sâu. AudioSeal giải quyết vấn đề này bằng cách nhúng hình mờ vào giọng nói tổng hợp, cho phép xác định âm thanh được tạo ra từ công nghệ trí tuệ nhân tạo.
Các phương pháp phát hiện thụ động truyền thống đang trở nên không hiệu quả trước các công nghệ tổng hợp tiên tiến. Ngược lại, AudioSeal do Meta tạo ra sử dụng cách tiếp cận tích cực, đánh dấu giọng nói được tạo ra để thích ứng với những tiến bộ công nghệ. Nó bao gồm một bộ tạo để nhúng hình mờ và một máy dò để xác định âm thanh có hình mờ, cung cấp khả năng định vị chính xác và độ bền cao chống lại biến dạng âm thanh.
Mô hình hoạt động của hệ thống AudioSeal
AudioSeal vượt trội hơn các mô hình trước đó về tốc độ và hiệu quả phát hiện, mang lại khả năng khái quát hóa, bản địa hóa thao tác chính xác và khả năng chống lại các kỹ thuật chỉnh sửa mạnh mẽ. Tuy nhiên, nó cũng phải đối mặt với những thách thức như tính bảo mật, mối quan tâm về đạo đức và nhu cầu tiêu chuẩn hóa và sự đồng ý của người dùng. Bất chấp những tiến bộ của nó, AudioSeal là một phần trong nỗ lực rộng lớn hơn nhằm giải quyết những thách thức ngày càng tăng của phương tiện tổng hợp, nhấn mạnh tầm quan trọng của tính xác thực và thực hành đạo đức trong việc sử dụng AI.
Bạn có thể tham khảo:
Trung Hòa
