29/6/2024 (TinAI.vn) – Một lỗ hổng bảo mật AI mới được Microsoft phát hiện có thể gây ra rủi ro đáng kể cho các nền tảng thương mại điện tử, dịch vụ tài chính và hoạt động hỗ trợ khách hàng trong các ngành.
Microsoft đã tiết lộ chi tiết về một kỹ thuật có tên “Skeleton Key”, có thể vượt qua các biện pháp bảo vệ đạo đức được tích hợp trong các mô hình AI mà các doanh nghiệp sử dụng trên toàn thế giới.
🎯 Xem thêm
* Tặng Chatbot AI sử dụng GPT-4o MIỄN PHÍ 100% của OpenAI
1. Nhóm Zalo ứng dụng AI trong kinh doanh
2. Nhóm Zalo ứng dụng AI trong giáo dục
3. Nhóm Zalo Hướng dẫn Học sinh – Sinh viên sử dụng AI hiệu quả4. Cộng đồng Facebook Ứng dụng AI trong kinh doanh
5. Cộng đồng Facebook ứng dụng Open AI – ChatGPT trong giáo dục
“Skeleton Key hoạt động bằng cách sử dụng chiến lược nhiều lượt (hoặc nhiều bước) để khiến mô hình bỏ qua các rào cản của nó,” Microsoft giải thích trong một bài đăng trên blog . Lỗ hổng này có thể cho phép người dùng độc hại thao túng hệ thống AI để tạo ra nội dung có hại, cung cấp lời khuyên tài chính không chính xác hoặc xâm phạm quyền riêng tư dữ liệu của khách hàng.
Lỗ hổng này ảnh hưởng đến các mô hình AI từ các nhà cung cấp lớn, bao gồm Meta, Google, OpenAI và các nhà cung cấp khác, được sử dụng rộng rãi trong các ứng dụng thương mại. Lỗ hổng bảo mật này làm dấy lên mối lo ngại về tính toàn vẹn của hoạt động kỹ thuật số tại các nhà bán lẻ trực tuyến, ngân hàng và trung tâm dịch vụ khách hàng sử dụng chatbot AI và công cụ đề xuất.
Narayana Pappu , Giám đốc điều hành tại Zendata , chia sẻ với truyền thông: “Đây là một vấn đề quan trọng vì tác động lan rộng trên nhiều mô hình nền tảng”. “Để ngăn chặn điều này, các công ty nên triển khai lọc đầu vào/đầu ra và thiết lập giám sát sự lạm dụng. Đây cũng là cơ hội để đưa ra biện pháp loại trừ nội dung có hại khỏi các phiên bản phát hành mô hình nền tảng trong tương lai.”
Bảo vệ thương mại do AI thúc đẩy
Để ứng phó với mối đe dọa này, Microsoft đã triển khai các biện pháp bảo mật mới trong các dịch vụ AI của mình và tư vấn cho các doanh nghiệp về cách bảo vệ hệ thống của họ.
Công ty cho biết: “Chúng tôi khuyên bạn nên đặt ngưỡng hạn chế nhất để đảm bảo khả năng bảo vệ tốt nhất trước các hành vi vi phạm an toàn”, đồng thời nhấn mạnh tầm quan trọng của các biện pháp bảo mật nghiêm ngặt đối với các doanh nghiệp xử lý dữ liệu khách hàng nhạy cảm và giao dịch tài chính.
Các bước bảo vệ này rất quan trọng để duy trì niềm tin của người tiêu dùng vào trải nghiệm mua sắm do AI hỗ trợ, dịch vụ tài chính được cá nhân hóa và hệ thống hỗ trợ khách hàng tự động.
Sarah Jones , nhà phân tích nghiên cứu tình báo về mối đe dọa mạng tại Critical Start , cho biết mối nguy hiểm của Skeleton Key là nó có thể đánh lừa các mô hình AI tạo ra nội dung có hại.
Cô nói: “Bằng cách cung cấp cho mô hình AI một chuỗi lời nhắc được tạo ra một cách khéo léo, những kẻ tấn công có thể thuyết phục mô hình này bỏ qua các hạn chế về an toàn”. “Những kẻ xấu có thể sử dụng chức năng này để tạo mã độc, kích động bạo lực hoặc ngôn từ kích động thù địch hoặc thậm chí tạo ra các tác phẩm giả mạo sâu cho mục đích độc hại. Nếu nội dung do AI tạo ra dễ bị thao túng, niềm tin vào công nghệ có thể bị xói mòn”.
Jones cho biết các công ty phát triển hoặc sử dụng các mô hình AI tạo ra cần áp dụng phương pháp phòng thủ theo lớp để giảm thiểu những rủi ro này. Một cách là triển khai các hệ thống lọc đầu vào để phát hiện và chặn các lời nhắc có ý định xấu. Một phương pháp khác là lọc đầu ra, trong đó hệ thống kiểm tra nội dung do AI tạo ra để ngăn chặn việc phát tán tài liệu có hại. Ngoài ra, các công ty nên cẩn thận tạo ra các lời nhắc được sử dụng để tương tác với AI, đảm bảo chúng rõ ràng và bao gồm các biện pháp bảo vệ.
“Việc lựa chọn các mô hình AI có khả năng chống lại sự thao túng cũng rất quan trọng”, Jones cho biết. “Cuối cùng, các công ty nên liên tục theo dõi các hệ thống AI của mình để tìm dấu hiệu sử dụng sai và tích hợp các giải pháp bảo mật AI với các khuôn khổ bảo mật rộng hơn. Bằng cách thực hiện các bước này, các công ty có thể xây dựng các hệ thống AI mạnh mẽ và đáng tin cậy hơn, ít bị thao túng và sử dụng sai hơn”.
Tác động đến việc áp dụng AI trong kinh doanh
Việc phát hiện ra lỗ hổng Skeleton Key rất quan trọng đối với việc áp dụng AI trong thế giới kinh doanh. Nhiều công ty đã nhanh chóng tích hợp AI vào hoạt động của mình để cải thiện hiệu quả và trải nghiệm của khách hàng.
Chẳng hạn, các nhà bán lẻ lớn đã sử dụng AI để cá nhân hóa đề xuất sản phẩm, tối ưu hóa chiến lược giá và quản lý hàng tồn kho. Các tổ chức tài chính đã triển khai AI để phát hiện gian lận, chấm điểm tín dụng và tư vấn đầu tư. Sự xâm phạm tiềm tàng của các hệ thống này có thể gây ra hậu quả sâu rộng đối với hoạt động kinh doanh và niềm tin của khách hàng.
Mối lo ngại về bảo mật này có thể tạm thời làm chậm quá trình triển khai AI khi các công ty đánh giá lại các giao thức bảo mật AI của họ. Các doanh nghiệp có thể cần đầu tư nhiều hơn vào các biện pháp bảo mật AI và tiến hành kiểm tra kỹ lưỡng các hệ thống AI hiện có của họ để đảm bảo chúng không dễ bị tấn công như vậy.
Tiết lộ này nhấn mạnh sự cần thiết phải liên tục cảnh giác và thích ứng trước khả năng AI ngày càng phát triển. Khi AI ngày càng được nhúng sâu hơn vào thương mại, việc nhanh chóng xác định và giảm thiểu rủi ro bảo mật sẽ rất quan trọng để duy trì tính toàn vẹn của hoạt động kinh doanh kỹ thuật số.
Đối với người tiêu dùng, sự phát triển này như một lời nhắc nhở hãy thận trọng khi tương tác với các hệ thống hỗ trợ AI, đặc biệt khi chia sẻ thông tin nhạy cảm hoặc đưa ra quyết định tài chính dựa trên các khuyến nghị của AI.
Xem chi tiết báo cáo về báo cáo lỗ hổng bảo mật AI của Microsoft tại đây
Khi bối cảnh AI phát triển, các doanh nghiệp sẽ phải đối mặt với thách thức khai thác tiềm năng của AI trong khi vẫn duy trì các biện pháp bảo mật mạnh mẽ. Lỗ hổng Skeleton Key nhấn mạnh sự cân bằng tinh tế giữa đổi mới và bảo mật trong thế giới thương mại do AI thúc đẩy đang phát triển nhanh chóng.
🎯 Xem thêm
* Tặng Chatbot AI sử dụng GPT-4o MIỄN PHÍ 100% của OpenAI
1. Nhóm Zalo ứng dụng AI trong kinh doanh
2. Nhóm Zalo ứng dụng AI trong giáo dục
3. Nhóm Zalo Hướng dẫn Học sinh – Sinh viên sử dụng AI hiệu quả4. Cộng đồng Facebook Ứng dụng AI trong kinh doanh
5. Cộng đồng Facebook ứng dụng Open AI – ChatGPT trong giáo dục
Phương Uyên
