Quân đội Mỹ đã bắt đầu vòng đầu tiên của nỗ lực huy động nguồn lực từ cộng đồng để tìm ra “sự thiên vị” hay còn gọi là lỗi trong các mô hình trí tuệ nhân tạo (AI).
Bộ Quốc phòng Mỹ đã từng thực hiện các chương trình tương tự như Hack vào Lầu Năm Góc, để khám phá các lỗ hổng mạng của nơi này. Bây giờ, họ đang thực hiện một chương trình tương tự để tìm kiếm những sai sót trong các công cụ trí tuệ nhân tạo.
Chương trình mang tên là “tiền thưởng thiên vị AI” hay còn gọi là tìm kiếm lỗi, do Giám đốc Văn phòng Kỹ thuật số và AI ( CDAO ) dẫn đầu với sự hợp tác của ConductorAI, Bugcrowd và BiasBounty.AI, sẽ diễn ra từ ngày 29 tháng 1 đến ngày 29 tháng 2. Lầu Năm Góc công bố vào ngày 27/1.
Mọi người đến từ công chúng có thể đăng ký tham gia và có khả năng kiếm được phần thưởng tài chính cho những phát hiện của họ.
“Mục tiêu của chương trình tiền thưởng này nhằm tìm ra lỗi của các hệ thống trí tuệ nhân tạo và các các rủi ro chưa xác định trong các Mô hình ngôn ngữ lớn (LLM), đối tượng nhắm tới là các chatbot nguồn mở. Do đó chương trình có thể hỗ trợ giảm thiểu và kiểm soát những rủi ro đó một cách tốt hơn. Hoạt động này khuyến khích sự tham gia của công chúng (không cần kinh nghiệm viết mã) để phát hiện sự thiên vị / lỗi của các hệ thống AI và những người tham gia có thể kiếm được tiền thưởng dựa trên việc chấm điểm và đánh giá của ConductorAI-Bugcrowd, do DoD tài trợ,” theo một thông cáo báo chí mới đây.
Theo trang web sự kiện, tổng số giải thưởng sẽ được phân phối là 24.000 USD và kết quả cuộc thi sẽ được công bố trong tháng 3.
Khoản tiền thưởng vừa được đưa ra là một phần trong nỗ lực rộng lớn hơn của Lầu Năm Góc, tập trung vào mục tiêu mà bộ này gọi là chương trình “AI có trách nhiệm”, bao gồm các biện pháp bảo vệ để giảm thiểu rủi ro hạn chế các công cụ và vũ khí trang bị thuật toán nhân tạo sẽ đi chệch hướng.
Theo thông tin của ban tổ chức, DOD sẽ sớm có kế hoạch cho chương trình tìm kiếm phát hiện sự thiên vị / lỗi của các hệ thống AI thứ hai.
Bạn có thể tìm hiểu & đăng ký tham gia Giải thưởng tại đây
Trong một tuyên bố, Giám đốc Trí tuệ Nhân tạo và Kỹ thuật số Craig Martell cho biết kết quả của chương trình có thể “tác động mạnh mẽ” đến các chính sách AI và việc áp dụng công nghệ của Lầu Năm Góc trong tương lai.
Bộ cũng đã thành lập Lực lượng đặc nhiệm Lima để khám phá các trường hợp sử dụng AI tiềm năng cho quân đội.
Trung Hòa
