Ngày 8 tháng 1 năm 2024, Thống đốc New York, Kathy Hochul và Văn phòng Dịch vụ Công nghệ Thông tin New York (NY ITS) đã công bố hai sáng kiến lớn về trí tuệ nhân tạo (AI) sẽ tác động đến các tổ chức công và tư nhân ở New York và hơn thế nữa.
Đầu tiên, Thống đốc Hochul tuyên bố thành lập một “Liên minh AI” (Empire AI)mới như một phần trong đề xuất Nhà nước năm 2024 của bà. Liên minh này hợp nhất các nguồn tài nguyên máy tính và nguồn tài trợ thường xuyên cần thiết để hỗ trợ nghiên cứu AI và nhằm mục đích tạo ra một trung tâm công nghệ ở ngoại ô New York để “khai thác sức mạnh của trí tuệ nhân tạo và đảm bảo công nghệ này được sử dụng vì lợi ích công cộng”. Tổ chức này ban đầu sẽ bao gồm bảy tổ chức—Đại học Columbia, Đại học Cornell, Đại học New York (NYU), Viện Bách khoa Rensselaer, hệ thống Đại học Bang New York (SUNY), Đại học Thành phố New York (CUNY), Quỹ Simons —và sẽ nhận được 400 triệu USD từ tiểu bang, Quỹ Simons và Tom Secunda, người đồng sáng lập Bloomberg LP.
Thứ hai, theo chỉ đạo của thống đốc, NY ITS đã ban hành chính sách CNTT mới của tiểu bang về “Chấp nhận việc sử dụng công nghệ trí tuệ nhân tạo” (Acceptable Use of Artificial Intelligence Technologies) NYS-P24-001. Theo chính sách này, mọi hoạt động sử dụng AI ở cấp tiểu bang đều phải bao gồm:
- Giám sát con người
- Sự công bằng, bình đẳng và khả năng giải thích
- Tính minh bạch
- Đánh giá và quản lý rủi ro AI
- Kiểm soát quyền riêng tư
- Bảo vệ con người khỏi các vấn đề tiêu cực của AI
- Bảo vệ sở hữu trí tuệ
Bài học quan trọng
Về lâu dài, liên minh của thống đốc tìm cách thu hút các cơ hội vào New York bằng cách tạo thêm nhiều công việc đổi mới và AI lương cao cho người lao động của bang. Quan trọng hơn, trong ngắn hạn, chính sách của NY ITS sẽ buộc nhiều tổ chức phải nhanh chóng xây dựng một chương trình tuân thủ AI đầy đủ thay vì áp dụng thái độ “chờ xem” các động thái của chính quyền. Và đây là lý do tại sao 2 sáng kiến này sớm ra đời:
1. Ứng dụng rộng rãi
Chính sách của NY ITS không chỉ bao gồm bất kỳ “thực thể nhà nước” hoặc cơ quan nào mà còn bất kỳ chính quyền địa phương, nhà thầu hoặc bên thứ ba nào có thể truy cập hoặc quản lý hệ thống AI thay mặt cho một thực thể nhà nước. Hệ thống AI được định nghĩa là tất cả các hệ thống công nghệ triển khai công nghệ AI. Các cơ quan hoặc hội đồng công khác cũng được “khuyến khích mạnh mẽ” áp dụng chính sách NY ITS. Do đó, nhiều tổ chức có thể sẽ cảm nhận được tác động của chính sách AI, đặc biệt là trong lĩnh vực chăm sóc sức khỏe, nơi nhiều nhà cung cấp dịch vụ chăm sóc sức khỏe và chương trình y tế thay mặt cho một cơ quan nhà nước truy cập hệ thống AI. Cũng có thể tiểu bang yêu cầu các nhà cung cấp dịch vụ chăm sóc sức khỏe và chương trình bảo hiểm y tế tuân thủ chính sách của NY ITS đối với hệ thống AI của chính họ nếu họ sử dụng các hệ thống này để thực hiện một chức năng thay mặt cho Bộ Y tế.
2. Đánh giá và kiểm soát AI nhanh chóng
Chính sách AI của NY yêu cầu tất cả các cá nhân, tổ chức phải tiến hành kiểm soát tất cả các hệ thống AI của họ trong vòng 180 ngày và duy trì kiểm soát sau đó. NY ITS sẽ cung cấp hướng dẫn cụ thể hơn về nghĩa vụ báo cáo.
3. Bắt buộc đánh giá rủi ro của AI
Chính sách của NY ITS cũng yêu cầu đánh giá rủi ro đối với bất kỳ hệ thống AI mới hoặc hiện có nào. Các đánh giá phải tuân theo “Khung quản lý rủi ro trí tuệ nhân tạo” (RMF) và Lộ trình của Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST) AI 100-1 , cũng như các quy trình phân loại thông tin và rủi ro bảo mật của NY ITS.
4. Có hiệu lực ngay lập tức
Chính sách của NY ITS về AI có hiệu lực ngay sau khi ban hành vào ngày 8 tháng 1 năm 2024.
Khuyến nghị
Dựa trên những thông báo này, chúng tôi khuyến nghị các tổ chức có khả năng bị ảnh hưởng ngay lập tức thực hiện các bước để thành lập Bộ phận quản trị dữ liệu, đặc biệt là trong lĩnh vực chăm sóc sức khỏe, nơi các yêu cầu bổ sung về quyền riêng tư và an ninh mạng đang được áp dụng và ngày càng có nhiều sự xem xét kỹ lưỡng về khả năng AI thiên vị hoặc phân biệt đối xử trong ra quyết định chăm sóc sức khỏe. Điều này sẽ cho phép tổ chức tập hợp nhiều chuyên gia nội bộ và bên ngoài (ví dụ: từ CNTT, Nhân sự, Pháp lý, Tiếp thị, Tuân thủ, Vận hành…) và thực hiện cách tiếp cận toàn diện đối với việc sử dụng dữ liệu của họ. Chúng tôi cũng khuyến nghị các tổ chức bị ảnh hưởng nên bắt đầu xây dựng quy trình đánh giá rủi ro và kiểm soát AI của mình, theo yêu cầu của chính sách NY ITS. Cuối cùng, chúng tôi khuyên khách hàng nên đạt được một số “quyền lợi” nhanh chóng bằng cách xem xét các ví dụ về cách sử dụng chính sách “Chấp nhận việc sử dụng công nghệ trí tuệ nhân tạo” và “không thể chấp nhận được” do văn phòng NY ITS công bố, gồm:
- Cấm sử dụng thông tin cá nhân hoặc bí mật trong các công cụ AI công cộng;
- Yêu cầu bất kỳ nội dung nào do sử dụng AI tạo ra phải được công bố hay lưu ý là do được tạo ra bởi máy chứ không phải con người;
- Đảm bảo rằng tất cả các kết quả AI đều được con người xem xét và hiệu đính.
Tố Uyên
