31/1/2024 (TinAi.vn) – Nightshade , một công cụ mới, có thể tải xuống miễn phí do các nhà nghiên cứu khoa học máy tính tại Đại học Chicago tạo ra, được thiết kế để giúp các nghệ sĩ sử dụng nhằm phá vỡ các mô hình AI đang đào tạo các tác phẩm nghệ thuật của họ mà không có sự đồng ý , đã nhận được 250.000 lượt tải xuống sau 5 ngày đầu tiên ra mắt.
“Nightshade đạt 250.000 lượt tải xuống sau 5 ngày kể từ khi phát hành,” trưởng dự án, Ben Zhao, giáo sư khoa học máy tính chia sẻ. Đây là một khởi đầu mạnh mẽ cho công cụ miễn phí và minh chứng cho nhu cầu của các nghệ sĩ trong việc bảo vệ tác phẩm của họ khỏi bị đào tạo dữ liệu AI một cách trái phép. Theo Cục Thống kê Lao động Mỹ, chỉ riêng ở Mỹ có hơn 2,67 triệu nghệ sĩ.
Zhao viết: “Chúng tôi chưa thực hiện tra cứu vị trí địa lý cho những lượt tải xuống này. “Dựa trên phản ứng trên mạng xã hội, lượt tải xuống đến từ khắp nơi trên thế giới.”
Nightshade hoạt động như thế nào và tại sao nó lại phổ biến?
Nightshade là một ứng dụng tìm cách “đầu độc” các mô hình hình ảnh AI có tính sáng tạo bằng cách thay đổi các tác phẩm nghệ thuật được đăng lên web hoặc “làm mờ” chúng để chúng xuất hiện trước thuật toán máy học (ML) với nội dung hoàn toàn khác.
Trên trang dự án Nightshade, Zhao và các đồng nghiệp của mình – Shawn Shan, Wenxin Ding, Josephine Passananti và Heather Zheng – cho biết họ đã phát triển và phát hành công cụ này để “ bảo vệ các dữ liệu không được cấp phép, khiến việc cấp phép cho hình ảnh từ người sáng tạo của họ trở nên khó khăn hơn và đây là một giải pháp khả thi.”
Ngay sau khi Nightshade phát hành vào ngày 18 tháng 1 năm 2023, nhu cầu tải của nó đã quá lớn đối với các máy chủ web của Đại học Chicago, đến mức nhóm dự án phải thêm các liên kết nhân bản để mọi người có thể tải xuống các bản sao của nó từ một vị trí khác trên đám mây.
Trong khi đó, công cụ trước đó của nhóm – là Glaze , hoạt động để ngăn các mô hình AI học “phong cách” đặc trưng của nghệ sĩ theo cách thay đổi các pixel một cách tinh tế để chúng trông giống một thứ gì đó khác với thuật toán học máy – đã nhận được 2,2 triệu lượt tải xuống kể từ khi nó được phát hành vào tháng 4/2023.
Hoàng Tuấn