OpenAI đang triển khai công cụ nhằm ngăn chặn việc sử dụng các sản phẩm AI của mình đưa ra các thông tin sai lệch trong đợt bầu cử quan trọng sắp tới của Hoa Kỳ và các cuộc bầu cử khác trên toàn cầu.
Vào thứ Hai (15 tháng 1), công ty khởi nghiệp về trí tuệ nhân tạo (AI) OpenAI đã công bố các công cụ mới có khả năng cung cấp thông tin về những sản phẩm / nội dung do chatbot ChatGPT cung cấp và giúp người dùng xác định xem hình ảnh có được tạo bởi phần mềm AI của họ hay không. Những công cụ này được đưa ra khi mối lo ngại gia tăng về rủi ro của cái gọi là hình ảnh “giả sâu” và nội dung khác do AI tạo ra có thể gây nhầm lẫn cho cử tri trong các chiến dịch tranh cử.
OpenAI cho biết hôm thứ Hai: “Việc bảo vệ tính liêm chính của các cuộc bầu cử đòi hỏi sự hợp tác từ mọi góc cạnh của quy trình dân chủ và chúng tôi muốn đảm bảo rằng công nghệ của chúng tôi không được sử dụng theo cách có thể làm suy yếu quy trình này”.
OpenAI sẽ bắt đầu mã hóa hình ảnh do công cụ tạo hình ảnh Dall-E 3 tạo ra với thông tin xuất xứ – đề cập đến dữ liệu về nguồn gốc của một phần nội dung, chẳng hạn như ai đã tạo ra hình ảnh và nó được tạo ra khi nào. Điều đó có thể giúp cử tri hiểu rõ hơn liệu hình ảnh họ nhìn thấy trên web có được tạo bằng AI hay không. Quá trình này sẽ sử dụng tiêu chuẩn mật mã được thiết lập bởi “Liên minh Chứng minh và Xác thực nội dung”, hay C2PA. Adobe, Microsoft, Intel và một số công ty khác đã đồng sáng lập liên minh vào năm 2021.
OpenAI cũng cho biết họ sẽ phát hành một công cụ phát hiện hình ảnh mà mọi người có thể sử dụng để tra cứu xem hình ảnh có phải do Dall-E tạo ra hay không. Trước tiên, công ty sẽ triển khai công cụ này cho các nhà báo, nền tảng và nhà nghiên cứu để lấy phản hồi. Trong lịch sử, nhiều công cụ phát hiện cố gắng xác định xem hình ảnh hoặc văn bản cụ thể có phải do AI tạo ra hay không. Tuy nhiên, giám đốc công nghệ OpenAI Mira Murati cho biết vào tháng 10/2023 rằng công cụ phát hiện hình ảnh mà công ty đang phát triển có độ chính xác 99% trong thử nghiệm nội bộ.
Đối với ChatGPT, OpenAI sẽ cho phép mọi người nhận thông tin theo thời gian thực bằng cách cập nhật các sự kiện hiện tại thông qua việc sử dụng Chatbot AI. Kết quả sẽ cung cấp các thuộc tính và liên kết đến các bài viết để xác minh nguồn gốc dữ liệu (tính năng này hiện không hiển thị theo mặc định trong ChatGPT với phiên bản miễn phí). OpenAI cũng cho biết họ đang dần tiến tới việc “tích hợp kết quả tham khảo dữ liệu với các nguồn thông tin hiện có” trên Internet nhằm giúp người dùng luôn được cập nhật các dữ liệu mới nhất.
Tố Uyên