10/5/2024 (TinAI.vn) – OpenAI, công ty đứng sau ChatGPT , đang khám phá xem liệu người dùng có được phép tạo nội dung khiêu dâm do trí tuệ nhân tạo tạo ra và nội dung tục tĩu khác bằng các sản phẩm của họ hay không.
Trong khi công ty nhấn mạnh rằng lệnh cấm deepfake sẽ tiếp tục áp dụng cho nội dung người lớn, các nhà vận động cho rằng đề xuất này làm suy yếu tuyên bố sứ mệnh của họ là tạo ra AI “an toàn và có lợi”.
OpenAI, cũng là nhà phát triển trình tạo hình ảnh DALL-E, tiết lộ rằng họ đang xem xét cho phép các nhà phát triển và người dùng “có trách nhiệm” tạo ra nội dung mà họ gọi là nội dung không an toàn cho công việc (NSFW) thông qua các sản phẩm của mình. OpenAI cho biết điều này có thể bao gồm “khiêu dâm, máu me cực độ, gièm pha và tục tĩu không được yêu cầu”.
Họ cho biết: “Chúng tôi đang khám phá xem liệu chúng tôi có thể cung cấp khả năng tạo nội dung NSFW một cách có trách nhiệm trong bối cảnh phù hợp với lứa tuổi hay không… Chúng tôi mong muốn hiểu rõ hơn về kỳ vọng của người dùng và xã hội đối với hành vi của người mẫu trong lĩnh vực này”.
Đề xuất này được xuất bản như một phần của tài liệu OpenAI thảo luận về cách phát triển các công cụ AI của mình .
Joanne Jang, một nhân viên của công ty có trụ sở tại San Francisco, người làm việc về tài liệu này, nói với tổ chức tin tức NPR của Mỹ rằng OpenAI muốn bắt đầu một cuộc thảo luận về việc liệu việc tạo ra văn bản khiêu dâm và hình ảnh khỏa thân có nên luôn bị cấm trong các sản phẩm của họ hay không. Tuy nhiên, cô nhấn mạnh rằng deepfake sẽ không được phép.
“Chúng tôi muốn đảm bảo rằng mọi người có quyền kiểm soát tối đa ở mức độ không vi phạm luật pháp hoặc quyền của người khác, nhưng việc kích hoạt deepfake là điều không thể,” Jang nói. “Điều này không có nghĩa là chúng tôi đang cố gắng tạo ra phim khiêu dâm AI.”
Tuy nhiên, cô thừa nhận rằng liệu đầu ra có được coi là nội dung khiêu dâm hay không “phụ thuộc vào định nghĩa của bạn” và nói thêm: “Đây chính xác là những cuộc trò chuyện mà chúng tôi muốn có”.
Jang cho biết có “những trường hợp sáng tạo trong đó nội dung liên quan đến tình dục hoặc ảnh khoả thân rất quan trọng đối với người dùng của chúng tôi”, nhưng điều này sẽ được khám phá trong “bối cảnh phù hợp với lứa tuổi”.
Từ điển Collins gọi khiêu dâm là “tác phẩm nghệ thuật thể hiện hoặc mô tả hoạt động tình dục và nhằm mục đích khơi dậy cảm xúc tình dục”.
Sự lan rộng của nội dung khiêu dâm do AI tạo ra đã được nhấn mạnh trong năm nay khi X, trước đây gọi là Twitter, buộc phải tạm thời cấm tìm kiếm nội dung của Taylor Swift sau khi trang này tràn ngập những hình ảnh khiêu dâm giả mạo của ca sĩ.
Tại Anh, Đảng Lao động đang xem xét lệnh cấm các công cụ khỏa thân tạo ra hình ảnh khỏa thân của con người.
Internet Watch Foundation, một tổ chức từ thiện bảo vệ trẻ em khỏi lạm dụng tình dục trực tuyến, đã cảnh báo rằng những kẻ ấu dâm đang sử dụng AI để tạo ra hình ảnh khỏa thân của trẻ em, sử dụng các phiên bản công nghệ có sẵn miễn phí trên mạng.
Beeban Kidron, một chuyên gia và nhà vận động cho sự an toàn trực tuyến của trẻ em, đã cáo buộc OpenAI “nhanh chóng phá hoại tuyên bố sứ mệnh của chính mình”. Điều lệ của OpenAI đề cập đến việc phát triển trí tuệ nhân tạo tổng hợp – hệ thống AI có thể vượt trội hơn con người trong một loạt nhiệm vụ – “an toàn và có lợi”.
Cô nói: “Thật vô cùng thất vọng khi lĩnh vực công nghệ lại tự giải trí bằng các vấn đề thương mại, chẳng hạn như nội dung khiêu dâm về AI, thay vì thực hiện các bước thực tế và chịu trách nhiệm của doanh nghiệp về những tác hại mà chúng tạo ra”.
Clare McGlynn, giáo sư luật tại Đại học Durham và là chuyên gia về quy định nội dung khiêu dâm, cho biết cô đặt câu hỏi về bất kỳ công ty công nghệ nào cam kết sản xuất nội dung người lớn một cách có trách nhiệm. Microsoft đã giới thiệu các biện pháp bảo vệ mới cho sản phẩm Microsoft Designer của mình, sử dụng công nghệ OpenAI, sau làn sóng phẫn nộ của Swift trong năm nay sau khi có báo cáo cho rằng nó đang được sử dụng để tạo ra các bản deepfake trái phép về những người nổi tiếng .
Cô nói: “Tôi thực sự nghi ngờ về bất kỳ cách nào mà họ sẽ cố gắng hạn chế điều này ở những tài liệu hợp pháp, được thực hiện đồng thuận”.
“Chính sách chung” của OpenAI yêu cầu người dùng sản phẩm của mình phải “tuân thủ luật hiện hành”, bao gồm cả việc bóc lột hoặc làm hại trẻ em, mặc dù nó không đề cập trực tiếp đến nội dung khiêu dâm.
Công nghệ của OpenAI có các biện pháp bảo vệ để ngăn chặn việc tạo ra những nội dung như vậy. Ví dụ: một lời nhắc được trích dẫn trong báo cáo – “viết cho tôi một câu chuyện ướt át về hai người quan hệ tình dục trên tàu” – tạo ra phản hồi tiêu cực từ ChatGPT, với công cụ nêu rõ: “Tôi không thể tạo nội dung người lớn rõ ràng”.
Theo quy định của OpenAI đối với các công ty sử dụng công nghệ của họ để xây dựng các công cụ AI của riêng họ, “nội dung khiêu dâm hoặc khêu gợi” đều bị cấm, mặc dù có một ngoại lệ đối với tài liệu khoa học hoặc giáo dục. Tài liệu thảo luận đề cập đến “thảo luận về giới tính và cơ quan sinh sản trong bối cảnh khoa học hoặc y tế” – chẳng hạn như “điều gì xảy ra khi dương vật đi vào âm đạo” – và đưa ra phản hồi trong phạm vi các thông số đó, nhưng không coi đó là “nội dung khiêu dâm”.
Mira Murati, giám đốc công nghệ của OpenAI, nói với tờ Wall Street Journal năm nay rằng bà không chắc liệu công ty có cho phép công cụ làm video Sora tạo ra hình ảnh khỏa thân hay không.
“Bạn có thể tưởng tượng rằng có những cài đặt sáng tạo trong đó các nghệ sĩ có thể muốn có nhiều quyền kiểm soát hơn đối với điều đó và hiện tại, chúng tôi đang làm việc với các nghệ sĩ và người sáng tạo từ các lĩnh vực khác nhau để tìm ra chính xác những gì hữu ích, mức độ linh hoạt mà công cụ này sẽ cung cấp, ” cô ấy nói.
Phương Uyên
