英媒發現網上有人利用AI　仿製兒童色情圖片販售

人工智能（AI）的運用近期越見多元化，在可以生成聲音、畫像以及文字之下，不少的作品確實幾可亂真。英國廣播公司（BBC）的調查就發現，有人利用AI技術生成出擬似兒童的色情圖像，並且透過網絡進行販售。

BBC表示，發現這些AI製作的虛構圖像，部份透過付費內容網站Patreon內傳播。而Patreon在回應BBC就表示，他們對有關的圖像放在其網站是採取「零容忍」。英國的國家警察局長委員會就批評，一些平台為了賺取豐厚利潤，而沒有採取「道德責任」。BBC的報道指，有用戶利用人工智能圖像軟件「Stable Diffusion」製作出擬似兒童性侵的圖像。英國警方的一個調查網上侵害兒童的團隊向BBC表示，他們亦已經注意到有關的內容。

一個英國的自由記者Octavia Sheepshanks向BBC揭露有關的事件，她向BBC表示：「在AI生成圖像變得可能之後,這一切像一發不可收拾。他們（戀童癖者）已不只在談論非常年輕的女孩，甚至是指向幼兒。」英國警方的保護兒童部門就指出，雖然這些AI圖像沒有涉及真實的兒童，但不可能視之為對兒童沒有危害。組織又指出，戀童癖者可能透過這些AI圖像的影響，轉而對現實兒童造成侵害。

利用日本網站分享圖像

然而BBC表示，部份的圖像被放置上一個日本的圖像分享網站Pixiv，那是一個分享動漫及同人誌畫作的社交網站。而在日本分享這些畫作並沒有違法，因此有關的創作者利用群組或特定的標籤來分享這類圖像。而Pixiv回應就表示，他們在5月31日起，已禁止所有涉及色情的像真圖像。公司又指，他們已利用大量資源去解決人工智能帶來的問題。

Octavia Sheepshanks又向BBC表示，她發現有用戶正在大量地以AI製作這些兒童色情圖像：「那數量非常龐大，所以人們（創作者）可能說：『我們至少一個月發放至少1,000張圖像』。」她又表示，在網上的留言者明確地表達對兒童色情有興趣，甚至是願意提供真實的圖片或影像。她表示已經在監視着有關平台的群組：「有些群組，可能多達100名成員，他們會分享『這是好像真實的連結』。」

調查又指，在Pixiv的一些帳號會包括一些連結，去引渡人們去觀看他們稱為「未經審核內容」，而這些內容被放在美國的Patreon之上。而BBC的調查團隊指，在Patreon上的一些用戶，提供了AI的圖像生成，當中包括兒童的內容，並按不同層級的內容定價。BBC表示，他們之後將其中一個帳戶提供了Patreon，而Patreon亦證實了內容違反他們的規條而將帳戶移除。

AI圖像軟件公司促執法部門採取行動

BBC又指出，雖然Stable Diffusion的版本加入了對一些內容的限制，但在一個較早前的開源版本，卻可以移除所有的限制，包括製作出違法的內容。Stable Diffusion的製作公司Stability AI回應指：「我們強烈支持執法部門，對那些濫用我們產品作違法及邪惡目的之用的人採取法律行動。」

英國的警方表示，對於人工智能發展的迅速表示擔憂，除了是那些虛構的人工智能內容泛濫之外，也擔心在人工生成圖像的影響，令他們難以尋找到真正被侵害的內容。