852話炎上事件：AI 時代的道德難題

在 AI 算圖領域相當活躍的日本推主852話，一直以來都積極分享 Midjourney / Stable Diffusion / Nijijourney 的最新發展，後來開始承接商業委託。

他最近錄製了「少年風格」的 RVC* 語音檔，放到 booth 上面銷售，稱其為正太（ショタ）語音同時附上了一張小男孩的圖片（如圖）。

[blogcard url=https://note.com/852wa/n/n76c03fc6002e]

之後有其他的 Youtuber 及網站聲稱 852 話及其家族：「誘騙小學生外甥錄製語音，沒有獲得許可就將訓練資料以高價販售，同時也鼓勵大家用在兒童色情應用上。」

在那之後雖然 852 話不斷發表新的推文澄清絕無此事，更強調錄音者其實是自己，根本沒有所謂的外甥與正太。

但風波不但沒有平息下來，甚至開始引起其他人的不滿。

「如果是你錄製的，那麼 booth 上面說是變聲期以前小學生正太的聲音是虛假的囉？」

隨著事態發展，也開始有外國人開始參與譴責，認為將男童的聲音標記為 Shota 是不道德的。

児童であることが問題視されてたので児童に焦点当てて弁明しましたが「問題ないデータ」って言ってるんだからそもそも18以下の男子じゃない。潔白です。過去作品と似てるのはRVC変換してる声（852話の声と喋り方）が一緒なんだからそりゃ似る。

— 852話(hakoniwa) (@8co28) May 28, 2023

關於此事的真相，我們無從得知。

只是在這個語音、照片、影片都可以任意變造、合成、擴寫、訓練、模擬、重現的年代，對於自身資料的保護，以及對他人資料的使用都要更加慎重才行。

多年前在從事生物辨識相關工作時，有許多客戶會問：「啊～這樣子刷臉那我的個資會不會外洩？我的指紋會不會被拿去做壞事？」

在現今的年代，問題似乎變得更為複雜與嚴重了。

* RVC 可以讓使用者將一個人的聲音樣本複製並轉移到另一個人身上，並可實現即時語音轉換。（Mnya.tw）