日本「讀賣新聞」在日前報道，日本的網上平台裡有大量 AI 生成的兒童色情圖像。報道中訪問了法學教授，表示在海外應該是犯法。不過，日本的法例並沒有禁止這類生成的兒童色情圖像。網站負責人也聲明因為並不違法，所以不會刪除。
新聞在日本引來不大不小的討論，許多人的自然反應就是覺得需要禁止，但同時有人提出，這等同管制創作的自由。時事評論家西村博之特別指出：「雖然對『AI 生成的兒童色情圖像』反感的人許多，但要在完全沒有受害者的事件上，使用稅金實施刑法來懲罰嗎？這是個問題。」
罪行不是慾望意念本身，把慾望在現實世界中實踐才是罪行。兒童色情之所以是問題，是因為存在受害者，沒有決定權的未成年人遭受性剝削。戀童之所以是問題，也是因為存在受害者，有兒童遭受性侵犯。然而，AI 生成圖像沒有實在的人類遭受剝削和侵犯，自然不存在受害者。不存在受害者的罪行，那就是思想犯而已。
有一種說法是，虛構的兒童色情會鼓吹現實世界的戀童犯行，這個理論事實是認為虛構世界中的犯罪會導致現實世界的犯罪。你要問自己，我們為何容許電子遊戲中殺人放火姦淫擄掠，但唯獨不能夠接受虛構世界中的戀童。如果理由只是後者令你不安，那麼你也需要知道，這個世界也有許多人覺得電子遊戲如 GTA（俠盜獵車手，Grand Theft Auto）中的暴力會令他們不安。伊斯蘭國度裡，露出面孔的女性是為不道德。
管制令人道德不安的東西，需要的是年齡限制，而非禁止。需要禁止並加上刑罰的，只有對實在人類造成傷害的事物。
另一種說法是，AI 生成圖像過於寫實，會令人分不清真假。這個的確是問題，但這是 AI 生成資訊以及媒體生態的整體問題。有人用 AI 造出日本首相岸田文雄的虛假影片，也有人因為使用 Deepfake 技術，把女明星的臉部換到色情影片中而被捕，但這些事件都涉及真人，問題是出於對現實存在的人造成名譽傷害。
需要管制的是生成與發佈的方式，刑事不應該被視為道德指標，更不應該懲罰思想犯，道德是屬於民事範疇的。道德觀點的確會影響社會輿論，但純粹用道德觀點來建立刑法則需要留神。道德治國與宗教國家的距離，並沒有大家想得那麼遠。
