生成AIの急速な進化に伴い、児童の権利を侵害する新たなリスクが懸念される中、鳥取県が全国に先駆けて実効性のある規制に踏み切る方針を示した。同県は2024年4月に改正した青少年健全育成条例に基づき、6月定例県議会で過料規定の導入を正式に提出する。対象は、AIを用いてわいせつ画像を作成・提供した場合などで、5万円以下の過料を科す内容となっている。
生成AIによる児童ポルノ防止へ条例を改正、6月議会に提出へ
鳥取県は2024年4月、AI技術の悪用を防ぐため、生成AIなどを使って児童のわいせつ画像を作成・提供する行為を禁止する改正条例を施行した。だが、その後も類似の被害リスクが指摘されていたことから、より実効性を担保するための罰則規定が検討されてきた。
そして2025年6月2日、鳥取県は定例会議にて、条例違反者に5万円以下の過料を科す新たな改正案を、6月定例県議会に提出することを決定した。過料の対象には、AI生成画像の削除要請に応じなかったケースも含まれるという。
刑事罰の導入見送り、検察の慎重姿勢も背景に
条例制定時点では、刑事罰の導入も選択肢として議論されていたが、鳥取地方検察庁から否定的な意見が示されたことを受け、今回は過料（行政罰）という形に落ち着いた。
「生成AIを使ったわいせつ画像の流通は、技術的に新しい問題であり、現行の刑事法体系との整合性が必要とされる」
これは、AIによる画像生成が現行法における「実在性のある児童ポルノ」と区別が難しいケースもあるため、法的な判断に慎重を要するという見解によるものとされる。
業界全体にも波及する可能性、自治体単位での規制強化の動き
この動きにより、他の自治体や政府レベルでの規制強化に波及する可能性もある。とくに、生成AIを活用したコンテンツ制作や二次創作・画像投稿サービスを運営する企業は、今後より明確な利用ポリシーやモデレーション体制を求められることになりそうだ。
また、プラットフォーム事業者側にも、自治体からの削除命令への迅速な対応が求められる点で、コンテンツホスティングに関する内部フローの見直しが必要となる可能性がある。
ネット上の声は賛否分かれる構図に
- 「鳥取、やるじゃん。他の県も続いてくれ」
- 「AIの規制って難しいけど、子どもを守るためなら必要だよね」
- 「過料5万円って軽くない？抑止力になるのか心配」
- 「実在しない画像でもアウトなのか…表現の自由はどうなる」
- 「うちは生成AI系の事業やってるから、こういう動きには敏感にならざるを得ない」
ライターより：社会が技術に追いつこうとしている
生成AIが生み出す表現の力は、時に人間の倫理や法制度を軽々と飛び越えてしまう。今回の鳥取県の対応は、「技術が先に進みすぎる時代」に、社会がどう追いつこうとするかの1つの例と言えるだろう。
AIを使う側のモラルと、ルールを整備する側のスピード。そのバランスが問われる時代が、本格的に始まっているのかもしれない。
ライター：翔
みんなの反応