ローマは、EU独自のAI法を補完する、欧州初の国家レベルでの包括的な人工知能規制となる法案の草案を完成した。政府によって承認され、4月23日火曜日に議会に提出されたこの法案は、この新技術の違法使用に対して重い罰則を導入すると、Il Giornale紙が報じた[https://www.ilgiornale.it/news/interni/cdm-ddl-sullai-stretta-sullillecita-diffusione-dei-contenuti-2313408.html]。
この法案草案は、AI技術のあらゆる応用が人間の「自律性と意思決定力」を尊重することを保証する「国家AI戦略」を作成する。
一方で、この法案は、規制を遵守するAIプロジェクトとスタートアップを促進するために、最大10億ユーロの初期投資を提案している。一方、著作権法違反、マネーロンダリングを支援するためのインテリジェントツールの使用、または 「ディープフェイク」とも呼ばれる他人の有害なデジタルコピーの作成など、AI関連の犯罪の加害者に対しては、高額の罰金や最長5年の懲役を含む厳しい制裁を課す予定である。
「新しい技術の出現は、保護のギャップを構成する問題を引き起こす可能性があり、それは必然的に刑法によって埋められなければならない」とカルロ・ノルディオ法務大臣は記者会見で述べた。
法案の条文では、
人に危害を加える目的で本人の同意を得ずに、本人の身元を誤認させるのに適切な範囲で、AIシステムを使用して偽造または改変した画像、動画、音声を送信、配信、販売、公開、またはその他の方法で配布する者は、6か月から3年の懲役に処される。この行為により不当な損害が生じた場合、刑罰は1年から5年の懲役となる。
イタリアは当初からAI規制の最前線に立っており、特定のプライバシー懸念が解決されるまでOpenAIのChatGPTを一時的に禁止した欧州初の国でもある。ローマの取り組みは国家レベルにとどまらない。ジョルジャ・メローニ首相は以前、AI規制は2024年末まで続くイタリアのG7議長国の主要な優先事項の1つであると述べた。
メローニ首相には、有害なAI生成コンテンツとの戦いに取り組む非常に個人的な理由もある。彼女は7月2日に、彼女の顔を使って複数のディープフェイクポルノビデオを作成し、イタリアの首相に就任する2年前の2020年にアメリカのアダルトサイトにアップロードしたとして起訴されたサルデーニャ人の男性2人に対する裁判で証言する予定である。
メロニ氏は「 象徴的な」10万ユーロの賠償金を求めていると報じられているが、彼女の弁護士によると、彼女はそれを家庭内暴力を受けた女性を支援する基金に寄付することを約束した。
裁判が続いているにもかかわらず、問題の動画は今もいくつかのウェブサイトで閲覧可能だ。実際、このトピックについて調べると、グーグルの検索結果では、この事件について論じている記事よりも動画の方が上位にランクされており、事態の深刻さがさらに強調されている。
もちろん、ここ数年で最新の強力な画像および動画生成AIツールが急増したため、有害なディープフェイクの作成がはるかに簡単になり、一般大衆にもアクセスしやすくなった。そのため、これらのツールとそのアプリケーションはできるだけ早く規制する必要があるとローム氏は主張する。