南スペインのコミュニティを混乱させた高校生の女性のAI生成のヌード画像からほぼ1年後、今年の夏、少年裁判所は彼らの同級生15人を執行猶予1年の判決を下しました。

しかし、危険なディープフェイクを作成するために使用された人工知能ツールはインターネット上でまだ簡単にアクセスでき、ウェブサイトにアップロードされた写真を数秒で「脱がす」と約束しています。

今、このアプリとその他の類似アプリをシャットダウンする新しい取り組みがカリフォルニアで行われており、サンフランシスコ市がこれまでに例を示すかもしれないと専門家は述べています。しかし、多くの障壁に直面します。

サンフランシスコ市の選出市検事であるデイビッド・チュウは、「これらの画像の蔓延は世界中の多くの女性や少女を搾取してきた」と述べ、カリフォルニア、ニューメキシコ、エストニア、セルビア、イギリスなどのエンティティに関連する広く訪れるウェブサイトに対して提起した訴訟について語りました。

カリフォルニア州の人々を代表して提起されたこの訴訟は、詐欺的なビジネス行為、非同意のポルノグラフィー、および児童の性虐待に対する州の多くの法律に違反したと主張しています。しかし、アプリのオペレーターが誰であるかや、電話アプリストアでは入手できないがインターネット上では簡単に見つかるこのアプリは、誰が運営しているのかを特定するのが難しいことがあります。

APが昨年後半に問い合わせたサービスの1つは、その「CEOは米国内に拠点を置き、米国内を移動している」ということを電子メールで主張しましたが、証拠を提供することを拒否し、他の質問にも答えませんでした。具体的な提訴されているアプリの名前は伏せています。

チュウは「現時点でこれらのオペレーターが誰でどこで運営しているのかを正確に知らないサイトがいくつかありますが、この訴訟の過程で我々の権限を活用して掘り下げることができる調査手段と召喚権を持っております」と述べました。「そして、この訴訟の過程で我々は必ずともこれらの権限を利用するでしょう。」

多くのツールは、同意なく有名人を含む衣服を着た大人の女性の写真を「脱がす」リアルなフェイクを作成するために使用されています。しかし、それらは世界中の学校にも広まり、典型的には男子生徒が女性の同級生の画像を作成し、それがソーシャルメディアを通じて拡散されます。

昨年9月、スペインのアルメンドラレホで最初に広く報道されたケースの1つでは、自分の娘が被害者の1人であったため、医師がこれを公表するのに手伝ったと述べ、彼女は今年夏の裁判所の決定後、同級生たちが直面している厳格な刑罰に満足していると述べました。

しかしこれは「社会、教育、親、学校だけでなく、すべてのこのゴミから利益を得ているデジタル巨大企業の責任でもあります」と、ミリアム・アル・アディブ・メンディリ医師は金曜日のインタビューで述べました。

彼女はサンフランシスコの行動を称賛しましたが、メタプラットフォームとその子会社WhatsAppなどの大手企業からのより多くの取り組みが必要だと述べました。スペインで画像が拡散されたWhatsApp。

深い偽造物を作成し共有する人々を処罰しようとする学校や法執行機関もありますが、当局はツール自体についてどうすべきかに苦労しています。

欧州連合の行政部門は1月、アルメンドラレホで使用されたアプリは、そのような広範なオンライン安全性強化の新しい規則に該当しないように思われると、スペインの欧州議会議員に宛てた手紙で説明しました。

AI生成の児童性虐待資料の成長を追跡してきた組織は、サンフランシスコのケースを密接に追跡するでしょう。

訴訟は「この領域で法的前例を確立する可能性があります」と、児童の性搾取を防止する団体であるThornの政策ディレクターであるエミリー・スライファーは述べています。

スタンフォード大学の研究者は、被告の多くが米国外に拠点を置いているため、彼らを裁くのは難しいと述べました。

スタンフォードのリアナ・ペフェルコーンは、「チュウ氏はこの訴訟で困難な戦いを強いられますが、被告たちが訴訟を無視するとサイトを閉鎖することができるかもしれません」と述べています。「もしサイトオーナーが訴訟に現れないままデフォルトで勝訴し、ドメイン名登録業者、ウェブホスト、支払いプロセッサーに影響を与える命令を取得すれば、そのサイトを事実上閉鎖することができるでしょう。」