政府は、詐欺、ディスインフォメーション、およびその他の悪意あるオンライン活動にどのように誤用される可能性があるかについて、人工知能が狙われてきました。今、イギリスの規制機関がその反対側でどのようにAIが使用されているかを探求したいと考えています。つまり、子供を巻き込む有害なコンテンツへの対抗にAIがどのように活用できるかを調査したいと考えています。

イギリスのオンラインセーフティ法を執行する規制機関であるOfcomは、現在どのようにAIやその他の自動化ツールが使用されているか、将来どのように使用されるかについての協議を開始する予定であり、オンラインで違法なコンテンツを能動的に検知して削除し、特に有害なコンテンツから子供を保護し、以前は検知が難しかった児童性虐待物を特定するためのものです。

この動きは、若いユーザーが以前よりもずっと繋がっていることを示すOfcomの研究の発表と時を同じくしています。3〜4歳の子供のうち、約84%がすでにオンラインに接続しており、5〜7歳の子供の約4分の1がすでに独自のスマートフォンを所有しているという結果が示されています。

Ofcomが導入する可能性のあるツールは、オンライン子供安全対策に焦点を当てた広範な提案の一部となります。包括的な提案に関する協議は今後数週間で開始され、AIの協議はOfcomが述べたところ、今年後半に行われます。

Ofcomのオンライン安全グループのディレクターであるMark Buntingは、AIへの興味が、現在どのようにスクリーニングツールとして使用されているかを見て始まると述べています。

「一部のサービスはすでにこれらのツールを使用して、このコンテンツを識別し、子供を保護しています」とTechCrunchとのインタビューで語った。「ただし、それらのツールがどの程度正確で効果的であるかに関する情報はほとんどありません。我々は、業界がそれらを使用する際に評価する方法や、言論の自由とプライバシーへのリスクが適切に管理されているかを確認する方法を探っています」と述べました。

最終的な結果の1つは、Ofcomがプラットフォームが評価すべき方法と内容を推奨することが考えられます。これは、より洗練されたツールを採用するだけでなく、コンテンツをブロックする方法を改善するか、より若いユーザーがそれを見ないようにするためのより良い方法を作成することが可能です。

「オンラインセーフティ規制には、適切なステップを踏み、利用者を保護するために適切なツールを使用していることを確認する責任が企業にあります」と述べています。

この動きには賛否両論があるでしょう。AI研究者は、例えばディープフェイクを検知する方法を模索しており、AIはオンラインユーザーを検証するために展開されています。しかし、AIの検知は完全に信頼できるものではないという懐疑論者も多く、その結果、協議の無意味性を強調する人もいます。

Ofcomの最新の調査によると、オンラインサービスを利用する子供の年齢層は過去最低であり、その結果、Ofcomはますます若い年齢層の間での活動を詳細に調査しています。

モバイル技術は、現在子供たちにとって特に重要であり、それに応じて使用が増加しています。親と学生を対象とした調査（質問によっては2,000〜3,400人の回答者）では、5〜7歳のすべての子供のうち約4分の1が現在独自のスマートフォンを所有しており、タブレットを含めると76%に上ります。

同じ年齢層の子供たちも、これらのデバイス上でメディアをより多く使用しています。65%が音声通話やビデオ通話を行い（1年前の59%に対し）、約半数の子供たち（1年前の39%に対し）がストリーミングメディアを視聴しています。

ある主流のソーシャルメディアアプリに年齢制限がありますが、イギリスではそれがほとんど無視されていないようです。Ofcomの調査によると、5〜7歳の子供のうち38%がソーシャルメディアを利用しています。MetaのWhatsAppは37%で最も人気のあるアプリです。

そして、Metaの主力画像アプリがByteDanceのヴァイラルなセンセーションよりも人気が低いことが救いとなった初めての事例であるとしても、5〜7歳の子供の30%がTikTokを使用しており、Instagramは「わずか」22%です。Discordはリストを引き締めていますが、有意に人気が低く、わずか4%です。

この年齢層の子供の約3分の1、32%が自分でオンラインにアクセスし、20%の親が未成年の子供がソーシャルメディアプロフィールを持っていても問題ないと考えていると述べています。YouTube Kidsは、若い利用者の間で最も人気のあるネットワークであり、48%に達しています。

子供たちにとって常に人気のあるゲームは、5〜7歳の子供の41%が使用しており、この年齢層の子供の15%がシューティングゲームをプレイしています。

調査された親の76%が若い子供とオンライン安全について話し合っている一方、Ofcomは指摘していますが、子供が見たものと子供が報告できるものの間には疑問符がついています。8〜17歳の子供を調査した結果、32%の子供がオンラインで憂慮すべきコンテンツを目にしたと報告していましたが、その中で20%の親しか報告していないとのことです。

いくつかの報告の相違を考慮しても、「研究は、年長の子供がオンラインで潜在的に有害なコンテンツにさらされているということと、彼らがオンライン体験について両親と共有することの間には、不一致があることを示唆しています」とOfcomは述べています。そして、懸念すべきコンテンツは一つの課題に過ぎず、ディープフェイクも問題です。16〜17歳の子供のうち、25%がインターネット上の偽物と本物を区別する自信がないと述べています。

リサーチからの追加情報と計画に関する追加コメントを加えた更新情報。