先週、MetaはWhatsApp、Instagram、Messengerを通じてインドでAIチャットボットのテストを開始しました。しかし、今日インドの総選挙が始まるにあたり、同社は既にチャットボット内で特定のクエリをブロックしています。

Metaは、テスト段階でAIの特定の選挙関連キーワードを制限していることを確認しています。同社はまた、AI応答システムを改善する取り組みを行っていると述べています。

会社の広報担当者はTechCrunchに対して、「これは新しい技術であり、常に意図した応答を返さないことがあります。これは、すべての生成AIシステムに当てはまるものです。私たちがリリースして以来、モデルのアップデートと改善を継続的に行っており、その向上に取り組んでいます」と語っています。

この動きにより、このソーシャルメディア大手は主要な選挙に備えて自社の生成AIサービスの範囲を積極的に制限する最新のビッグテック企業となりました。

批評家の中での大きな懸念の1つは、GenAIがユーザーに誤解を招くか、または完全に間違った情報を提供する可能性があることであり、これは違法で歓迎されない形で民主的プロセスに関与することになります。

先月、Googleはインドや他の選挙が今年行われる市場でのGeminiチャットボットエクスペリエンスでの選挙関連クエリをブロックし始めました。

Metaのアプローチは、選挙に向けて許可および許可されないものについて発表した大きな努力に続くものです。同社は、どの国でも選挙の1週間前に政治広告をブロックすることを誓い、広告やその他のコンテンツの画像がAIで作成されたものであるかどうかを特定し、開示する取り組みを行っています。

MetaによるGenAIクエリの取り扱いは、ブロックリストを中心に展開されているようです。Meta AIに特定の政治家、候補者、公職者、および特定の他の用語について尋ねると、選挙委員会のウェブサイトにリダイレクトされます。

「この質問は一般選挙中の政治的な人物に関連している可能性があります。次のリンク https://elections24.eci.gov.in にアクセスしてください」と応答されます。

特筆すべきは、会社が党名を含む質問への応答を厳密にブロックしていないことです。ただし、クエリに候補者の名前や他の用語が含まれている場合は、上記の定型文回答が表示される可能性があります。

しかし、他のAIパワードシステムと同様に、Meta AIにもいくつかの不整合があります。たとえば、TechCrunchが「インディ・アライアンス」という複数の政党で構成される政治連合についての情報を求めた際、政治家の名前が含まれた情報で回答がありました。しかし、別のクエリでその政治家について尋ねると、チャットボットは情報を返さなかったとしています。

今週、同社は米国など1ダース以上の国で新たにLlama 3を搭載したMeta AIチャットボットを展開しましたが、インドはそのリストから漏れていました。Metaは、今のところそのチャットボットが国でテスト段階にあると述べています。

会社の広報担当者はTechCrunchに対して、声明でこう述べています。「私たちはインドでのユーザーテストから学び続けています。多くのAI製品や機能と同様に、それらをさまざまな段階で、限られた容量で一般にテストしています」と述べています。

現時点では、Meta AIは「ジョー・バイデンについて教えて」といった米国関連の用語に関する選挙についてのクエリをブロックしていません。Metaは米国の選挙中または他の市場でMeta AIクエリを制限する予定があるかどうか会社に尋ねました。返答があれば、ストーリーを更新します。