メタ、偽のAI動画の監視強化を促す

1日前

シェア保存

ケイリー・ヘイズ テクノロジーレポーター

シェア保存

ロイター

メタは、自社プラットフォーム上で人工知能（AI）ツールを用いて作成された偽コンテンツの「拡散」に対処するために、より積極的な対応を取るべきだと、同社のアドバイザーが指摘している。

21人の監視委員会は、イスラエルのハイファでイラン軍による甚大な被害を示すと主張するAI生成動画をラベル付けせずに公開したことを非難し、懸念を表明した。

同委員会は、AI規則の抜本的な見直しを求め、世界的な軍事紛争に関連した偽のAI動画の増加が「虚偽と事実の区別を困難にし…全ての情報に対する不信感を招く危険性がある」と警告した。

メタは、問題の動画には7日以内にラベルを付けると述べた。

メタは2020年に、Facebook、Instagram、WhatsAppを含むプラットフォーム上のコンテンツモデレーションの監督を行う半独立の監視委員会を設立した。

この委員会は、メタの判断にしばしば異議を唱えるが、それにもかかわらず、同社はコンテンツの監視方針を緩め続けており、委員会の実権について疑問が投げかけられている。

委員会は、ハイファの動画に対する同社の対応について、「武力紛争時のメタの現行アプローチの非効率性」を以前から指摘していた問題を再浮上させた。

現在、メタは、ユーザーが投稿したコンテンツがAIツールによって作成されたことを「自己申告」することに大きく依存している。そうでなければ、誰かがコンテンツモデレーションチームに通報し、その内容にラベルを付ける決定を下すのを待つ仕組みだ。

委員会は、偽のAIコンテンツには「はるかに頻繁に」ラベルを付けるべきだと述べた。

また、現行の方法は、「特に危機や紛争時において、プラットフォーム上の関与が高まる中、AI生成コンテンツの規模と速度に対処するには『十分に堅牢でも包括的でもない』」とも指摘した。

この問題に関する委員会の調査は、昨年6月にフィリピンに拠点を置くFacebookアカウントが投稿した動画をきっかけに始まった。

これは、紛争開始後に投稿された一連の偽AI動画の一つで、内容はイスラエル寄りまたはイラン寄りのもので、当時のBBCの分析によると、少なくとも1億回の視聴を集めていた。

AI生成であり、実際の内容ではないにもかかわらず、メタは複数のユーザーからの苦情を受けたにもかかわらず、その動画にAI生成のラベルを付けたり削除したりしなかった。

Facebookのユーザーが直接監視委員会に訴え、委員会が問題を取り上げて初めて、メタは対応を始めたと委員会は述べている。

その後、同社は、ほぼ100万回の視聴を集めたその動画にはラベルを付ける必要はなく、「差し迫った身体的危害のリスクに直接寄与しない」として削除も不要だと主張した。

しかし、委員会は火曜日、武力紛争をテーマにした場合、AI生成コンテンツに「高リスクAIラベル」を付けるべきだと判断した。

「メタは、プラットフォーム上の欺瞞的なAI生成コンテンツの拡散に対処するために、より積極的に取り組む必要がある…ユーザーが真実と偽情報を見分けられるようにするためだ」と述べた。

メタは声明で、今後「同じ文脈で同じ内容」の「類似」コンテンツに遭遇した際には、委員会の提案に従うと表明した。

規制当局、メタに対し、従業員が親密なAIグラスの動画を視聴している件で連絡

海外の「コンテンツファーム」が政治的ディープフェイクを作成

ザッカーバーグ、画期的なソーシャルメディア中毒裁判でメタを擁護

ソーシャルメディア

イスラエル

人工知能

プロパガンダ

メタ

マーク・ザッカーバーグ

フェイスブック