中国がAIを利用して米国、韓国、インドの選挙を妨害するだろうとマイクロソフトが警告
「中国がAIを利用して米国、韓国、インドの選挙を妨害するだろうとマイクロソフトが警告」とThe Guardian紙が報じています。
China will attempt to disrupt elections in the US, South Korea and India this year with artificial intelligence-generated content after making a dry run with the presidential poll in Taiwan, Microsoft has warned. The US tech firm said it expected Chinese state-backed cyber groups to target high-profile elections in 2024, with North Korea also involved, according to a report by the company’s threat intelligence team published on Friday. “As populations in India, South Korea and the United States head to the polls, we are likely to see Chinese cyber and influence actors, and to some extent North Korean cyber actors, work toward targeting these elections,” the report reads.
マイクロソフトが警告するところによれば、中国は台湾の大統領選挙を事前に試験運用した後、今年、人工知能生成のコンテンツを利用して米国、韓国、そしてインドの選挙を妨害しようとするでしょう。
この米国のテック企業は、金曜日に発表された同社の脅威インテリジェンスチームの報告によれば、中国の国家支援を受けたサイバーグループが2024年に高いプロファイルを持つ選挙を標的にし、北朝鮮も関与すると予想しています。
報告書には、「インド、韓国、米国の人々が投票に向かう中、中国のサイバー攻撃者や影響力のある攻撃者、そしてある程度は北朝鮮のサイバー攻撃者がこれらの選挙を標的にしようと活動するのを目にする可能性がある」とあります。
China will use AI to disrupt elections in the US, South Korea and India, Microsoft warns | Technology | The Guardian
AIによって生成されるコンテンツの質の向上は我々クリエイターにとって便利でよろこばしいことですが、一方で様々なところでAIが活用されるようになるにつれてこのような問題も増えるでしょう。
「YouTube」がリアルなAI生成動画へのラベル付けを義務化
2024年03月18日にYouTubeがリアルなAI生成動画へのラベル付けを義務化することを発表したことも記憶に新しいところです。( How we’re helping creators disclose altered or synthetic content )
「YouTube」、リアルなAI生成動画へのラベル付けを義務化 – CNET Japan
「YouTube」では、人工知能（AI）を使用して本物と見紛うような動画を投稿する場合、その情報を開示することが求められるようになる。YouTubeは米国時間3月18日、生成AIなどを利用して改変または合成されたリアルな動画へのラベル付けを義務付けると発表した。そのための新たな機能を「Creator Studio」に追加している。
ラベルは、動画の説明欄や動画プレーヤー上に表示される。クリエイターはCreator Studioでチェックボックスを選択するなどして、そのような動画がAIを使用したものであることを開示する必要がある。対象となるのは、実在の人物が実際には発言または行動していないことを発言または行動しているように見せるもの、実際の出来事や場所の映像を改変しているもの、および現実のように見えるが実際には起きていない場面を生成しているものだ。
2023年11月に最初に発表されたこの方針は、実在の人物、場所、または出来事と誤って解釈される可能性のある本物のように見える動画のみに適用される。YouTubeは例として、以下を挙げている。
- 実在の人物の肖像を使用するもの。ある人物の顔を別の顔にデジタル的に置き換えたり、ある人物の声を人工的に作成して動画のナレーションに使用したりする場合。
- 実際の出来事や場所の映像を改変したもの。実在する建造物に火災が起きているように見せたり、ある都市に実在する場所を実際と異なる外観に変更したりする場合。
- リアルなシーンを生成するもの。実在する町に近づく竜巻など、架空の大事件を描写する場合。
生成AIを使って幻想的なシーンや非現実的なシーンを作成したり、特殊効果を適用したりする場合は、開示の必要はない。そのような例としては、以下のものがある。
- アニメーションや、幻想的な世界でユニコーンに乗る人など、明らかに非現実的なコンテンツ
- 色の調整や照明フィルター
- 背景ぼかしやビンテージ加工などの特殊効果
- ビューティー加工などの視覚的補正
YouTubeは、この方針に繰り返し違反するクリエイターへの強制措置も検討するという。また、コンテンツが人々を混乱させたり誤解させたりする可能性がある場合、YouTubeがラベルを追加することもあるとしている。
同社は今後、プライバシーポリシーを更新し、個人の顔や声などを模倣したAI生成コンテンツの削除を申請できるようにする計画だ。
「YouTube」、リアルなAI生成動画へのラベル付けを義務化 – CNET Japan
さいごに
AIの発展は著しく、作り出すコンテンツのクオリティが向上し現実と見分けることが難しくなることで、このような問題は増加するでしょう。
AIは便利なツールですが、とりまく問題についても今後より一層注目が必要です。
コメント