ニューヨーク/アンマン（トムソン・ロイター財団） - 爆撃や抗議活動から新しい医療センターの開設まで、学生ジャーナリストのバラ・ラズーク氏はシリアのイドリブでの日常生活を何年も記録し、自身のYouTubeアカウントに動画を投稿してきた。
しかし今月、この21歳の学生のもとにYouTubeから自動メールが届き、動画がポリシーに違反しており削除されるという警告が届いた。今月の時点で、10本以上の動画が削除されたと同氏は語った。
「（シリアの）抗議活動を動画で記録することは本当に重要です。また、政権軍による攻撃を記録することも重要です」と同氏はトムソン・ロイター財団との電話インタビューで語った。「これは私が世界に向けて記録したものでしたが、今は削除されています」。
YouTube、Facebook、Twitterは3月、新型コロナウイルス感染症のパンデミックによりオフィスを閉鎖し、自動削除ソフトウェアに頼らざるを得なくなったため、動画やその他のコンテンツがポリシー違反で誤って削除される可能性があると警告した。
しかし、こうしたAI対応ツールは、ラズーク氏の動画のような人権や歴史に関する記録を、テロリストのコンテンツのような問題のあるコンテンツと混同するリスクがある。特にシリアやイエメンのような戦争で荒廃した国ではそうだと、デジタル権利活動家らは警告している。
「AIは文脈を理解できないことで有名だ」と、中東の紛争地帯の動画をアーカイブする非営利団体シリア・アーカイブの研究員ジェフ・ドゥイッチ氏は述べた。
「AIは投稿の歴史的、政治的、言語的背景を判断できないことが多い。人権に関する記録と暴力的過激派の提案は、区別がつかないことが多すぎる」と、同氏は電話インタビューで述べた。
国際刑事裁判所や国連などの国際機関が権利侵害の正式な証拠として使用している動画などのコンテンツは、誤った削除によって危険にさらされると、デジタル権利団体ウィットネスのディア・カヤリ氏は述べた。
「これは最悪の事態だ」と、技術・擁護コーディネーターの同氏は述べた。
トムソン・ロイター財団がラズーク氏のアカウントをYouTubeに報告した後、広報担当者は、同社が誤って動画を削除したが、削除に対して社内手続きで異議申し立ては行われなかったと述べた。同社は現在、ラズーク氏の動画17本を復元している。
「当サイトには膨大な数の動画があるため、誤った判断を下すこともあります」と広報担当者は電子メールでコメントした。「動画が誤って削除されたことがわかった場合、当社は迅速に対応して復元します。」
削除
近年、ソーシャルメディアプラットフォームは、暴力的なコンテンツや偽情報をプラットフォームから迅速に削除するよう政府から圧力を受けており、AIシステムへの依存度が高まっている。
自動化ソフトウェアの助けを借りて、YouTubeは年間数百万本の動画を削除しており、Facebookは昨年、テロリストのコンテンツの投稿などの規則違反を理由に10億を超えるアカウントを削除した。
昨年、ソーシャルメディア企業は、ニュージーランドのクライストチャーチにある2つのモスクで銃撃犯が51人を殺害したテロ攻撃のライブストリーミングがFacebook上で行われた後、過激派のコンテンツをブロックすることを約束した。
各国政府もこれに追随し、フランスのエマニュエル・マクロン大統領は、ソーシャルメディアプラットフォームでの違法コンテンツや虚偽情報の拡散を阻止するリーダーとしてフランスを位置付けると誓った。
しかし、同国の最高裁判所は今週、ソーシャルメディア大手に憎悪的なコンテンツを24時間以内に削除するよう義務付ける法案の大半を却下した。
Facebookなどの企業も、差し迫った身体的危害につながる可能性のあるコロナウイルスの発生に関する誤情報を削除することを約束している。
これらの圧力とパンデミック中のAIへの依存度の高まりが相まって、人権コンテンツは特に危険にさらされているとカヤリ氏は述べた。
コンテンツの追跡
ソーシャルメディア企業は通常、AIツールがコンテンツを誤って削除 する頻度を明らかにしていない。
そこでシリア・アーカイブ・グループは、約10年にわたる戦争で疲弊したシリアで犯された犯罪に関する人権文書の削除率の経時的変化を、独自のデータを使って概算している。
同グループは、ソーシャルメディア・プラットフォームに人権コンテンツを投稿するアカウントにフラグを立て、投稿をサーバー上にアーカイブする。削除率を概算するために、毎月元の投稿にpingを送信し、削除されたかどうかを確認するスクリプトを実行する。
「私たちの調査によると、今年初めから、YouTube上のシリア人権文書のコンテンツ削除率はほぼ2倍（13％から20％）になった」とドゥイッチ氏は述べ、この増加を「前例のない」ものと呼んだ。
シリア・アーカイブは5月、YouTube上の35万本以上の動画が消えたことを検出した。これは、シリアでの空襲、抗議活動、民間人の家屋の破壊の動画など、2019年5月の20万本から増加している。
ドゥイッチ氏は、イエメンやスーダンなど、この地域の他の戦争で荒廃した国でもコンテンツが削除されているのを見たことがあると述べた。「紛争地帯のユーザーはより脆弱です」と同氏は述べた。
アムネスティ・インターナショナルやウィットネスなどの他の団体も、サハラ以南のアフリカを含む他の地域での傾向について警告している。
シリア・アーカイブは、Facebookでの削除をテストできなかった。外部の研究者はFacebookのアプリケーション・プログラミング・インターフェース（API）へのアクセスが制限されているからだ。
しかし今月初め、シリア人は「Facebookはシリア革命と戦っている」というハッシュタ グを使って、Facebook上で同様のコンテンツが削除されたことを知らせ始めた。
先月、ホワイト・ヘルメット緊急対応グループに所属するシリア人人道支援活動家ヤヒヤ・ダウド氏は、シリアのバッシャール・アル・アサド大統領の軍がホウラ地域で2012年に虐殺し、死亡した女性の投稿と写真をシェアした。
ダウド氏は、2011年からシリアでの生活を記録するために使用していた自分のアカウントが、説明もなく自動的に削除されたと述べている。 「私はFacebookをアーカイブとして頼りにしていた」と彼は語った。
「友人の死、避難した日、母の死など、多くの思い出が失われた」と彼は語り、Facebookの自動苦情システムを通じてこの決定に異議を申し立てようとしたが失敗したと付け加えた。
Facebookはコメント要請に応じなかった。
「私たちは彼らの声を聞いていない」
研究者らは、誤ったコンテンツ削除のほんの一部しか検出できないと述べている。
「私たちはどれだけの人々が発言しようとしているのかを知らず、彼らの声を聞いていない」とカリフォルニア大学バークレー校人権センターのディレクター、アレクサ・ケーニグは語った。
「これらのアルゴリズムは、私たちが見る前にコンテンツを取得している」とケーニグは語った。同センターは、シリアなどの紛争地域から投稿された画像や動画を使用して人権侵害を記録し、訴訟を起こしている。
YouTubeによると、2019年第2四半期には、AIがフラグを付けた動画の80％が誰にも見られずに削除されたという。
ケーニグ氏は、これらの動画の削除が世界中で進行中の捜査を危険にさらす可能性があると懸念している。
2017年、国際刑事裁判所は、リビアの司令官マフムード・アル・ウェルファリ氏の動画がFacebookで公開された後、主にソーシャルメディアの証拠に基づく初の逮捕状を発行した。
動画には、ベンガジの自動車爆弾現場で目隠しされた囚人10人を射殺する同氏の姿が映っていたとされる。同氏は現在も逃亡中だ。
ケーニグ氏は、こうした記録が今や脅威にさらされていると懸念している。「ほんの数カ月前よりも危険ははるかに高まっています」と同氏は語った。
「このコンテンツの保存に必要なレベルに近づいていないことを知ると、気分が悪くなります」