アメリカの顔認識AI システムを開発しているClearview AI という会社が、イギリス国民の意思に反して顔写真を違法に収集しているとイギリスの規制機関から指摘されました。
この記事では、「Clearview AI はどんな会社か」「イギリス規制機関はClearview AI に何を求めているのか」「なぜそれは実現しなさそうなのか」をまとめています。
ヨーロッパは世界的にプライバシーへの関心が強く、アメリカの会社がデータを独占的もしくは不当に入手していることにとても敏感に反応します。
つまり、アメリカ発信のニュースだけではなく世界中のニュースに触れることで、世界をより多角的に捉えることができます。
ニュースを読んでいてつまづきそうな英語表現の意味と例文は後程紹介するので、まずは今回のニュースの概略を掴みましょう。
記事を読む前に: Clearview AI とは
Clearview AI は2017年に創立された、犯罪捜査を強化するために顔認識(facial recognition)ソフトウェアを法執行機関(law enforcement)へ提供するアメリカを拠点とした民間会社(privately owned/held company)です。その顔認識技術を支えているのはClearview AI のサイトによれば100億、今回の記事やWikipediaによると200億をも超える大量の顔写真から学習したAIです。
そもそも、AIの精度は「学習方法の設計」と「学習するデータの量」に裏打ちされますが、顔写真などのプライバシーと直結するようなデータを大量に集めるハードルは前者と比べ物にならないほど高いです。なぜなら「学習方法の設計」はとても優秀なエンジニア1人でできたとしても、学習用データの調達には何千万から何億もの人間の同意が必要だからです。
そのような課題の解決法として、Clearview AI は「AIを学習させるために使用している顔写真データはインターネットに公開されているニュースサイトや顔写真サイト[1]mugshot websites: 主に警察が持っている犯罪者などの顔写真を掲載せれているWebサイト、https://www.mugshots.org/ など、SNS(social media)、オープンソース[2]open source: 全ての人が使用でき、その内容を変更したものを配布することが許可されたもの。商用利用を制限しているものもある。から取得している」と同ページで表明しています。
もちろん、SNSに公開している写真だからといって法的執行機関へ自分の顔写真を使うことを許可したことにはならないため、Twitterは2020年1月に、Facebook, YouTube は翌月の2月にClearview AI へ停止通告書(cease and desist letter)を送っています。
これから紹介する記事では、イギリスが国民の顔写真がClearview AI に無断で使われていることを告発し、損害賠償を求めたというニュースです。
概要: なぜ規制機関は数十億もの写真を入手しているAI会社を止めることができないのか – Times
今回の記事ではClearview AI の他にも主人公がいます。ICO(Information Commissioner’s Office)こと英国個人情報保護監督機関です。
日本にも似たような機関として個人情報保護委員会がありますが、どちらかというと個人情報が漏れがないかなどを調査してその国に報告するくらいです。
しかし、ICO は国民のデータが使われていると普通に罰金を課します。(ICOに関わらず、最近のEUはアメリカのIT企業に何かとルールを課す傾向にあります)
規制側とClearview AI の言い分
イギリス国民のプライバシーデータを商用利用するのはいただけない。そもそも国民に何も知らせずに顔写真を入手するのは不当だ！以下のことを要求する！
- £7,500,000(7.5 million pounds)[3]日本円で約¥12億(1£=¥167)、米国ドルで$940万(£1=$1.25)の賠償金
- イギリス国民の更なる顔写真の取得禁止
- 既に保持しているデータの全削除
私たちは法的執行機関が迅速に容疑者や目撃者、被害者の特定できるよう助け、事件をいち早く解決し、コミュニティを安全に保っているんですよ。
それにいかなる罰金も課すのは法律的に間違ってますよね。
そもそもClearview AI はICO の司法権(jurisdiction)の対象でありませんし、現時点でもイギリスでビジネスをしているわけではないんですよ。
あと2番目と3番目は普通に無理です。
写真に写り込んでいる人がイギリス人かどうかは私たちもわからないんで。
いやでもこの手のAIはかなり多い頻度で人の色を誤判別し、誤認逮捕に繋がりかねない。
そうならないための200億ものデータなんですよ。
いろんな人種の画像を幅広く揃えることで、AIが人種によって偏った判別[4]bias: データの偏りによってAIの判別に偏りができることをしないように訓練してるです。
そうでなくても写真が盗まれるリスクや、政府や法的執行機関の新しい侵害的な監視(intrusive surveillance)[5]intrusive surveillance: 警察が、特定の人物が住宅地や車内の中にいるかを監視することの形になる。
正直それ言ったらTwitter もFacebook もなんでもアウトじゃん…
これからの動き
- 前述の通りClearview AI の弁護士はICOの決定を受け入れおらず、上記の3つの要請に応じるとも応じないとも言えない。
- イリノイ州(Illinois)では顔写真を第三者が許可なく使うことを制限する法律があったため、Clearview AI は5月の頭に「イリノイ州のユーザーは検索結果に表示されることを許諾しない(opt out)[6]opt out: ユーザーが自分の情報を利用されるときに許可しないこと。反対に、許諾することは“opt in” という。ことができる」ことを認めたが、アメリカ全体として共通のプライバシーに関する法律はまだない。
- イタリアやフランスも同じように罰金を課していることなどからも、国を跨いだ協定(transnational agreement)が必要になる
- しかし、「インターネット上のデータを使ったAI の禁止はやりすぎであり、顔認識技術は法やルールに適った(legitimate)使い方があるはず」だと指摘する専門家もいる
まとめ
- イギリスの個人情報保護監督機関(ICO)はClearview に「約12億円の罰金」「これからのイギリス国民のデータの取得の禁止」「今保持しているイギリス国民の顔写真の削除」を求めている
- Clearview AI 側としては「Clearview AI はアメリカの会社であり、ICO の要求は不当である」と罰金を払うことを認めていない
- さらに、技術的にも画像に写っている人間の国籍を判別することは難しいため、他の2つについても難航すると思われる
Terminology
| ↑1 | mugshot websites: 主に警察が持っている犯罪者などの顔写真を掲載せれているWebサイト、https://www.mugshots.org/ など |
|---|---|
| ↑2 | open source: 全ての人が使用でき、その内容を変更したものを配布することが許可されたもの。商用利用を制限しているものもある。 |
| ↑3 | 日本円で約¥12億(1£=¥167)、米国ドルで$940万(£1=$1.25) |
| ↑4 | bias: データの偏りによってAIの判別に偏りができること |
| ↑5 | intrusive surveillance: 警察が、特定の人物が住宅地や車内の中にいるかを監視すること |
| ↑6 | opt out: ユーザーが自分の情報を利用されるときに許可しないこと。反対に、許諾することは“opt in” という。 |
Picked up 英会話
was fined $~: ~ドルの罰金を課せられた
The company (中略) was fined £7.5 million ($9.4 million) by a U.K. regulator on May 26.
その会社は、イギリスの規制機関から5/26に750万ポンドの賠償金を課せられた。
“was found” は「“find” された/見つかった」という意味ですが、”was fined” は「“fine” された/罰金を課せられた」という意味です。
fine は「罰金を課す」という動詞の他にも、名詞としても使えます。
例: “My friend lent me to pay a ¥30,000 fine for speeding and I haven’t returned the money.”
(スピード違反で3万円の罰金を払うために友達からお金を借りたんだけどまだ返せてない。)KUSO野郎め…
without consent: 承諾なしに
Hartzog says that facial recognition tools add new layers of surveillance to people’s lives without their consent.
ハーツォグ氏は「顔認識ツールは、許諾もしていない人々への新たな監視の層を加えることになる」と言っている。(ここで言う”監視の層”とは、地域住民の監視や警察の監視などに加えて、AI による監視という仕組みが増えるという意味)
ビジネス系(笑)の人がよく使うコンセンサスconsensus という言葉は「皆が合意している」状態を表すのに対し、consent は「個人が(本当はそれが嫌でも)許容している」状態を表しています。
この「許容 consent」と「許可 permission」の違いが分かりにくい人のために、オンラインショップがある日から商品を全て値上げした例を使って説明してみます。
もし、あなたがそのショップで商品を買うときに「値上げしたことを認識し」「その値段でも仕方ないと納得して」買えば許容している状態です。
反対に、発売価格を設定し直す前に注文していたけど、まだ届いていない商品の代金を高くして請求するのはwithout consent です。
しかし同じ状態でも、会社が客に「値上げさせてもらえませんか？」とお願いし、客がそれを認めれば許可したということになります。
今回の状況でwithout consent が使われるのは、Facebook を使っている人に自分の顔写真を見られるのは許可したけど、それ以外の会社の人が自分の写真を使って何かすることは承諾すらしていない、仕方ないとも思えない状態だからです。
if ~ were to do: (ありえないけど)~が〇〇したら
It would be a significant win if (中略) Clearview were to delete U.K. residents’ data.
Daniel Leufer
もしClearview AI 社がイギリス住民のデータを消すことがあれば、それは大勝利と言えよう。
“if ~ were 〇〇, I/you/it would ××”はよくセットで出てきます。
例文: “If I were to return the money, you would waste money more than ever.” 「もし僕がお金を返そうものなら、君は今までよりももっとお金を無駄遣いするだろ？」KASUかよ。
主語がなんであれ”were” にすることだけは覚えておきましょう。ありえないことが文法上でも起きてしまった感じですね。
似たような文として“if ~ should do” がありますが、違いは「超低確率で起きたら」という感じです。なのでどれほどその現象が起こりそうか、その現実味はどれくらいあるかで以下のように使い分けます。
- 60 ~ 100%: “It is a significant win when Clearview delete U.K. residents’ data.”
- 30 ~ 60%: “It will be a significant win if Clearview delete U.K. residents’ data.”
- 5 ~ 30%: “It would be a significant win if Clearview should delete U.K. residents’ data.”
- ~ 5%: “It would be a significant win if Clearview were to delete U.K. residents’ data.”
このことを言ったポリシー分析官も、Clearview AI がデータを消すのは現実的じゃないという見方をしていることがわかりますね。
記事の全文は以下のサイトになります。ぜひこのページと照らし合わせながら読んでみましょう。
プライバシーと治安維持に関しての筆者の意見
人々のプライバシーを出しにして利益を得ているClearview AI は批判されるべきだとは思います。
なのでClearview AI はいっそのことCIA やFBI システムやエンジニアごと買収されてしまえばいいのではというのが筆者の最終意見ですが、もう少しプライバシーと治安維持の関係について考えてみようと思います。
結論から申し上げると、プライバシーを要求するにはそれなりの治安維持を努めるのが共同体の一員としての義務だと考えています。なので僕はゴミをポイ捨てしたり、(禁止されている区域での)路上喫煙している人間にプライバシーはないと思っています。
プライバシーやAI について考えるためにも、アメリカやEU と反対の姿勢をとっている中国の事例を見てみましょう。
中国では信号無視した人の顔が大きなスクリーンに表示されるようになっています。
さらに、中国の交通省(Traffic authorities)は違反者のソーシャルスコアを減点することまで考えているとのことです。ソーシャルスコアが下がれば銀行の融資や不動産の審査などが通りにくくなり、逆にソーシャルスコアが上がれば一時保証金なしに借りれるもの(金、レンタルカーやレンタルバイク)が増えていきます。
実は似たような仕組みは日本にもあります。自動速度違反取締装置、通称オービスです。
高速道路で大幅なスピード違反を犯した車両のドライバーの顔写真とナンバープレートを撮影し、後日呼び出し状が郵送されて違反処理が行われます。
運転免許がゴールドなら保険費用も安くなり、免許更新も楽になりますが、違反があれば保険に入るもの難しくなり、免許更新の手間も増えます。
両者の違いは、違反者発見からスクリーンへの表示が全自動で行われているのに対して、オービスは写真を撮影した後に人間が関与しているためコストが(余分に)かかっていることです。コストがかかるということは、治安維持のための監視の目を増やすことができない、もしくはより多くの税金を徴収されることを意味します。(もちろん罰金を高くすることもできますが、違反者が少ない状態では罰金として実際に徴収できる金額にも限度があります)
読者の皆さんの中で、「駅中でスリにあった」「歩道でひったくりにあった」「信号無視した車に轢かれそうになった」「禁煙区域での喫煙者のせいで健康被害が出た」などの経験をしたことはありませんか？
ルールを破った人が逃げおおせて、ルールを守っている人だけが損をしているのはシステム的に欠陥があるからではないでしょうか？
監視されないと治安を維持できないのは残念ですが、統計的にルールを違反する人が多い国(アメリカ、中国)や地域(日本の車道、歩道、駅周り)では監視の目が必要であり、効果的かつ税金をなるべく使わずに取り締まるなら監視カメラとAI、ひいては日本国民一律のソーシャルスコアが必要だというのが筆者の結論です。
国の暴走が怖いからと言って技術を抑制するのではなく、どのように透明性と責任を持って国が顔認識システムを有効活用するかを議論する方がよっぽど建設的だと思います。
それでもプライバシーがという人は、知名度のある人の意思に関わらず写真を撮る輩や〇〇文春を撲滅することをから始めましょう。「有名人だから仕方ない」という言い訳より「治安維持のために仕方ない」という理論の方がよっぽどまともだと思います。「1人我慢するだけで100万人が幸せになるならそれでいい」という人もいますが、なら1億人が我慢して1億人が幸せになってもいいと思います。
その他、参考リンク
この記事の他にも英語で読もう世界のニュースシリーズでは、世界のニュースを翻訳機を使わずに読めるよう、「記事の概要」と「初心者がつまづきやすい英語の表現」を紹介しています。
世界情勢や科学・テクノロジーについて理解を深めながら楽しく英語を学んでいきましょう。
当サイトで取り上げた記事のほか、Twitter でもさまざまな情報を発信していますのでよろしければフォローをお願いします。
ナリこん: @_nariaki_k
マサ: @masa_fpp03
