「Web上で私たちが孤立しないためにアルゴリズムが倫理観念を持つことが求められています」パリザーはこう語りかけます。ここでは、200万ビューを超える Eli Pariser のTED講演を訳し、カスタマイズという「フィルターに囲まれた世界」への注意を喚起する。
要約
インターネット企業が私たちの好みに合わせてサービス（ニュースや検索など）をカスタマイズしようと努めるにしたがい、思いもよらぬ害が出てきています。私たちは「フィルターに囲まれた世界」に閉じ込められ、自己の世界観に疑問を投げかけたり視野を広める情報に触れる機会を失っているのです。結果的に私たちのためにならず、民主主義にも悪影響を及ぼすことになるとイーライ・パリザーが強く訴えます。
Pioneering online organizer Eli Pariser is the author of “The Filter Bubble,” about how personalized search might be narrowing our worldview.
１ 「なぜそんなに重要なんですか？」
マーク・ザッカーバーグが ニュース配信について質問されていました。 「なぜそんなに重要なんですか？」 ジャーナリストが聞くと ザッカーバーグは答えました。「今あなたの関心事は アフリカで死に瀕した人々よりも 家の庭で死にかけているリスかもしれないでしょう」。この関連性の考え方をもとにした ウェブとはどういうことか話したいと思います。
２ 保守派はいなくなってしまいました
メイン州の片田舎に住んでいた 僕にとって、子どもの頃 インターネットは全く違う意味を持ったものでした。世界へのドアであり 人々を繋げるものでした。民主主義と僕たちの社会に 大きく役立つに違いないと思っていました。でも見えないところで インターネットでの 情報の流れに変化がありました。注意しないと 大きな問題になるかもしれません。これに初めて気づいたのは僕がいつも使っている Facebookのページでした。見た目どおり 僕は政党的には進歩派ですが 進んで保守派と交流しています。保守派の考えを聞いたり 何にリンクしているか見たり 何か学びたいと思っています。ですから ある日僕のFacebookの配信から 保守派の人たちが消えてしまって驚きました。何が起こったのかと言うと 僕がどのリンクをクリックしているかFacebookがチェックしていて、実際に保守派より リベラル派の友達のリンクを クリックすることが多いと気づき、僕に何の相談もなく 保守派を削除していたのです。保守派はいなくなってしまいました。
３ Googleは57個のシグナルをチェックしている
このように目に見えないところで アルゴリズムによるウェブの 編集をしているのはFacebookだけではありません。Googleもしています。何かの検索をするにしても 僕とあなたでは たとえ今同時に検索しても かなり違う結果になる可能性があります。あるエンジニアによると ログオンしてなくても 57個のシグナルを Googleはチェックしているそうです。どんなPCを使っているか どのブラウザを使っているか 現在地は何処かなどによって 検索結果を調節しているのです。ちょっと考えてみてください。もう標準のGoogle検索はないのです。そして妙なことに これは認識しにくい現象です。自分の検索結果がどれほど 他人のものと違うかわかりません。
４ 「エジプト」検索結果の比較
でも数週間前 Googleで「エジプト」と検索したスクリーンショットを 送ってもらうよう大勢の友人に頼みました。これが友人スコットのスクリーンショットです。こちらはダニエルからのスクリーンショットです。並べて見てみると リンクを読むまでもなく ２つのページの違いに気づきます。でも実際リンクを読むと 本当に驚きます。ダニエルのGoogle検索結果の最初のページには エジプトのデモ関連記事が全くなく スコットの方はそればかりでした。この頃大きな話題だったのにです。これほど検索結果は異なってきています。
５ 多くの企業がカスタマイズしている
GoogleとFacebookだけではありません。これはウェブ全体で起こっています。多くの企業がこのようなカスタマイズをしています。Yahoo！ニュースはネット最大のニュースサイトですが 今ではカスタマイズされた違う内容を提示しています。Huffington Postや Washington Postや New York Timesも 様々な形でカスタマイズを試みています。その結果 インターネットは私たちが見たいものを 予測して見せているが、それは必ずしも私たちが見る必要があるものでない という状況に急速に変わってきています。エリック・シュミットが言うように 「全く何のカスタマイズもされていないものを 人々が見たり利用したりするのは とても難しくなる」でしょう。
６ 「フィルターに囲まれた世界」
ですからこれは問題だと思います。このようなフィルターやアルゴリズムを 全部集めてできるのは 「フィルターに囲まれた世界」だと思うのです。そしてこの「囲まれた世界」がネット上での あなた個人独特の 情報世界となるわけです。さらに自分の世界に何が含まれるかは 自分が どんな人で何をしているかによって決まります。でも何が取り入れられるかは自分次第でないのが問題です。もっと重要なのは 何が削除されるか自分には見えないことです。フィルターによる問題の１つは Netflixのデータアナリストたちに発見されました。発送待ち段階で妙なことが起こっていたのです。気づいていた人も多いでしょうか。映画によってはDVDが すぐに発送されて家に届きます。オーダーが入るとすぐに発送されます。ですから「アイアンマン」はすぐ届くのに 「ウェイティング・フォー・スーパーマン（原題）」は 待ち時間がとても長いことがあります。
７ 最良の編集は両面を見せるもの
データアナリストたちが DVDの発送待ち段階で見たのは 利用者の計画的な向上心と もっと衝動的な今の欲望が 大きく対立している状況でした。「羅生門」を観たことがある人に なりたいと思う一方、今は ４回目の 「エース・ベンチュラ」を観たいわけです（笑）。最良の編集は両面を見せるものです。ジャスティン・ビーバーを少し アフガニスタンを少し ヘルシーな情報と デザート的情報も提供するわけです。アルゴリズムでカスタマイズされた フィルターの問題点は、利用者が何を最初に クリックしたかを主に参考にしているため そのようなバランスを崩してしまうことです。バランスのとれた情報摂取の代わりに ジャンク情報ばかりに 囲まれてしまうこともあり得ます。
８ アルゴリズムはまだ倫理観念を持っていない
つまりインターネットに対する 我々の見解は実は間違っているのかもということです。放送社会の 創設神話はこんな感じです。「放送社会では 門番である編集者によって 情報の流れがコントロールされていました。でもインターネットが現れ 門番を追い払ったので、素晴らしいことに 私たちは 繋がり合えるようになりました」。でも今 実際にはそうなっていません。私たちが目にしているのは どちらかと言うと 人間の門番からアルゴリズムの門番に バトンが渡されている状況です。そして問題なのはアルゴリズムは 編集者が持ち合わせていた倫理観念を まだ持っていないということです。ですから世界の情報をアルゴリズムが監修して 私たちが何を見て 何を見ないか決めるのなら、アルゴリズムが関連性以外の要素も 使用するようにしなくてはなりません。見たくないものや難しいもの 重要なものなども提示するようにしなくてはだめです。TEDが異なる視点を 見せていることと同じです。
９ 適切な情報で民主主義は機能する
過去我々は同じ問題に 直面しています。1915年当時 新聞は市民としての義務について あまり考えていませんでした。でも人々は新聞が 重要な役割を果たしていることに気づきました。つまり 市民が 適切な情報を得ていないと 民主主義は機能しないということです。よって 情報のフィルターを行う新聞は重要なのです。そしてジャーナリズムの倫理ができました。完璧ではありませんでしたが １世紀の間このやり方をしてきました。ですから現在私たちは ウェブ上での1915年に直面しているようなものです。プログラムを書く上で このような責任を 組み込んでくれる新しい門番が必要なのです。
10 Web上で私たちが孤立しないために
会場にはFacebookとGoogleからの出席者も大勢います。ラリーやサーゲイのように 今あるウェブの構築に 貢献した人々には感謝しています。でも私たちは彼らに これらのアルゴリズムに 生活や市民の義務が組み込まれているように しっかり確認してもらいたいのです。アルゴリズムが明白で何が入ってくるかを決める フィルターのルールが 理解できるようにして欲しいのです。さらに自分で何が削除されて 何がされないか決められるように 管理できるオプションを提供してもらいたいです。これも インターネットが私たちの 思い描いていたようなものに なってもらう必要があると思うからです。みんなを繋ぐものであり 新しいアイデアや人々 そして 異なる視点を提示するものであるべきです。これを達成するには ウェブ上で私たちが孤立しないようにするべきです。 ありがとう。
最後に
アルゴリズムが倫理を持つことを待望・貢献しつつ、できることはこちらで対策しよう。例えば、複数の観点がある偏見を持つとかね。
和訳してくださった Sawa Horibe 氏、レビューしてくださった Takafusa Kitazume 氏に感謝する（2011年5月）。
 |
