アルゴリズムが人間を操作するとき

鄭磊

私たちの時代に生きている人はおそらくアルゴリズムを聞いたことがあるだろう。ウィチャットを開くと、指向性のある広告がよく見られます。ネットショップで本を買うと、後ろに一連のお勧めの関連図書があります。Webページを開くと、最も顕著な場所はあなたにおすすめの読書リンクです。これはデータ時代であり、ビッグデータ時代であり、アルゴリズム時代でもある。

『アルゴリズムに操られた生活』の著者はイギリス出身で、スウェーデンに定住している数学教授で、企画編集者は私が数学科出身で、金融科学技術の研究に従事していることを知っていたので、私に手伝ってもらいました。数学者が科学普及の本を書くこと自体がセールスポイントであり、数学の教材以外に数学教授が書いたベストセラーを読んだことがないという印象があります。この本には面白い例がたくさんあり、いくつかの観点は私たちが考える価値がある。

個人データは個人のプライバシーに関連しており、個人データの分析は同様に個人のプライバシーを暴露する：消費者画像と広告の方向付けは合法的ですか？これは個人データ分析がどのような効果を上げるかにかかっていると思います。このようなアルゴリズムは一般的に主成分分析と回帰分析を採用しており、この2つの方法自体は非常に先端的ではなく、多くのSNSで使用されており、フェイスブックやツイッターなど、主にユーザーを分類するために使用されている。私たちが日常的にインターネットを利用しているさまざまな活動は、実際には個人の行動データに属しており、サイトには記録が残されており、私たちの生活状態を如実に反映しています。例えば、私たちが発表した内容、いいね、情報共有などは、個人の行動、観点、好み、IQ、個性と関連しています。アルゴリズムとこれらの蓄積されたマスデータを利用して、最も冷静で理性的な角度から一人一人を見ることができます。

私たちの脳も他人を見ることができますが、脳は最大3次元しか処理できませんが、コンピュータはアルゴリズムに依存して数百次元で迅速に一人一人を分類することができます。理論的には、人の行動データは私たちのすべての感情を追跡し、消費の選択、人間関係、仕事の機会などの面で予測することができ、このようなデータが多ければ多いほど、分類は信頼できる。ソーシャルネットワークはユーザーのこれらのデータを収集し分析し、現在は法律上の明確な規定がなく、倫理面で論争がある。注目されている例は、ケンブリッジが会社の選挙操作事件を分析していることだ。同社は、インターネット指向マーケティングと小規模な世論調査データで有権者に影響を与えたと告発された。2019年7月、フェイスブックはこの件について50億ドルの罰金を科し、これまで世界最大規模のプライバシー違反の罰金となった。

各種類の市場研究とデータ分析会社は数十年前の研究者が採用した方法と違いはなく、綿密に設計されたアルゴリズムで次元ごとにソートや確率を計算することだが、現在使用されているデータ量ははるかに大きく、さらにはビッグデータを採用している。この規模では、コンピュータとアルゴリズムを用いて分析せざるを得ない。例えばフェイスブックの回帰アルゴリズムは2万人近くのいいねデータを分析し、9回のうち8回は個人の政治的立場を予測することに成功し、正確率と信頼性が非常に高い。例えばLady Gagaが好きで、スターバックスやカントリー音楽が好きな人は共和党員である可能性が高い。このように共和党員は支持を得るために、スターバックスコーヒーを飲む人に注目しなければならない。

ユーザーのソーシャルネットワークデータを収集し、ターゲット層の個性的な特徴に基づいて特定の視聴者の観点と好みに合ったコンテンツをカスタマイズして投入し、ターゲット層の行動変更を導き、アルゴリズムがこのレベルに発展すれば、明らかに私権の範囲を侵害することになる。指向性のある配信情報には広告が含まれており、特定の視聴者に有益である可能性もあれば、相手に不安を感じさせたり、怒らせたりする可能性もあります。アルゴリズムが個人データを利用して個人の行動や好みに85%の精度で予測できる場合、個人データの使用が合理的で合法的であるかどうかは際立った問題となる。個人的には、検索アルゴリズムに基づくこのビジネスモデルは、まず個人の同意を得なければならないと思います。

データアルゴリズムはほとんどの人にとって「ブラックボックス」であり、実際には現在の人工知能発展の段階にも同様の問題が存在している。例えば、深学習では、人類社会に普遍的に存在する様々な差別問題をアルゴリズムに導入する気がない可能性が高い。アルゴリズム差別は社会格差をより大きくし、社会公平に深刻な影響を与える。本の中で多くのアルゴリズム欠陥の例を示し、選挙予測を例にして、人工的に行われたサンプリング調査はアルゴリズムより実際の結果に近い。ギャラップ世論調査米大統領選の誤差は、1940年代から2020年まで低下していたが、現在はほぼ5%以下。アルゴリズムによる予測の最悪はチンパンジーのダーツ投げに似ており、好ましくは60%程度にしかならない。データアルゴリズムは、図書販売において検索最適化アルゴリズムの抜け穴を利用してランキング上位にランクインした図書など、抜け穴を掘られることもあるが、結果的には読者からのフィードバック採点がますます低くなっている可能性がある。同様の方法は学術論文の引用量を高めることができ、この指標を学術成果を審査する唯一の基準とすることは、必然的に学術界の逆激励と逆淘汰の現状をもたらす。誤解されたり操作されたりしないように、その中に存在する可能性のある問題を理解しなければなりません。