タグ: AI

グーグルで人工知能（AI）の倫理を研究していたティムニット・ゲブルが解雇されたニュースは2020年の終わりのニュースとしてはかなり衝撃的に受け止められました。なぜか。職場における差別の要素もあるのですが、AI倫理の重要性がかなり大きくなってきているからではないでしょうか。ビジネスと倫理のバランス。これはグーグルのような営利企業にとっては非常にデリケートな問題です。

今回紹介するブライアン・クリスチャンによる”The Alignment Problem”は「人間と機械の利害は合致できるのか」という倫理を含めた幅広いAIに関する問題を扱った非常にタイムリーな書籍となりました。AIの何が問題で、どのような解決方法が模索されているのかを取材を通じて丁寧に解説しています。AIによるディストピアみたいな遠い将来の話ではなく、今現在何が起きていて、どのようなアプローチで解決が模索されているのか。

The Alignment Problem: Machine Learning and Human Values (English Edition)

• 作者:Christian, Brian
• 発売日: 2020/10/06
• メディア: Kindle版

Algorithms to Live By: The Computer Science of Human Decisions (English Edition)

• 作者:Christian, Brian,Griffiths
• 発売日: 2016/04/19
• メディア: Kindle版

本書では、まず”Alignment Problem”とは何かを解説します。三つの代表的な例が1) Word2vec、2) 保釈リスクを計算するソフトウェアCOMPAS、そして 3) Googleのイメージ検索です。それぞれ、AIが導き出す結果は必ずしも人間にとって正しくない。つまり、人間と機械の利害が合致（Align）できていない例です。

Word2vecは非常に優れた言語解析ができると評価される一方で、人間の持つバイアスをそのまま引き継いでしまう性格もあります。例えば以下の数式。

医者ー男性＋女性＝看護婦

医者から男性の要素を抜き出し、女性の要素を加える。そうすると導き出される答えが「看護婦」となってしまう傾向にあるのです。え？正しいと思う？それがバイアスです。本来であれば……

医者ー男性＋女性＝医者

……でなければいけないですよね。医者は職業なんだから、男性も女性も関係ない。このバイアスを取り除くのにImplicit Association Testが有力視されていますが、現時点でまだ解決できていません。Googleイメージのゴリラ問題もいまだに解決できてないですしね。

AIは人間の言葉から女性差別や人種差別を学び取る – GIGAZINE

分散表現とWord2vec｜実践的自然言語処理入門 #3 – Liberal Art’s diary

この他に、この書籍では公平性の問題や透明性の問題など幅広いトピックをカバーしています。例えば、「犯罪者の仮釈放の逃亡リスクをAIで判断していいのか？」という問題。2020年のアメリカ選挙で隔週で行われる投票法案でカリフォルニア州が仮釈放をAIで行う法案（Proposition 25）において住民に評決を託しました（関連記事）。結果的には否決されましたけどね。本書でも多くの専門家はまだAIがそこまで予測するのは難しいとの見解を示しています。

同様に犯罪を未然に防ぐためにAIを活用できないのでしょうか？AIは犯罪を起こす可能性がある場所や人物を事前に特定できるのでしょうか。これもバイアスの問題と根っこは同じなのですが、公平性に問題があります。つまり、そのデータセットにバイアスがそもそもあるのではないかということです。公平性を高めるにはより多くのデータが必要になります。しかし、その場合はプライバシーの問題もより大きくなってしまいます。機械学習でプライバシーを担保する方法として「差分プライバシー（differential privacy）」が注目されています。

AIはブラックボックスのシステムとして有名です。どうしてAIはそのように判断したのか人間には説明が難しい。例えばなのですが、コロナ禍でトリアージが必要になったとします。トリアージは「全員を救うことはできない」という前提のもとに、救う優先順位を決めることです。「命の選択」なんて日本語では言われたりもします。その「命の選択」をAIが決めたらどうですか？嫌ですよね。だって、AIがなぜAさんではなく、Bさんを優先したか、理由がわからないんですよ。実際に本書で紹介されているアメリカでの事例では肺炎のトリアージは、ルールベースのシステムが採用されています。ニューラルネットワークのシステムの方が精度が高い結果が出たにもかかわらずです。なぜか？ニューラルネットワークのシステムで出た結果は医師が説明できないからです。

そこで注目されているのが「説明可能なAI（XAI：explainable AI）」です。XAIはDARPAをはじめとした多くの研究機関が力を入れている分野で、英語圏では一般的なテックメディアでも紹介されるくらいには注目されている分野です。

XAIの分野で注目されているのは一般化加法モデル（GAM：Generalized Additive Model）だそうです。流石にここまで来ると私もよくわからないので、Qiitaのリンクを下に貼っておくので、興味があったら調べてみてください。

ここまでが本書の中盤くらいです。残りはディープラーニングの歴史（主に強化学習）をおさらいした上で、「好奇心」をAIに植え付けるにはどうしたらいいのか（intrinsic novelty preference）、「不確実性」をAIが持つにはどうしたらいいのか（inverse reword designやAI safety gridworlds）などこれからの課題と現在の研究結果の紹介となっています。

ブライアン・クリスチャンは前著”Algorithms to Live By”で生活の中にあるアルゴリズムを普通の人にもわかりやすく解説してくれました。本書はそれよりもかなり技術よりの書籍ではありますが、倫理を含めたAIに関する非常にホットなトピックをわかりやすく解説してくれています。AIの知識をアップデートしたい人には強くお勧めします。

ルービック・キューブの考案者エルノ・ルービックの初書籍が今回紹介する”Cubed”です。ルービック・キューブが世に出てから40年以上経過しています。これまでに自伝とか出ていそうなものですが、この本がエルノ・ルービックが初めて書くの書籍。自分とその発明品であるルービック・キューブについて語ります。内容はUXデザイン、成功と失敗、プロフェッショナルとアマチュアなど非常に多岐にわたります。単純な「自伝」ではなく、とても知的好奇心を刺激してくれる良書でした（オーディオブックはScribedにあります）。

Cubed: The Puzzle of Us All

• 作者:Rubik, Erno
• 発売日: 2020/09/15
• メディア: ハードカバー

本書の構成は「自伝的な部分」と「考察的な部分」に分かれます。時系列的に「自伝的な部分」が全体の骨格を作るのですが、その間に「考察的な部分」が挿入されます。その時点で自分が考えたこと、その時点と現代のつながり。

エルノ・ルービックは子供の頃からパズルが好きだったのだそうです。タングラムや１５パズル、ペントミノに夢中になったそうです。立体的なパズルとの最初の出会いは立体型のペントミノだったと振り返っています。また、ルービック・キューブ以前に立方体のパズルとしてはソーマキューブがあったそうです。内向的な性格だったのでパズルのような一人遊びが合っていたそうです。チェスもやったそうですが、誰かと対戦するゲームより、ナイト・ツアーのような一人遊びの方が好きだったそうです。勝ち負けとか興味がない。

自分は全てにおいてアマチュアだとエルノ・ルービックは振り返っています。職業としてはずっと教師ですが、発明家として、建築家として、デザイナーとしてそれぞれにおいてアマチュアだと言います。プロフェッショナルはお金や評価など「外的動機づけ」が必要だけど、アマチュアは自分のやりたいことをやりたい「内的動機づけ」が重要になるとエルノ・ルービックは言います。ただ、アマチュアとプロフェッショナルの区切りも実は曖昧でスティーブ・ジョブズのような人はお金に興味はなく「内的動機づけ」に突き動かされたプロフェッショナルなんだろうと。白黒はっきり分かれるようなものではないだろうと言います。

教師として専門にしていたのは図法幾何学で、ルービック・キューブのアイデアもここから発展していったそうです。エルノ・ルービックがすごいのは想像力だけが創造性ではないと理解しているところです。ちゃんと作れないといけない。ルービック・キューブのプロトタイプは木で作り、輪ゴムや釣り糸で試したそうです。最終的に私たちがしるあの構造までたどり着きます。ルービック・キューブを分解したことがある人ならわかると思いますが、あの構造はすごいですよね。よく一人で考えた。

そして、アルノ・ルービックは根っこはデザイナーなんでしょうね。お父さんがグライダーを専門にした航空デザイナーだったのと同じで。あの形、あの重さ、あの大きさに至るまで試行錯誤します。スムースに動くことも重要。UXデザイナーでもありインタラクション・デザイナーでもあるんですよ。本書でもUXデザインの重要性について言及しています。

さらに、このパズルがちゃんと自分で解けるのかも実証します。すごく難しかったそうです、作った本人にとっても。最初は1ヶ月かかったそうです。「すごく根を詰めて必死にパズルを解いた」といろんなところで書かれているそうなのですが、実際には仕事の合間に楽しみながら取り組んだそうです。ルービック・キューブを解くアプローチとして直感派とアルゴリズム派がいるそうなのですが、アルノ・ルービックは直感的なアプローチと論理的思考で解いたそうです。さらに商用化に向けた特許申請や製造、素材をどうするかなどなど。海外で販売するときの登録商標の問題など紹介されています。 

アルノ・ルービックはお金も地位も名誉も興味がないそうです。だから今まで本も書かなかったんでしょうね。古い車をずっと乗っている。高級な食事や衣服にも興味がない。建築家でもあるので、自分の家を作るのが好きなんだそうです。それができるだけのお金があれば十分。そして、自分の好奇心を満たすことができればいい。だから、いろんなことに興味があるんですね。本書でもルービック・キューブを軸としてAIやシステム思考について思考を巡らしています。

自伝というよりは、様々な考えをルービック・キューブを中心に語ったエッセーのような本です。ルービック・キューブの発明者が存命で、現代の技術や考え方と関わり合いを持ち続けていることが（大変失礼ながら）単純に驚きでしたし、その考察もとてもユニークだと感じました。なぜユニークなのかと言えば、それが借り物じゃないからなんですよね。エルノ・ルービックはとてもユニークなルービック・キューブを一人で作り上げた人なんですから。

 人工知能によって人は仕事が奪われる！この手の話はすでにクリシェですよね。今さら真面目に語ってどうするの？今回紹介する”A World Without Work”はまさに語り尽くされた感のあるこのネタを改めて大真面目に検証する本です。

本書を書いたダニエル・サスキンドは情報化による法律実務のパラダイムシフトなどの論文で日本でも知られるリチャード・サスキンド教授の息子さんです。”The Future of the Professions”を父親と共著で出していますが、今回が初めての単著となります。

A World Without Work: Technology, Automation, and How We Should Respond

• 作者:Susskind, Daniel
• 発売日: 2020/01/14
• メディア: ハードカバー

The Future of the Professions: How Technology Will Transform the Work of Human Experts

• 作者:Susskind, Richard,Susskind, Daniel
• 発売日: 2017/03/02
• メディア: オンデマンド (ペーパーバック)

本書は既に多く語られた感のあるトピックを現在のトレンドに合わせて整理整頓することにより、新鮮な視点を提供することに成功していると思います。例えば、トマ・ピケティが提起しているような格差問題、GAFAの独占の問題にまで議論を広げています。風呂敷を広げすぎると、畳むのは大変。でも、ちゃんと整理整頓できていると思います。

ダニエル・サスキンドは「テクノロジーが人から職業を奪う」という予測がハズレてきたのか、そして、なぜその予測は今度はハズレないかもしれないのかを説明していきます。まず、テクノロジーが人から職業を奪わなかった理由が以下の三点となります。

1. テクノロジーは人を効率的にする
2. テクノロジーはパイを大きくする
3. テクノロジーはパイを変える

経済学におけるスキルの定義は学歴でした。高学歴＝高スキルという考え方。スキルプレミアムモデルと言います。しかし、スキルプレミアムでは説明できない事象が起きてきました。二極化です。そこで新しいタスクベースの仮説が生まれました。それがALM仮説です。「テクノロジーがルーティンなタスクをなくし、人はクリエイティブな仕事ができるようになる」という楽観的な考えはここからきています。人間とテクノロジーは補完的な関係であるというのが「1. テクノロジーは人を効率的にする」考え方で、これまではその仮説は正しいように見えます。

また、テクノロジーは生産力が高いのでパイを大きくします。パイが大きくなるので、人の労働する余地は残されるのです。さらに農業から工業、工業からサービスへ産業が移行したようにテクノロジーはパイ自体を変える効果もあります。テクノロジーが一部の人のタスクを奪ったとしても、新しいタスクが生まれます。ALM仮説によりテクノロジーと人間の関係性はうまく説明ができたと思われました。しかし、結論を出すのはまだ早いとダニエル・サスキンドは主張します。

これまでのテクノロジーは人間が指示をする必要がありました。AIは人間を真似ることで失敗を繰り返してきました。人間を頂点とした考え方が（間違っていたと言わないまでも）うまくいかなかったのです。しかし、現在のAIは人間を真似ることをやめました。AIは人間から学ぶことなく最適解を見つけることができるようになりました。AlphaGo Zeroのように。AGI（強いAI）は遠い将来に可能になるかもしれませんが、目先にある特定のタスクを人間よりできるようになることを目指したANI（弱いAI）が勝利しました。人間が唯一の頂点なのではなく、複数の頂点があり得るとANI（弱いAI）は証明しつつあります。そうなると、人が説明できるルーティンなタスクだけでなく、人が説明できないノンルーティンなタスクもテクノロジーで人間とは違ったやり方でできるようになることを意味しています。

AIが進化した世界において、ALM仮説でも説明ができないようになってきたとダニエル・サスキンドはいいます。ルーティンではない仕事もできるようになってきた。もちろん、クリエイティブな作業を含めて全ての仕事がルーティン化してしまうには数十年かかるかもしれない。ひょっとしたらそれ以上かかるかもしれない。ジューディア・パールが言うように現在のAIでは因果関係を見つけることはできないと主張していますし。マーカス・デュ・ソートイもAIがアートを作れるようになる日は来ないのではないか？と示唆しています。現在は確かにそうなのですが、100年後の未来までは誰もわからないし、テクノロジーが、これまでは「ノンルーティン」だと考えられてきたタスクを「ルーティン」としてできることが多くなってきているのは確かなのですし、「ルーティン」の割合は徐々にですが大きくなり続けています。

テクノロジーが人間の仕事を奪うと何が起きるのか？貧富の差が生まれた要因の一つがテクノロジーだとダニエル・サスキンドは解説していきます。この本の前半はAIについてなのですが、後半は経済や社会の仕組みの話になっていきます。人間の仕事がなくなった世界で、私たちはどのような社会の仕組みを作ることができるのでしょうか。ここで大きく参照されるのがトマ・ピケティです。格差をなくすには累進課税が必要だし、資産に対する税金も強化しなければいけない。この辺の主張は丸ごとピケティです。さらにベーシック・インカムにも主張を展開していきます。ただし、ダニエル・サスキンドは全員に平等なUBIは信じていなくて、範囲を決めるCBIが必要だと主張します。

本書は現代の言論トレンドを「うまくまとめた」感があります。すごく現代の今旬なテーマをよく研究してるし、それを一つのパッケージとしてまとめたのは素晴らしい手腕だと思います。しかしながら、ダニエル・サスキンドが持つユニークな考え方が見えてこないのも欠点ですね。「よくまとめたなー」とは思うけど、新しい考え方には全く触れることがなかった。何とか自分の立ち位置を作ろうと頑張っている若い研究者の本。そう考えれば、少しはあたたかい目で応援したくもなってきますが。

フェイスブックなどから個人情報を集め、データ分析をして、投票行動に影響を与えるキャンペーンを行ったケンブリッジ・アナリティカは多くの人にとって民主主義への脅威に映りました。しかし、ケンブリッジ・アナリティカのような会社は最初ではありませんし、おそらく最後でもないでしょう。

ジル・ルポールによる書籍”If Then”は行動科学とコンピューターを組み合わせによる投票者の行動分析レポートでジョン・F・ケネディーの大統領選挙戦にも関わったシミュルマティックス社の歴史を振り返ります。ケンブリッジ・アナリティカが誕生するはるか前からコンピューターによる行動操作をしようと考え、実行した人たちがいたんですね。ただ、なぜ彼らは成功しなかったのでしょうか？アイデアは良さそうなんですが。それがこの本のテーマです。

If Then: How the Simulmatics Corporation Invented the Future (English Edition)

• 作者:Lepore, Jill
• 発売日: 2020/09/15
• メディア: Kindle版

「シミュルマティック」とは聞きなれない言葉ですが、シミュレーションとオートマティックを組み合わせた造語だそうです。人間行動のシミュレーションと自動化。名前からして、とても不気味なのですが創業者たちは全くそんなこと思っていなかったようです。いまだったら、マーク・ザッカーバーグもラリー・ペイジも自分たちがユーザーの個人的な行動データを集めてビジネスに利用するのが「不気味」だとは思ってないと思うんですよね。それに近い感覚をシミュルマティックス社の創業者たちも持っていたようです。

シミュルマティックス社の創業は1959年。1950年代に民主主義の根幹である「選挙」を変える二つが発展しました。ひとつは、コンピューター。1952年アメリカ合衆国大統領選挙の予測をUNIVACを使って行ったのが最初。もうひとつは行動科学です。フォード財団とランド研究所が行動科学の分野で本格的にリサーチに力を入れるのがこの時期。

シミュルマティックス社はこの二つの大きな流れを結び付けました。コンピューターによる人間行動の予測。なんとなく、イギリスのEU離脱キャンペーンやトランプ大統領が勝利した2016年の大統領選挙戦でFacebookなどから得た個人の行動データを使った選挙キャンペーンを主導したケンブリッジ・アナリティカを彷彿させますよね。

確かに、シミュルマティック社はスキャンダラスな面においてはケンブリッジ・アナリティカに近いです。ジョン・F・ケネディの選挙戦でアンケートをコンピューターで分析して政策と投票行動に関するレポートを出しました。そして、ケネディが選挙で勝利した後に、その事例をメディアに大々的にアピールしてケネディの立場を危うくしてしまいました。無断で自分たちの実績をPR？そりゃそうだよ、馬鹿か？お前らよく考えろ！この行動はロバート・ケネディーの逆鱗に触れて出禁になってしまいます。

行動科学とコンピューターを組み合わせて選挙に利用する。このアイデアは確かに当時は斬新でした。いろんなことに利用できるぞ！とシミュルマティックス社の創業者たちは胸を躍らせました。広告だ！広告で大儲けできるぞ！なかなかいい目の付け所だと、グーグルやフェイスブックのビジネスモデルを知っている現在のボクらたちは思いますよね。しかし、シミュルマティックス社はグーグルでもフェイスブックでもないのです。データがない。当時、消費者の行動データを持っていたのは広告代理店です。そして、大手の広告代理店は自分たちで同じことをやりはじめ、自分たちのクライアントにサービスを提供しはじめました。

選挙に関してはケネディー大統領の件もあって出禁状態です。そこで、ピヴォットしたのがメディアです。政党に選挙予測のデータをうることはできないけど、メディアになら売れるのでは？なんとニューヨークタイムズが契約してくれました。しかし、ここでも大チョンボをやらかしてしまいます。シミュルマティックス社にはまともなコンピューターの専門家がいなかった！

そのあとはベトナム戦争で行動科学とコンピューター予測をベトナムの現地で実験する仕事をアメリカ軍から請け負ったりします。それも、やっぱりイマイチな結果。アイデアはいいのだけれど、スキルがついてこない。なんか、ダメなスタートアップの「あるある」ですよ。