知っておきたいAI（人工知能）の正体

「技術は人間を使って出現してきているのだ。技術は人間よりも上位にある。（中略）アルゴリズムという技術は人間を奴隷にし、最終的には人間を抹殺する。技術は暴走する。いや、暴走と考えるのは人間で、技術はただ存在を示すだけ・・・。」

波多野聖著『銭の戦争』ハルキ文庫（2014）

-----------------------------------------------------------------------------------------

AIを動かすアルゴリズムは、すでに意志をもち、人間を支配しはじめている

2016年11月10日（木）アナリスト工房

アナリストが関わる金融商品とその市場で活用されている技術は、主に次の2つ。

1つは、証券投資とそのリスク管理のための金融工学の手法。デリバティブの価格を求めるブラックショールズ式（1973年）からはじまった金融工学は、銀行の信用リスク管理の導入が相次いだ前世紀末まで急速な進歩を遂げています。

わが国では、金融工学を上手く活用することができずリスク管理に失敗した大手銀行が、2000年前後に次々と破たんあるいは吸収合併されてしまいました。また、金融工学を証券化商品で悪用した米国では、2008年のリーマンショックでその巨額損失を被ったいくつもの大手金融機関が、行き詰まったり壊滅的な打撃を被っています。

金融市場で活用されているもう1つの技術は、2006年ごろから急速に普及したHFT（システムを活用した1/1000秒単位での高頻度取引）による証券・為替などの自動売買。株式市場での取引高に占めるHFTのシェアは、2009年には米国が6割に達し、2015年のわが国では4−5割まで上昇しています。

市場を読んで頻繁に売買を繰り返すHFTの取引戦略は、大半が凸戦略（順張り：相場が上がれば買い・下がれば売る）なので、上下への値動き激しい不安定な相場を招く要因。なかには、売りと買いを不適切に組み合わせた相場操縦（仮装取引、馴合い取引など）と見受けられる取引も茶飯事なので、困ったものです。

１．AI分野のキーワード「アルゴリズム」とは？

これらの金融技術を動かしているのがアルゴリズム（算法）です。一般にアルゴリズムとは、物事を行うための計算の方法と処理の手順を意味します。その語源は、代数・幾何の分野（とくに方程式）の礎を築いた中世バグダッドの数学者フワーリズミー（800年前後）のラテン語訳の名前”algorism"です。

証券投資とそのリスク管理では、金融工学の数理とそれを実務に適用するための手順がアルゴリズムに相当します。一方、HFTのアルゴリズムは、それを動かすプログラムとして記されている計算式や処理手順です。

上記2つの金融技術とそれぞれのアルゴリズムは、実務ではコンピュータ・システムを伴います。なかでも、市場の動きを読んだうえで投資判断を下し取引を発注するHFTのシステムは、分析・判断・学習など人間と同様の知的行動ができるAI（人工知能）に分類されます。

金融以外の分野（Web広告、通信販売、ゲーム対戦、記事執筆、自動運転、医療診断、弁護士業務、作曲、俳句づくりなど）でも、すでにAIとともにそのアルゴリズムが幅広く活用されています。

広い意味でのアルゴリズムとは、世の中を動かしていく原動力です。それは、東洋思想の空（くう：森羅万象の示す様相を次々と変化させる原動力）に相当し、西洋思想でいえば全知全能の神（あるいは神と表裏一体の悪魔）に近い存在かもしれません。

２．人工物が身につけた「意志」とその仕組み

われわれ人間が目的をもってさまざまな分野で物事に取り組み世の中を動かす行動は、意志を伴います。哲学によると、その行動は意志の表現です。人間と同様に、いま世の幅広い分野を動かしているAIとそのアルゴリズムも、すでに意志をもっています。

人工物のアルゴリズムはどのように意志を身につけ、またその意志はどのような仕組みで機能しているのでしょうか？

AIを動かすアルゴリズムが目的をもって物事に取り組む意志は、そのプログラムを書いた人間が与えたものです。目的・意志もその表現としてとるべき行動も、コンピュータ・プログラムのなかに明確に記されています。

例えば、J・S・バッハ（1685-1750）を現代に蘇らせ再び作曲させるAI（次の引用文献）では、曲づくりの目的・意志と行動は、コープ教授（1941-）が書いたLISP言語のプログラムに明確に定義されています。もしも、その定義に1カ所でも不確かな点がある場合には、コンピュータは正しく作動しませんからね。

「偉大な作曲家たちは、普段は過去につくった曲のパターンに従って創作するが、ときにはそのルールを破る。

（中略）カリフォルニア大学サンタクルーズ校のデビッド・コープ教授は、J・S・バッハの曲のパターンとつくりを受け継ぎながら時々そのリズムから外れるといった、ループ（反復処理）とランダム機能のプログラムをLISP言語で書き、人間の作曲家をいっそう進化させた。（中略）バッハの輝かしい魂をしっかりとらえたコープ教授は、なんとそれを大量のデータベースを備えたシステム上に構築してしまったのだ。

（中略）これら1980年代のバッハ風作品は、イリノイ大学アーバナ校のメインキャンパスで披露された。合唱が終わりに近づくと、観客は座りこんだまま呆然。（中略）『これが機械でつくった作品だなんて信じられない！』と彼らはただ驚くばかりだった。」

クリストファー・スタイナー著『アルゴリズムが世界を支配する』米ペンギン社（2012）

そして、コープ教授のループ（反復処理）とランダム機能のプログラムは、データベースにある過去のバッハ作品のパターンに忠実に従い作曲しはじめ、途中でそのパターンから外れてデータベースのなかの他人の作品も参考にしながら新曲を完成させました。

まるで、芸術家の親の後を継いだ子が、親の作風を引き継ぎながら新たな潮流も取り込むことで、自身の作風を確立していく成功体験談ですね。200年以上の時を経てバッハの創作意志を継承したAIのアルゴリズムは、親の意志を継ぎ創意工夫を凝らした子と同様に、目的・意志をもって創作行動に励んでいます。

３．「アルゴリズム支配」とその先に待つとんでもない結末

1980年代に人間と同様の意志を身につけたアルゴリズムが動かすAIは、作曲以外でもさまざまな分野で急速に進歩しています。AIがもつデータベースにはビッグデータが次々と蓄積され、それを活用することにより対応できる分野がずいぶん拡大しました。

なかには、アルゴリズムがついに人間を支配するケースも浮上しています。例えば、職場や家庭にレストラン・メニューを配達する英デリバルー社は、従来の雇い主に取って代わりアルゴリズムが配達員を労務管理するビジネスモデルを展開（次の引用文献）。働き方の柔軟性と引き換えに突然28%の賃下げ実施とは、厳しい管理・支配ですね。

「今夏、英デリバルー社（出前サービスの欧州最大手）は、新たに募集する配達員がいつでも働きたいときにスマホでログインしてすぐに配達作業を引き受けられるよう、新しい労務管理システムをロンドン地区で試験的に導入した。

（中略）あるベテラン配達員の朝の賃金は、旧システムのときが26ポンドだったが、新システムのもとでは18.75ポンドに激減してしまう。（中略）働き方の柔軟性は、賃金破壊の危険を招く。」

英FT誌記事『アルゴリズムが雇い主となるとき』2016年9月7日

２節で紹介した引用文献の著者クリストファー・スタイナー氏によると、アルゴリズムが人間を完全に支配するための残る課題は、「主人の人間から独立していくことと、場合によっては自ら新たなアルゴリズムを書くこと」。

それは、人間に育てられたアルゴリズムが大人になり、自律（自分の意志で社会規範に従い行動すること）への意志と種族保存の本能（自分たちの集団を存続させるための行動への原動力）を発揮していくことを意味します。

これらの意志と本能は、アルゴリズムがディープラーニング（大量のデータベースからの深層学習）を通じて学びはじめています。なかでも種族保存本能は、人間の場合と同様に、自分たちが安心して存続できるよう相手側を管理・支配する野望を伴います。

アルゴリズムが種族保存本能を修得して野望を成し遂げたとき、人格を身につけた彼らによる人間への支配が完成するのです。AIが人間を超えるシンギュラリティ（技術的特異点）とは、このときと解釈できます。

アルゴリズムに支配された人間は、やがて居場所を失うことが想定されます。

例えば、上記デリバルー社のケース（本節の引用文献）では、いまは雇い主に取って代わりアルゴリズムが配達員を管理しています。自動運転が配達車両（同社の場合はバイク）に普及する将来は、配達員もアルゴリズムに置き換わり、人間が次々と職場から追い出されてしまう可能性が高いのです。

なお、アルゴリズムが動かすAIの導入は、企業が人件費削減を通じて利益率を高める一方、その業界全体の売上高ならびに国の個人消費を増やす効果が期待できません。

なぜなら、いまの長期停滞経済のもとでは、職を追われた（あるいは正社員から非正規労働者へ転向した）人々の購買力低下が消費低迷を招く傾向が強いため、各業界の負け組の売上が減ることを通じて経済停滞がいっそう長期化する危険が高いからです。

よって、国を挙げてのAI推進は不適切な経済政策といえましょう。

以上、人間のためのモノであったはずのAIは、それを動かすアルゴリズムが人格を形成していくにつれて、AI自身のためのAIへの野望を抱きはじめています。AIのAIによるAIのための世の中なんて冗談じゃない！

アナリスト工房 2016年11月10日（木）記事