Albert-László Barabási PhotologAlbert-László BarabásiMon, Dec 31, 16:14 UTC

Jonathan Zittrainと共同で授業をするのは今回で三度目。今年の講義は、Applied Ethical and Governance Challenges in Artificial Intelligence(人工知能の応用における倫理やガバナンス面の課題)という。セミナー形式なので、講演者を招き、彼らの論文や研究について話し合うスタイルが基本。講演者や論文の選定は優秀なティーチング・アシスタント陣のSamantha Bates、John Bowers、Natalie Satielが担当した。

Samは授業前の準備として論文の概要を書き、進行を決めておくことも担当している。この作業が、講師たちが目を通すメモという形で終わってしまうのはもったいないと思った。メモや概要を僕のブログに掲載すれば、誰でも授業内容の一部を習得できるし、興味深い会話のきっかけにもなるかもしれないのでSamの承諾を得て載せることにした。

この講義は、3つのテーマについて3回授業を行うセットを3回行う構成となっている。以前の授業は、トピックの全般的な概要に近い内容だったけれど、研究が進むうちに、多くの人が既に知っていることを復習するよりは、肝心な事柄を掘り下げたほうが面白い、という皆の意見が一致した。

選んだトピックはfairness(公平性)、interpretability(解釈可能性)、adversarial examples(敵対的事例)の3つ。各トピックに3回授業を割り当て、"診断"(問題の技術的な根本を同定する)、"予測"(問題の社会的影響を探求する)、"介入"(同定した問題の解決策を挙げ、各案のコストと利点を考慮しながら検討する)という順番で取り上げる。構成図は下記参照。

生徒たちはMITとハーバードから半々の割合で来ていて、彼らの専門分野はソフトウェア工学、法律、政策など幅広い。授業はとても良い形で進んでいて、いろんなトピックについて、こんなに深く学んだのは初めてだ、と個人的に感じている。その反面、諸問題が如何に難解かが明らかになってきて、これらのアルゴリズムの展開によって社会にもたらされる危害を最小限に留めるために必要な取り組みが、あまりにも規模が膨大なため、途方に暮れそうな時もある。

ちょうど"予測"の段階が終わったところで、これから"介入"を始めるところだ。次のステージに突入するにあたって、希望が持てる要素を見つけられればと思う。

以下、序論と第1段階("診断")の概要とシラバスをSamantha Batesがまとめたもの。論文へのリンクも掲載する。

第1段階を手短にまとめると、「公平性」をどう定義するかは不明で、特定な式や法則として表現するのは多分不可能だけど、動的なものである、ということは言える。「解釈可能性」は聞こえの良い言葉だけど、授業でZachary Liptonが言ったように、wastebasket taxon(くずかご的な分類群)であり、例えるならアンテロープに似た動物が実際にアンテロープかどうかにかかわらず、すべて「アンテロープ」と呼ばれているのに似た使い方をされる言葉だ。「敵対的事例」については、MITの数名の生徒たちが、我々は敵対的攻撃に対処する準備ができておらず、これらの攻撃に対して堅固でありながら効果的に機能するアルゴリズムを構築できるかどうかは不明、ということを明確に示してくれた。

第1部:序論と診断

Samantha Bates作

このテーマについて初めての投稿となる今回のブログでは、第4回までの授業の宿題として課された読み物をまとめており、序論から第1段階までが含まれている。"診断"段階では、クラス全員で公平性、解釈可能性、敵対的事例に関するAIの主要問題を同定し、自律システムの根本的なメカニズムがどのようにそれらの問題に関与しているかを検討した。授業での話し合いは、用語の定義やテクノロジーの仕組みなどを中心に行なった。講義シラバスの第1部と各読書物の要点をまとめたメモを以下に掲載する。

第1回:序論

1回目の授業では、講義の構成と目的を提示し、後の議論に向けて、この分野の現状を批評した読書物を宿題として出した。

"Artificial Intelligence -- The Revolution Hasn't Happened Yet" by Michael Jordan, Medium (April 2018)

Michael Jordan(2018年4月).人工知能―革命はまだ起きていない.Medium

"Troubling Trends in Machine Learning Scholarship" by Zachary C. Lipton & Jacob Steinhardt (July 2018)

Zachary C. Lipton、Jacob Steinhardt(2018年7月).機械学習の学問における不穏な傾向

上記の論文は両方とも現行のAI研究や議論に批判的な内容だけど、それぞれ違う視点から書かれている。Michael Jordanの論文の要点は、AI研究において多様な学問分野間の連携が不足していること。工学の新しい分野が誕生している今、非技術的な課題や視点も取り入れる必要がある、という主張だ。『Troubling Trends in Machine Learning Scholarship』(機械学習の学問における不穏な傾向)は、学問としての機会学習のコミュニティーにおいて、基準が低下しており、研究手法や慣行が厳格さに欠けていることに焦点を当てている。両方の論文において、著者たちは、この分野への信頼が保たれるよう、学問において厳格な基準が守られることを義務付けるべきだ、という正しい指摘をしている。

最初の読み物を、この分野の現状を批評する内容の論文にしたのは、生徒たちがこの講義で読むことになる諸論文を、客観的・論理的な視点から考えるように促すため。混乱を避けるためには正確な用語の使用や思考の説明が特に重要であることをこれらの論文が示してくれるのと同じように、生徒たちには、自分の研究や意見をどう伝えるか、慎重に検討するように、と私たち講師は求めている。この初回の読み物は、これから特定なトピック(公平性、解釈可能性、敵対的AI)を深く掘り下げる状況を整えてくれるものであり、講義で議論する研究についてどのようなアプローチで臨むべきか生徒たちに理解してもらうのに役立つのだ。

第2回:公平性に関する問題を診断する

診断ステージの1回目の授業では、機械学習における公平性に関する指導的発言者として活躍中のデータ科学者で活動家のCathy O'Neilを講演者に迎えた。

Weapons of Math Destruction by Cathy O'Neil, Broadway Books (2016). Read Introduction and Chapter 1: "Bomb Parts: What Is a Model?"

Cathy O'Neil(2016).Weapons of Math Destruction.Broadway Books

序論と第1章:爆弾の部品―モデルとは何か?

[OPTIONAL] "The scored society: due process for automated predictions" by Danielle Keats Citron and Frank Pasquale, Washington Law Review (2014)

(任意)Danielle Keats Citron、Frank Pasquale(2014).スコア付けされた社会:自動化された予測の正当な手続き.Washington Law Review

Cathy O'Neilの著書『Weapons of Math Destruction』は、予測モデルとその仕組み、そして予測モデルに偏りができてしまう過程などが分かりやすく書かれた入門書だ。欠陥のあるモデルが不透明で拡張性を持ち、生活に損害を与えてしまう場合(貧困層や社会的弱者が被害を受ける場合が多い)を、彼女はWeapons of Math Destruction (WMD)と呼ぶ。善意があっても、信頼性のある結論を出すために必要な量のデータが不足していたり、欠けているデータを代用品で補ったり、単純過ぎるモデルで人間行動を理解し、予測しようとする場合、WMDができやすい、とO'Neilは言う。人間行動は複雑で、少数の変数で正確に模型を作れるものではない。厄介なのは、これらのアルゴリズムはほとんどの場合、不透明なため、これらのモデルのあおりを受ける人は対抗することができない点だ。

O'Neilは、このようなモデルの採用が、予期し得ない深刻な結果をもたらす場合があることを示している。WMDは人間による検討や決断に代わる安価な手段であるため、貧困地域で採用されやすく、そのため、貧困層や社会的弱者へより大きな影響を与える傾向にある。また、WMDは行動の悪化をもたらす場合もある。O'Neilが挙げたワシントンD.C.のある学区の例では、結果が出せない教員を特定し、排除するために生徒たちのテスト成績を使ったモデルが採用されており、仕事を失わないために生徒のテスト成績を改ざんする教員もいたのだ。この場合、WMDは教員の質向上を目的に採用されたにもかかわらず、意図せぬ行動を奨励する構造ができてしまったため、逆の効果をもたらしてしまった。

任意の読み物『The Scored Society: Due Process for Automated Predictions』は、金融における信用スコアリングに関するアルゴリズムの公平性に関する論文だ。Cathy O'Neilがしたように、著者たちは信用スコアリングのアルゴリズムは既存の社会的不平等を悪化させていると指摘し、法制度には現状を変える責任があると主張している。信用スコアリングや信用情報の共有プロセスを公にすべき、と著者たちは提唱していて、スコアを左右する項目について信用スコアリング会社が一般人向けに教育を行なうことを義務化すべきともしている。Cathy O'NeilがWMDの3つの特徴のひとつとして挙げた不透明さの問題を改善すれば、信用スコアリング制度をより公平なものにし、知的財産権の侵害やスコアリング・モデルの廃止を回避できる、と著者たちは言う。

第3回:解釈可能性に関する問題を診断する

3回目の授業では、機械学習における解釈可能性の問題の定義と対処に取り組んでいるCarnegie Mellon UniversityのZachary Lipton助教授を迎え、解釈可能性のあるモデルとはどういうものか、について話し合った。

"The Mythos of Model Interpretability" by Zachary C. Lipton, ArXiv (2016)

Zachary C. Lipton(2016).モデルの解釈可能性という神話.ArXiv

[OPTIONAL] "Towards a rigorous Science of Interpretable Machine Learning" by Finale Doshi-Velez and Been Kim, ArXiv (2017)

(任意)Finale Doshi-Velez、Been Kim(2017)厳格な科学としての解釈可能性のある機械学習に向けて.ArXiv

3回目の授業は解釈可能性について話し合う最初の日だったので、この日のための読み物は両方とも「解釈可能性」をどう定義すべきか、そして解釈可能性が重要な理由を内容とするものを選んだ。Liptonの論文は、「解釈可能性」とは複数のアイデアを反映するものであり、現行の定義は単純過ぎる場合が多いと主張する。この論文は、議論のお膳立てをする質問を挙げている。「解釈可能性」とは何か?「解釈可能性」が最も必要となるのはどんな背景や状況か?より透明性が高いモデルや、成果を説明できるモデルを作れば、それは解釈可能性のあるモデルとなるのか?

これらの質問を検討することによってLiptonは、解釈可能性の定義はモデルに解釈可能性を望む理由によって変わる、と主張する。モデルに解釈可能性を求めるのは、その根底にあるバイアスを同定し、アルゴリズムの影響を受けてしまう人がその成果に異議を唱えられるようにするためかもしれない。あるいは、アルゴリズムに解釈可能性を求めるのは、決定に係る人間により多くの情報を提供できるようにして、アルゴリズムの正当性を高める、あるいは要因間に潜んでいるかもしれない因果関係を明らかにし、さらに検証できるようにするためかもしれない。我々が解釈可能性を求めているのはどんな状況においてか、諸々の状況の違いを明確にすることによって、解釈可能性が持つ多様な側面をより正確に反映する仮の定義に近づくことができる、とLiptonは言う。

さらに、Liptonは解釈可能性を向上させるために二種類の提案を検討している。透明性を高めることと、事後説明を提供すること。透明性を高めるアプローチは、モデル全体に適用される場合がある(シミュレーション可能性)。つまり、同じ入力データとパラメータがあれば、ユーザーはモデルの成果を再現できるはず。また、透明性を高める方法として、モデルの各要素(入力データ、パラメータ、計算)に個別に解釈可能性を持たせる方法や、トレーニング段階では、トレーニング・データセットがどんなものであれ、そのモデルは独自のソリューションにたどり着くことを示す方法もある。しかし、介入段階で更に詳しく述べるように、各レベルの透明性を増やすことは、前後関係や採用されるモデルの種類によって、必ずしも得策ではない(例えば、リニア・モデルに対するニューラル・ネットワーク・モデル)。また、モデルの透明性を向上させることは、そのモデルの正確性や効力の低下につながる場合もある。解釈可能性を向上させる二つ目の方法として、事後解釈可能性を義務付ける方法がある。つまり、成果を出した後、そのモデルは意思決定プロセスを説明しなければならない、という仕組みにするのだ。事後説明は文字、映像、サリエンシー・マップ、あるいは似たような状況において似たような決断が下された経緯を示す類推などの形式で行なうことができる。事後説明は、モデルの影響を受けた人間がどうすればその成果に対抗したり、その成果を変えることができるかについて洞察を与えてくれる場合もあるけれど、こういった説明は意図せず誤解を招くこともあり、人間のバイアスに影響されている場合は特にその傾向が強い、とLiptonは警告する。

Liptonの論文の結論は、解釈可能性を定義することは非常に難しい、というもので、その理由として、前後関係や、モデルに解釈可能性を持たせる動機など、外的要因によって定義が大きく変わることが挙げられる。解釈可能性という用語の仮の定義が無い限り、モデルに解釈可能性があるかどうか判断する方法は不明のままである。Liptonの論文は解釈可能性をどう定義するか、そして解釈可能性は何故重要か、ということに焦点をあてているが、任意の読み物『Towards a rigorous Science of Interpretable Machine Learning』は、モデルに解釈可能性があるかどうかを判断するための様々な方法をより深く掘り下げて調べている。著者たちは解釈可能性を「人間に理解できる言葉で説明あるいは提示する能力」と定義しており、解釈可能性を評価する基準が無いことに特に懸念を抱いている。

第4回:敵対的事例への脆弱性を診断する

敵対的事例に関する一回目の授業では、敵対的テクニックについて最先端の研究を行っているMITの学生主導研究会LabSixを迎えた。LabSixは敵対的事例の初歩を説明し、彼らの研究の発表もしてくれた。

"Motivating the Rules of the Game for Adversarial Example Research" by Justin Gilmer et al., ArXiv (2018).

Justin Gilmerら(2018).敵対的事例の研究に関するルールを動機付ける.ArXiv

[RECOMMENDED] "Intriguing properties of neural networks" by Christian Szegedy et al., ArXiv (2013)

(推奨)Christian Szegedyら(2013).ニューラルネットワークの興味深い性質.ArXiv

Gilmerらの論文は、敵対的事例を分かりやすく紹介する読み物であり、敵対的事例の定義を「機械学習モデルに間違いを起こさせるために攻撃者が意図的に設計した入力」としている。この論文の趣旨は、攻撃者が敵対的事例を採用する可能性のある様々なシナリオを検証することにある。著者たちは、攻撃の種類を整理すべく、分類用語集を作成しており、次の用語が挙げられている。「indistinguishable perturbation(識別不能な摂動)、content-preserving perturbation(コンテンツ保存型摂動)、non-suspicious input(疑わしくない入力)、content-constrained input(コンテンツに制約された入力)、unconstrained input(制約のない入力)」。それぞれの攻撃カテゴリーについて、著者たちは攻撃者の動機や制約を検討している。様々な種類の攻撃やそれぞれの代償を理解することによって、機械学習システムの設計者は防御能力を高めることができる、と著者たちは主張する。

この論文には摂動に対する防御に関する文献の概要も含まれており、これまでの文献では、実際にありそうな、実世界における状況での敵対的事例攻撃が検討されていない、と著者たちは批判している。例えば、防御に関する文献において頻繁に挙げられる仮定の状況として、攻撃者が自動走行車を混乱させるために止まれ標識の映像を摂動する場合がある。しかし、Gilmerらは、この車のエンジニアたちは、システム自体による、あるいは実世界の出来事に起因した誤分類エラー(例えば、止まれ標識が風の影響で倒れた場合)を想定し、対策を準備したはずだと指摘する。攻撃者が車を混乱させる方法として、より簡単で非技術的なやり方があり、前述の仮定よりも現実的なテスト・ケースがあるはずだ、と著者たちは主張する。防御に関する文献について、著者たちによるもう一つの批判は、システムの防御体制のとある面を改善すると、そのシステムの他の面の頑丈さが低下してしまい、攻撃への脆弱性を高めてしまう場合があることを取り上げていない、というものだ。

任意の読み物として推奨したChristian Szegedyらの論文は、内容がより専門的で、用語をすべて理解するには機械学習の知識が必要である。難易度の高い読み物だけど、「敵対的事例」という用語を提唱し、このトピックに関する研究の基礎の構築に貢献した論文なのでシラバスに含めることにした。

Credits

Notes by Samantha Bates

訳:永田 医

ブログ用のDOIが使用可能に»

MIT Pressとの共同作業でKnowledge Futures Groupを開発するにあたって、学術出版というものをちゃんと理解しようと勉強中。いろんなプロトコルやプラットフォームを調べる中で、特に興味深かったのがデジタル・オブジェクト識別子(Digital Object Identifier(DOI))だ。DOIを管理し、登録機関の連盟をまとめている組織がある。DOIには様々な用途があるが、主な目的はデータセットや出版物などのデジタル・オブジェクトに永続的な識別子を割り当て、メタレベルでURLを管理することだ。URLは、学術論文が起草されてから発表されるまでの間、あるいは映画がサプライチェーンを通る過程で変更する場合があるため、DOIが役に立つのだ。

Crossrefという登録機関は、学術出版物やそれらに含まれる引用データを専門に扱っていて、このサービスによりDOIは引用データを効率よく管理・把握する便利な方法として普及した。学者たちが所属機関情報や出版物を管理するために使うORCIDなど多くのサービスでは、DOIは出版物を取り込み、管理する手段として利用されている。

DOIには様々な用途があるものの、その取得と設定にはある程度手続きが必要であることと、学術関連のパブリッシャーのためのサービスであるCrossrefが成功したことにより、DOIには「権威」、「信頼」、そして「正式な出版」といったイメージが定着した。CrossrefのGeoffrey Bilderは「実際は違う」と警告しており、DOIを上記のように捉えるべきではない、と発言しているものの、僕は今のところは、この認識で問題無いと思っている。

学者が自分のプロフィールや引用データを管理するために利用できるいろいろなツールを使ってみた。僕の場合、査読された論文はこれまでひとつしか発表していないけれど(査読してくれたKarthik、Chelsea、Madars、ありがとう!)、管理してみて気づいたのは、ブログ投稿がインデックスされないこと。また、博士論文を書くために調べものをしていて気づいたのは、ブログが引用されることはあまりないこと。僕は職権を利用し、研究という名目でMIT PressのAmy Brand所長にあるお願いをしてみた。彼女は以前Crossrefに所属していた頃、DOIの採用に携わった人物で、そんな彼女に僕のブログ投稿にDOIをつけてもらえないか聞いてみたのだ。

思ったより手間のかかるプロセスだった。まず、登録プロバイダにて登録されたDOIプレフィックス(ドメインのようなもの)が必要なのだ。これは、AmyがCrossrefを経由してMIT Press名義で取得してくれた。BorisがDOIサフィックス形式を定義し、サブミッション・ジェネレータを用意し、僕のブログに必要なものをすべて組み入れてくれた。MIT PressのAlexaが僕のブログのDOIをCrossrefに登録する手続きを取ってくれた。次に問題となったのは、DOIの世界には「ブログ」というカテゴリーは存在しないこと。専門家に相談したら、一番近いのは「データセット」ということだったので、僕が今書いている文章は、以前まではブログと呼ばれるものだったけれど、DOIの観点から、そして学術界的には、データセットという名称となるのだ。いつかどこかで誰かが引用するかもしれないものとして、この投稿には意義があると思っているので、DOIをつけてもらったことは問題ないと判断している。Crossrefがブログ投稿の「creationType」を増設するか、あるいは、引用されるウェブ資料をより広く扱うスキーマに拡張してくれれば、と思う。

また、APAのブログ引用書式がURLだけでなく、ブログの名前も含まれるように更新されることを希望する。僕は滅多にルールを破ることはしないけれど、このブログAPA引用テンプレートでは、正式なガイドラインから逸脱してブログの名前を付け足した。この投稿のAPA引用は厳密に言うと「Ito, J. (2018, August 22). ブログ用のDOIが使用可能に. [Blog post]. https://doi.org/10.31859/20180829.1929」となるけれど、僕は「Ito, J. (2018, August 22). ブログ用のDOIが使用可能に [Blog post]. https://doi.org/10.31859/20180829.1929」とした。この変更した書式を使って提出した論文が減点されても責任は取れないので、ご承知願いたい。

ブログ投稿が引用されない傾向についてツイートした際、ブログは査読されないため、引用されれば問題が生じる可能性があるという反応があった。それはもっともな意見だし、考慮しなければいけない課題だけれど、引用されるものをすべて査読する必要は無い、と僕は思う。一方で、他者の文章を明確に引用し、ブログ投稿に貢献した人たちやその内容を明記し、査読が行われるべき場合は行うようにしたほうがいい、とは思っている。

「ブログ」という名称にこだわりがあるわけではないけれど、これはブログだと思っている。ブログが可能にしてくれたように、迅速に何かを発表し、学術文献の世界に繋げられるようにしておくことは価値があることだと思う。

最近では、学術プレプリント・サーバの人気が高まり、学会誌への寄稿をしなくなった学者が増えている。論文は学会誌に提出せず、アーカイブ・サーバに掲載し、学会でプレゼンテーションを行う、という流れだ。

僕の印象では、学術出版側による調整、ブロガー側の慣行の調整、そして両方のカルチャーの調整が行われれば、ブログはこの環境で相当な役割を果たせるはずだ。Geoffreyは「引用する価値のあるものには何でもDOIをつけるべきだ」と提言していて、僕も賛成だ。さらに言うと、ブログは引用する価値のあるデータの塊であるだけでなく、非公式の出版物のような存在であってもいいと僕は思う。

こういったことを考える時のパートナーであり、僕のブログのデザインや管理を15年も続けてくれているBoris Anthonyは、セマンティック・ウェブや知識の創造について深く考えており、このブログを整理するにあたってかけがえのない働きをしてくれた。また、僕のブログ投稿すべてにDOIをつけるのではなく、学術的な価値があるものに限定すべきだと説得してくれたのも彼だ。(^_^)

追伸 ワードプレス用のDOIプラグインがあるようだ。デベロッパーが登録したプレフィックスを使用したものらしい。

Credits

このサイトにDOIを実装するための技術面やデザイン関連の作業を行い、この投稿が取り上げたアイデアや編集を手伝ってくれたBoris Anthony氏

DOIを取得し、理解し、文章で紹介するにあたって指導してくれたAmy Brand氏

DOIのフォーマットを正しく行い、Crossrefに届ける際に手伝ってくれたAlexa Masi氏

訳:永田 医

34581570_10156015313486998_718869846225321984_o.jpg2011年に僕がメディアラボの新しい所長に就任することが発表された際、異例な人選だという感想を持った人は多かった。僕が上級学位、いや、学士号すら取得していなかったため、当然だ。タフツ大学もシカゴ大学も中退し、それまでの人生のほとんどを奇妙な仕事や、会社や非営利団代の設立や運営に費やしていた。

メディアラボとMITが、大学を出ていない所長を雇うのは、かなり勇気を必要とすることだったと思う。でも、峠を越えてからは、ある種の勲章だと感じる人たちもいた。(みんながそのように感じたわけではない。)

日本のインターネットの父であり、僕の日本での先生である村井純氏は、慶應義塾大学政策・メディア研究科委員長も務めており、同科の博士課程を受けるよう薦めてくれていた。2010年6月、学士号も修士号も持たない人への博士号の授与は可能、との確認が慶応大学から届いたときからこの話はいよいよ本格的になった。僕はメディアラボに入所した際、メディアラボの共同創設者で初代所長を務めたニコラス・ネグロポンテ氏に、博士課程を修了することは僕のプラスになるかどうか聞いてみた。そのときは、学位を持っていない方が興味深いから修了しないほうがいいのでは、と薦められた。

それから8年経ち、僕は討論会などで「学者代表」のようなに呼ばれることもしばしばで、博士課程の学生を含む多くの学生を指導したり、ともに働いたりしている。これらのことから、博士課程を修了する時が来た、と思い至った。つまり、自分の職業の生産物のひとつに学位というものがあり、僕もそれを試してみるべきだと感じたのだ。もう一度ニコラスに聞いてみたら、今度は賛成してくれた。

僕が取得したのは「論文博士」という、あまり一般的じゃない種類の博士号で、アメリカではあまり見かけないもの。機関に所属して新しい学問をする従来の博士課程とは違って、これまでの業績の学問的な価値や貢献度について執筆や弁護などする。また、一般的な博士課程とは、シークエンシングや順序付けも違う。

論文を書き、大学への提出物をまとめ、受理してもらう流れを経て、主任アドバイザー村井純氏、委員・論文査読者Rod Van Meter氏、Keiko Okawa氏、Hiroya Tanaka氏、Jonathan Zittrain氏によって委員会が結成された。論文へのフィードバックや詳細な批評を受けて論文を書き直した。6月6日、慶応大学で論文の公聴会が行われ、その際の質疑やフィードバックに基づいてもう一度書き直した。

6月21日に、最終試験として、批評や提案への対応やそれらに基づいた修正を委員会に発表した。その後、委員会が非公開会議を行い、論文を正式に受理した。そして僕は論文をさらに書き直し、書式を整え、仕上げをしてから印刷した最終版を7月20日に提出した。

最後に、委員会を代表して村井氏が7月30日に職員会議で発表を行い、投票を経て博士号授与が決まった。

論文はルール通り、すべて自分で著作したものだけど、これまでお世話になったアドバイザーや同僚、そして仕事をともにしたすべての人たちのおかげで実現したものなので感謝でいっぱいだ。

このプロジェクトを始めたのは、学位取得のプロセスを理解し、体験してみることが一番の目的だったけれど、研究や読書を行い、論文について話し合う過程でたくさんのことを学んだ。題名は"The Practice of Change"(変化論)で、オンラインで掲載中(PDF、LaTeX、GitHubレポ)。内容は、これまでの僕の仕事の大部分を要約と、僕たちの社会が直面している課題をどのように理解し、解決策を設計し、どう対応していくか、という問題を取り上げ、メディアラボの活動をどのように実用化し、これらの課題に取り組んでいる人たちの励みになるようにするか、というもの。
.
この論文を書くにあたって、様々な藪をつついてしまった感じがすることもあった。以前は、極端に学術的な議論は避けるようにしていたけど、僕がしてきた仕事の前後関係を把握して書き表すには、複数の異なる分野を理解することが必要だったため、新旧を含めた沢山の議論に足を踏み入れることとなった。僕がいろんな分野に進出することによって、それぞれに精通した人たちに迷惑をかけてしまうことも多々あるけれど、建設的な批判を受けたおかげで今後取り組むことになる刺激的な仕事が数多く浮かび上がってきた。

僕はまだ「厳粛な学者」になったとは思っていないし、研究や学問関連の成果物を世に出すことが仕事の焦点になることは今後もないと思うけれど、物事を見るための新しいレンズ(見方)を発見した思いだ。これから新しい世界を探索する気分、とも言える。ワールド オブ ウォークラフトのようなゲームで新しいゾーンに突入し、新しい探求や新しいスキル、繰り返し打ち込むことになる新しい作業、そして初めて学ぶことが沢山ある状態によく似ている。すごく楽しい。

Credits

「権威に対して疑問をもつこと、そして自分なりに物事を考えること」と言ってくれた代父の故Timothy Leary氏

この論文を書くように背中を押してくれた村井純氏

論文について多くのフードバックや指導、そして励ましをくれたアドバイザーのHiroya Tanaka氏、Rodney D. Van Meter氏、Keiko Okawa氏、Jonathan L. Zittrain氏

メディアラボを創立し、指導してくれたNicholas Negroponte氏

複雑なシステムや縮小の限界について考えることを促してくれた故Kenichi Fukui氏

『サイバースペース独立宣言』を執筆したJohn Perry Barlow氏

Foucaultのことを教えてくれたHashim Sarkis氏

Evolutionary Dynamicsについて指導してくれたMartin Nowak氏

いつも生きがいを感じさせてくれるMIT、特にメディアラボの同僚のみんな

この論文を含め、あらゆることで力になってくれた共同研究者のKarthik Dinakar氏、Chia Evers氏、Natalie Saltiel氏、Pratik Shah氏、Andre Uhl氏

この論文をまとめるにあたって協力してくれたYuka Sasaki氏、Stephanie Strom氏、Mika Tanaka氏

最終的な編集をしてくれたDavid Weinberger氏

論文の様々な部分についてフィードバックをくれたSean Bonner氏、Danese Cooper氏、Ariel Ekblaw氏、Pieter Franken氏、Mizuko Ito氏、Mike Linksvayer氏、Pip Mothersill氏、Diane Peters氏、Deb Roy氏、Jeffrey Shapard氏

最後に、この論文が書けるように家庭生活を調整し、ずっと支持してくれたKioとMizuka

ブログの訳:永田 医

2018年5月13日に、素朴な疑問を投稿してみた:

ちょっと青臭いと思われるかもしれないけど、仕事に関する分野の学術論文をたくさん読むようになって気づいたのは、引用される文章はブログよりも論文が多い傾向にあること。内容的にはブログ投稿のほうが優れている場合でも、論文の方が引用されてしまう。わからなくもないことだけど、実際に目の当たりにすることが多くなって、そうだったのか、という思いだ。

240ものリプライが来てはっきり分かったのは、ブログは学術誌の世界では掲載の対象とされていないこと。その理由としてよく挙げられたのは2つあって、リンクの寿命が短いことと、専門家同士による査読がなされていないこと。僕のブログのURLは2002年にウェブサイトをこのバージョンで発表して以来、ずっと変わっていないことを言っておくけれど、前者は理由としては妥当だと思う。解決策としてはいくつかのアイデアがあって、何人かの人たちが指摘した通り、The Internet Archiveは多くのサイトのアーカイブ保存を行っていて、かなりしっかりした実績も残している。

ピア・レビュー(専門家同士の相互評価・査読)に関する議論もかなり行われて、Karim Lakhaniが、ピア・レビューに関して自ら行った研究へのリンクを投稿した。



@joi
ピア・レビューに関する興味深い研究があるよ。詳しくはhttps://prt.pubpub.org/pub/draft とhttps://prt.pubpub.org/pub/appendix2 を参照。

@klakhani
私が行った研究から、これに関する悲しいお知らせもあるよ: https://pubsonline.informs.org/doi/abs/10.1287/mnsc.2015.2285 ... でも、本当はこの状態が最適なのかな?

Karimはこの研究で「評価者は、自分の専門分野に近い研究提案や新規性が高い研究提案に低い評価を与える傾向があり、これは制度として定着してしまっている」と述べている。

ツイッターでは何人もの人たちがpre-prints(プレプリント)について言及した。これは、査読に時間がかかってしまうため、査読前の原稿を発表するという、最近行われるようになった動向を指す。多くの分野では、ピア・レビューを省き、プレプリントのみを扱っているのが現状だ。いくつかの分野では、臨時のグループや非公式なグループがプレプリントを査読しており、こういった非公式査読グループを参考にしている学術誌もある。
これは、僕たちがお互いのブログの内容を評価し合うやり方にとても似ている。引用し、議論を交わし、リンクを共有する。そして、優れたブログ投稿が一番頻繁にリンクされる。グーグルが創立された当初は、こうして沢山リンクされたブログが検索結果の1ページ目に掲載された。Tim O'Reillyの"What Is Web 2.0"(「ウェブ2.0とは何か」)をはじめとする素晴らしいブログ投稿は、もはや正典といえる存在だ。このため、「教授に『論文ではブログを引用してはいけない』と言われた」という話を聞くたびに、それは違うんじゃないか、と思う。

ピア・レビューがその他の方法より優れていることは確かかもしれないけれど、向上の余地があることも間違いない。MITの研究者が2005年に発明したSCIgenは、無意味な論文を作成しており、そういったデタラメな論文が学会に提出されて受理された例もある。2014年に、120以上の論文がコンピュータに作成されたニセ論文だったことをフランスの研究者が発見し、SpringerとIEEEがそれらを除去した、という出来事もあった。ピア・レビュー自体でさえ、機械によって成功裏に模倣された例もある

Media LabとMIT Pressでは、PubPubなどの実験を通して、出版の新しい方法に取り組んでいる。ピア・レビューの未来についての議論も行われてきた。ASAPbioのJess Polkaなど、これらの課題に取り組んでいる人たちもいる。ワクワクするような進歩もあるけれど、まだまだ道のりは長い。

僕たちにできることといえば、まずは、ブログを引用しやすくすることだ。ツイッターでは何人かの人たちが「誰が何をしたかは、ブログよりも学術論文のほうが分かりやすく書いてある」と言っていた。僕はJeremy Rubinに促されて、誰かに助言などをしてもらったブログ投稿の場合、文末の謝辞欄にその人の名前を記載するようになった。その例として、FinTech Bubbleについての投稿などがある。また、つい最近、Borisが僕のブログの各投稿の終わりに「引用」ボタンをつけてくれた。みんなにも是非やってみてほしい!次は、各投稿にDOI番号をつけることを検討すべきかもしれない。ただし、個人でブログをやっている人がお金をいっぱい使わずにDOI番号を取得するには、どうすればいいか検討が必要だ。

残念なのは、ブログの引用フォーマットが非常にお粗末だということ。"Cite blog post"(「ブログ投稿を引用する」)をグーグルで検索してみると、"How to Cite a Blog Post in MLA, APA, or Chicago"(「MLA、APAあるいはChicago方式でブログ投稿を引用する」)というブログ投稿に辿り着く。そのブログ投稿によると、この投稿をAPA方式で引用する場合、"Ito, J. (2018, 6月 4日). ブログの引用表記. [Blog post]. https://joi.ito.com/jp/archives/2018/06/04/-00001.html"となる。これには納得がいかない。ブログの名前こそ掲載するべきじゃないのか?MIT Academic IntegrityのウェブサイトのCiting Electronic Sourcesの部分を見てみると、Purdue OWLのページへのリンクがある。Purdueの場合、ブログ・コメントを角括弧をつけて記載するという、やや謎めいた方式となっているが、おおよそ似ているものだ。僕から言わせれば、僕のブログの名前が持つ重要性は、どこかの学術誌に劣っていることはないので、イタリック体で記載することにする。APAのガイドラインなんか守らない。ブログの名前がURLの中でなく、引用文にちゃんと記載されるよう、APAのガイドラインを変更させるには誰に働き掛ければいいのだろう?

Credits

Boris AnthonyとTravis Richがこのブログの引用に関する作業を担当し、引用方式について話し合ってくれた。

Amy BrandがPeer Review Transparencyのサイトへのリンクを提供してくれ、Jess Polkaを紹介してくれた。

訳:永田 医

November 2010
「ちゃんとした仕事」に「腰を落ち着ける」以前の様子(2010年11月)

前回のブログ記事(英語版のみ)は、Eメール対応に使える時間がいかに少ないか、そのことがどれだけ負担になっているかについて書いた。新しい人と知り合った時、直後に僕のブログを開いて一番上の投稿を読んでくださる人が多いんだけど、自分がいかに忙しいかを愚痴った内容になっていたわけだ。それ自体はよしとしても、会話がはずむきっかけにはなりにくい。あれ以降ここに面白い記事を書けていないことこそ、忙しさを解決できていない証拠だろう。とはいえ、状況がいささか改善できたのでご報告したいと思う。

前回の投稿後、Ray Ozzie がコメントで指摘してくれたのが、問題への取り組みかたが間違っている、という点だった。ミーティング中に意識を部分的にメールに割くのではなく、インプットとアウトプットの流れのバランスとりができるような効率的なメール対応を見極めるべき、との提案だ。このフィードバックを真摯に受け、受信トレイ処理の効率化という偉業に取り組んだ次第だ。ご参考になるかもしれないので、採用したプロトコルのいくつかを以下にご紹介する。

毎日受信トレイを空にしているわけではないけど、少なくとも週に1回は空にできている。概ね事態をコントロールできており、できないことや会えない人が出るのは本当に無理な時で、見落としゆえではない、というのが現状だ。随分マシに思えてる。

次の段階に進むのは新年に入ってからの予定で、毎日のスケジュールに運動、学び、そして「マインドフルネス的小休止」を取り込もうと考えている。そうする余地を確保するため、各種リクエストに応じる判断基準を今よりも遥かに高く設定するつもりだ。

現時点までに以下のステップを採用した。ご参考まで:

NRR(返信不要の明示)

署名欄に「※返信不要の場合は「NRR」(No Reply Required)でお報せください」と含めてある。仕事仲間にも、返信のいらないメッセージを送る時はその旨相手に伝えるのを流行らせようとしているところだ。これにより「ありがとう!」「了解!」等のひとこと返信を減らせるはずだ。

Sanebox

Sanebox という、舞台裏でメールを様々なフォルダに仕分けしてくれるサービスを使っている。受信トレイに入るのは、以前にこちらからメールを書いたことのある宛先、もしくは「学習させた」ドメイン名のみとなっている。Sanebox による学習は、メールを手動でフォルダにドラッグして仕分けしたり、ドメインもしくは件名内の特定ストリングを検出して仕分け先フォルダを指定したりすることで深まっていく。僕はフォルダを4つ設けていて、「受信トレイ」には重要なメッセージ、「@SaneLater」には知らない人からのメール、「@SaneBulk」にはマスメール、「@SaneBlackHole」には二度と目にしたくないメールが入るようにしている。

助っ人方式

Gmail には受信トレイへのアクセスを他人に許可できる便利な機能がある。僕の受信トレイには助っ人2人がアクセスでき、仕分けや返信を手伝ってくれている。「@SaneLater」に優先すべき新顔さんからのメッセージが届いていないかも監視してくれている。対応や返信に時間がかかりそうな案件は Trello に移行する(Trello については後述)。情報提供のリクエスト、誰かに委託すべきリクエスト、もしくは参加できる見込みが皆無なミーティングなどは受信トレイで直接処理する。返信が必要だが数分ですみそうなメールは Keeping のチケットに変換して、対応すべき担当者にアサインされる(Keeping についても後述)。

Slack

メディアラボでは Slack のチャンネルを活用しており、Slack 上で処理できるやりとりはそこだけで対応し、Eメールのスレッドにはしないようにしている。

Trello

Trelloはグループ単位でのタスク管理を可能にする素晴らしいツールだ。「Kanban」のシステムに非常によくにた構造になっており、様々なステップを通じたタスク管理ができるシステムを要する面々(アジャイルソフトウェア開発者など)に活用されている。Trello ではEメールを転送することでカードを生成して、カードに担当者を割り当て、メール、モバイルアプリ、デスクトップアプリのいずれからでも各カードに関する対話が可能だ。

僕はTrello上で「板」を2つ作っている。ひとつは「ミーティング」板で、ミーティングのリクエストは「着信」リスト内に、会場となる都市名(もしくはテレカンファレンス)で色分けされたタグがついた状態で登録される。個々のリクエストを「着信」から「近日いずれ」「予定調整」「却下」のいずれかにドラッグして仕分けする。

「予定調整」内のカードは大まかに優先度合い順に並んでいて、チームメンバーがリストの上端のカードから順に予定調整を進めていく。日時を打診中で確認待ちのミーティングは「確認待ち」リストへ、確認がとれたカードは「確認済み」リストに移行する。何らかの理由でミーティングが流れてしまった場合はカードを「未遂/再調整」リストに移し、完了したミーティングは「完了」に入る。週に最低1回は僕が「完了」リストのカードにフォローアップの見落としや、念頭に置くべき事項がないか確認して、アーカイブに入れる。「着信」「近日いずれ」リストも僕が確認して、「予定調整」と「却下」の判断をする。また、「予定調整」リストの優先順位も確認するようにしている。

「ミーティング」板に加え、「ToDo」板もある。

「ToDo」板には同様に「着信」リストがあり、やるべきかも、と僕か誰かが思った事項がリスト化されていく。対応しようと僕が決めた案件は「対応予定」リストに移す。未了で、誰かからの反応待ちゆえに止まってしまった案件は「待機中」リストに入れる。完了したら「完了」に入れて、いずれ、完了したことで十分な手応えを自分で得られた時点で僕がアーカイブ化する。こちらの板には「放棄」「却下」「委託済み」リストもある。

Keeping

Keeping はカスタマーサポートデスクが使うようなものとよく似たトラッキングシステムだ。あらゆるメールを「チケット」に変換でき、チケットシステムそのもののEメールアドレスも設定できる。このチケットシステムは、僕のメールの受信トレイよりも多くの方々に公開している。メールがチケット化されるとチーム全員がそのチケットをスレッドとして見られるようになり、文脈メモとして非公開のノートをスレッドに付与することもできる。Keeping は「お客さん」とのメールのやりとりを管理してくれるため、問い合わせに誰でも対応できるのと同時に、個々のメールに割り当てられたメンバーは個人のリストにその案件が「オープン」(要対応)として表示される。スレッドが解決するとチケットを「クローズ」(解決)してスレッドをアーカイブする。完了していないスレッドは誰かがクローズするまでは「オープン」のままとなる。クローズ済みのスレッドに誰かが返信した場合、再度「オープン」となる。

Keeping は Chrome および Gmail のプラグインで、機能は少々限定的だ。最近使い始めたところで僕はわりと好印象だけど、仲間の何人かはデスクトップ版のメールクライアントを使っていて、チケットの割り当てやクローズなど、いくつかの機能に使用制限がある。Keeping はまた、リクエストに対する処理に少々の待ち時間があり、大急ぎでトリアージをしている時などはイライラする。Trello ともかぶる部分があるので、導入する価値があるかどうかは微妙なところかもしれない。とはいえ、現状では試用中で、うちのプロセスにハマるかどうか、様子を見ている段階だ。

you can book me で僕と握手

15分のオフィスミーティングは(つかれるけど)短いながら高密度で、しばしば重要なミーティングを実現する方式として効果的に思えている。僕は youcanbook.me というサービスを使っていて、カレンダーの特定の時間帯を指定して、僕が考えたフォーム経由でウェブサイトから15分単位で予約を入れてもらえる。ミーティング予約は自動的に僕の Google カレンダーに登録され、通知のメールも届くし、キャンセルなどの更新情報も把握してくれる。

編集スタッフによるブラッシュアップ

Eメール、エッセイ、手紙など、様々な文書の編集を得意とするスタッフが何人かいる。大事な案件では Google ドキュメントを活用し、そこらが僕よりはるかに得意なメンバーに文章を編集してもらっている。

John Brockman率いるEdgeは毎年難題を提示している。2017年の問いは「What scientific term or concept ought to be more widely known?」(もっと広く知られるべきと思える科学的な語句もしくは概念を挙げよ)だった。僕の答えは:
Neurodiversity(神経学的多様性)

ヒトの神経学的な状態には多様性がある。自閉症など、その中の一部は障害と見なされているものの、ヒトゲノムの正常な差異の結果だと主張する声も多い。神経学的多様性ムーブメントは国際的な市民権運動であり、自閉症は「治療」されるべきではなく、人間の真の多様性の一環として守られるべきだとするものだ。

1900年台初期の頃は、優生学や、遺伝学的に劣ると見なされた人々の避妊手術は科学界に公認されており、セオドア・ルーズベルト、マーガレット・サンガー、ウィンストン・チャーチルおよび米最高裁判事オリバー・ウェンデル・ホームズ・ジュニアなどはこれを積極的に擁護していた。しかし優生学運動に端を発したホロコーストこそが、これらの計画を実践に移した時の危険および厄災のおぞましい実例に他ならない。

自閉症および神経学的多様性の精力的な代弁者であるテンプル・グランディンは、アルバート・アインシュタイン、ウォルフガング・モーツァルト、ニコラ・テスラが今生きていたら「自閉スペクトラム」と診断されていただろうと主張する。彼女の考えでは自閉症は長きにわたり人類の発展に貢献してきており、我々に自閉症的形質がなければ今でも洞窟に住んでいたかもしれないとしている。現在、神経学的な非健常児が伝統的な教育システム内の改善プログラムに入れられ、後から実は天才だったことが判明する事態がしばしば起きている。そしてそういった子供たちの多くがやがてMITその他の研究機関にたどり着いている。

CRISPRの発見によりヒトゲノムの大規模な編集が突如として実現可能になった。現在進められている初期応用例は消耗性疾患を起こす遺伝子変異の「修正」に関わるものだが、それと同時に我々の足を自閉症のみならず、人間社会を繁栄させている多様性の大部分を消してしまいかねない未来に向けさせてもいる。ヒトゲノムに関する我々の理解はまだ初歩的なものなので、知性や性格などにまつわる複雑な変更を適用できるのはしばらく先の話だが、滑りやすい坂道に思える。数年前に見た事業計画では、自閉症とはゲノムの「エラー」に過ぎず、粒子の粗い写真や音質の悪い録音の「ノイズを除去」するかのように「修正」可能だと主張されていた。

自閉症をもって生まれてきた子供たちの中には、確かに、消耗性の問題を抱えていて治療介入が必要な子もいる。しかし自閉症を「治療」しようとする試みは、それが対照的な解決であれ、いずれ行われるであろう遺伝子操作によるものであれ、学問、革新、芸術を含め、健全な社会に不可欠な要素の多くの原動力となっている神経学的な多様性を払拭する結果に繋がりかねない。

健全なエコシステムに多様性が不可欠であるということは、我々はすでに知っている。農業における単一栽培が脆弱で持続不可能なシステムを生み出してきたことも知られている。
僕が懸念するのは、仮に神経学的多様性が社会に不可欠であることを解明して理解できたとしても、標準から逸脱したリスキーな形質を意図的に排除する手段が開発されてしまい、選択肢を提示された時に人は神経学的に健常な子供を望みがちになるのではないかということだ。

障害や疾患を払拭するために我々が進むこの遺伝子操作という道は、科学的にはより洗練されているものなのかもしれない。しかしそれは人類が以前にもたどった道であり、その際には意図しない、不可逆ですらありうる結果や副作用をもたらしたことがあるのを、重々認識しておきたい。

EDGEではいろいろな人の回答が読める。

Black and White Gavel in Courtroom - Law Books
Photo by wp paarz via Flickr - CC BY-SA

社会参加型 (society-in-the-loop) 機械学習という用語を使うのをぼくが初めて効いたのは、イヤド・ラフワンがそれを口にしたときだった。かれはScience に掲載されたばかりの論文を説明していたところで、その論文自動運転車に人々がどんな判断を行ってほしいと思うかについて世論調査を行うというものだったお----哲学者たちが「トローリー問題」と呼ぶものの現代版だ。この考え方は、世間の優先順位や価値観を理解することで、社会が倫理的と考えるやり方で機械が振る舞うように訓練できるというものだ。また、人々が人工知能 (AI) とやりとりできるようにするシステムを作って、質問をしたり行動を見たりすることで倫理を確かめてもいい。

社会参加型 (society-in-the-loop) 機械学習は、人間参加型 (human-in-the-loop)機械学習を拡張したものだ----人間参加型 (human-in-the-loop)機械学習機械学習は、メディアラボのカルシック・ディナカールが研究してきたもので、AI研究の重要な一部として台頭しつつある。

ふつう、機械はAIエンジニアたちによって、大量のデータを使い「訓練」される。エンジニアたちは、どんなデータを使うか、どう重み付けをするか、どんな学習アルゴリズムを使うか、といった各種パラメータをいじって、正確で効率よくて正しい判断をして正確な洞察を与えてくれるようなモデルを作り出そうとする。問題の一つは、AIというかもっと厳密には機械学習がまだとてもむずかしいので、機械を訓練する人々は通常、その分野の専門家じゃない。訓練するのは機械学習の専門家で、学習後に完成したモデルを試験するのも専門家であることが多い。大きな問題は、データの中のバイアスやまちがいは、そうしたバイアスやまちがいを反映したモデルを作り出す、ということだ。こうした例としては、令状なしの身体捜索を許容する地域からのデータだ----その標的になったコミュニティはもちろん、犯罪が多いように見えてしまう。

人間参加型 (human-in-the-loop)機械学習機械学習は、専門家とのやりとりを通じて学習する機械を作り出すことにより、その分野の専門家が訓練をやるか、少なくとも訓練に参加できるようにすることだ。 人間参加型 (human-in-the-loop)コンピューティングの核心にある発想は、モデルをデータだけから構築するのではなく、そのデータについての人間的な視点からもモデルを作るということだ。カルシックはこのプロセスを「レンズ化 (lensing)」と呼んでいる。つまりある領域の専門家が持つ人間的な観点またはレンズを抽出し、訓練期間中にデータと抽出されたレンズの両方から学ぶようにするわけだ。これは確率的プログラミングのためのツール構築と、機械学習の民主化の両方にとって意味があることだとぼくたちは思っている。

哲学者、聖職者、AIや技術の専門家たちとの最近の会合では、機械が裁判官の仕事を奪うという可能性について議論した。データがらみのことなら機械がとても正確な評価を下せるという証拠はあるし、裁判官が決める保釈金の額や仮釈放の期間といったものは、人間より機械のほうがずっと正確にできると思うのは無理もないことだ。さらに、人間の専門家は適切に保釈金額を決めたり仮釈放の判断をしたりするのが苦手だという証拠もある。仮釈放判定委員会による聴聞が昼ご飯の前か後かで、結果にはかなりの影響が出てしまう(この論文で引用された研究についてはいくつか批判があり、論文著者たちはそれに対して答えている)。

議論の中で、一部の人はある種の判断、たとえば保釈金額や仮釈放などを裁判官ではなく機械に任せてはどうかと提案した。哲学者と聖職者数名は、それが効用主義的な観点からは正しく思えても、社会にとっては裁判官が人間だというのが重要なのだと説明した。そのほうが「正しい」答えが出るよりも大事なんだという。効用を重視すべきかという問題はさておき、どんな機械学習システムだろうと、社会が受け入れるかどうかはとても重要になるし、この観点に取り組むのは不可欠なことだ。

この懸念に対処する方法は二つある。一つは「人間参加型 (human-in-the-loop)」にして、人間の裁判官の能力を補ったり支援したりするのに機械を使うというものだ。これはうまくいくかもしれない。その一方で、医療や飛行機の操縦といったいくつかの分野の経験を見ると、人間は機械の判断を取り消してまちがった判断を通してしまうことがあり、一部の場合には人間が機械の判断を取り消せないようにしたほうがいい。でも人間が投げやりになったり、結果を盲目的に信用するようになったりして、機械にすべて任してしまう可能性もある。

第二の方法は、機械を世間によって訓練させること(社会を参加させる)だ----人間が、機械が自分たちの、おおむねおそらくは、多様な価値観を信頼できる形で代弁していると思うような形で訓練してもらえばいい。これは前例がないことではない----多く意味で、理想的な政府は、それが十分に物事を理解しており、熱心だと人々が思っているので、それが自分を代弁していると感じ、そして政府の行動に対して自分が最終的に責任を負うと感じるようなものだ。社会が訓練できて、社会が信用できるほど透明性があるようにすることで、社会の支持と代弁能力を獲得できる機械を設計する方法があるのかもしれない。政府は、競合して対立する利害と対処できているし、機械だってそれができるかもしれない。もちろんややこしい障害はたくさんある。たとえば伝統的なソフト(コードは一連のルールだ)とはちがい、機械学習モデルはもっと脳みたいなものだ----一部だけを見て、それが何をするか、今度どう動くかをずばり理解するのは不可能だ。社会が機械の価値観や行動を試験し、監査する手法が必要だ。

この機械の究極の創造者にしてコントローラーとしての社会からインプットを得て、そしてその支持を得る方法を編み出せれば、それはこの司法問題の裏面も解決するかもしれない----人間が作った機械が犯罪を犯したらどうするか、という問題だ。たとえば、自動運転車の振る舞いに対して、社会が十分な入力とコントロールを得ていたと感じるならば、その社会は自動運転車のふるまいや潜在的な被害についても、自分やそれを代表する政府に責任があると感じ、自動運転車の開発企業すべてが直面する製造物責任問題を迂回する一助になるんじゃないだろうか。

機械が社会からの入力をどのように得て、社会によりどう監査されコントロールされるかという問題は、人命を救い正義を実現するために人工知能を導入するにあたり、開発されるべき最も重要な領域となるかもしれない。それにはおそらく、機械学習ツールを万人が使えるようにして、とてもオープンで包含的な対話を実施し、人工知能の進歩からくる力を再分配することが必要になる。見かけ上だけ倫理的に見えるよう訓練する方法を考案するだけじゃダメだ。

Credits
  • イヤド・ラフワン (Iyad Rahwan) - 「社会参加型 (society-in-the-loop)」など多くのアイデアについて
  • カルシック・ディナカール - 「人間参加型 (human-in-the-loop)」機械学習について教えてくれたことと、ぼくのAIの先生となっ* てくれたこと、その他のアイデアについて
  • アンドリュー・マカフィー (Andrew McAfee) - 仮出所審査委員会についての研究紹介と考え方を教えてくれた
  • ナタリー・サルティエル - 編集作業
  • 訳:山形浩生

Minerva Priory library
The library at the Minerva Priory, Rome, Italy.

訳:Hiroo Yamagata

最近、技術研究者、経済学者、ヨーロッパの哲学者や進学者たちとの会合に参加した。参加者は他に、アンドリュー・マカフィー、エリック・ブリニョルフソン、リード・ホフマン、サム・アルトマン、エリック・サロビル神父だ。ぼくにとってこの会合が特におもしろかったのは、会話に神学的(この場合キリスト教的)な視点があったことだった。話題の中に出てきたのが、人工知能と仕事の未来だった。

機械が人間にとってかわり、多くの人々を失業させるのではという問題は、何度も繰り返されてはいるけれど、未だに重要であり続けている。サム・アルトマンらは、生産性の激増は経済的な過剰を作り出して、失業者にはユニバーサルな「ベーシックインカム」を支払えるようになると論じた。ブリニョルフソンとマカフィーは「負の所得税」を提唱している――低所得労働者に課税ではなく補助金をあげて、仕事という実践が生み出す他の重要な影響を阻害することなく、金銭的な再分配を助けようというものだ。

負の所得税を支持する人々は、仕事の重要性が単にそこから得られる所得だけでなく、それが社会的にも心理的にも与えてくれる安定感なのだということを認識している。仕事は社会的な地位を得る方法だし、また目的意識も与えてくれる。職場は社交の機会でもあるし、多くの人々が生産的で幸せでいるための構造も提供してくれる。

するとAI などの技術がいつの日か生産性の過剰をもたらして、金銭的には働く必要がなくなったとしても、人は相変わらず社会的地位を獲得し、仕事から得ている意味ある目的を得るための方法を見つけなくてはならない。この社会では、働いているのに給与のない人もいる。その最大のグループは、在宅の男女で、家や子供の世話をするのが仕事だという人々だ。その労働は現在はGDPに計上されないし、そういう人々はあるべき社会的地位や価値も得られないことが多い。なんとか文化を変えて、お金を稼がない人にも尊厳と社会的地位を与えるような仕組みや制度を作り出せるだろうか?ある意味では学術界や宗教機関や非営利サービス組織がそうした構造をある程度は持っている。つまり、お金を主体とせずに動く社会的地位や尊厳が得られる。この価値構造をもっと広く拡張する方法はないものだろうか?

そうしてクリエイティブなコミュニティはどうだろう?どうしてアマチュア作家やダンサーや歌い手が、金銭的な収益以外の形で成功を定義できるような組織原理を構築できないんだろうか?それでマスメディアによる流通と消費で支えられない少数のプロ以外にも、社会の中でクリエイティブな役割を開放できるんじゃないだろうか?「食うに困るアーティスト」という表現を、過去の風変わりな比喩表現にできないか?仕事の概念を、これまで一般に理解され受け入れられてきた生産性概念と切り離せないだろうか? 活動性とユーダイモニアの観点からすると「内面の仕事」というのがもっと有意義なものと捕らえられないものだろうか?

ペリクレス時代のアテナイは、人々が活躍して生産的になるために働く必要がなかった道徳的社会の好例に思える*。自尊心と共有された社会的価値観が、金銭的な成功やいまのような仕事と関連していないような新しい時代を想像できるだろうか?エリック神父は「活動性というのはどういうことだろう?」と尋ねる。現代のユーダイモニアとは何だろう?わからない。でもそれがなんであれ、根本的な文化の変化を必要とするのはわかる。その変化はむずかしいけれど、不可能ではない。その第一歩としてふさわしいのは、技術や金融イノベーションと並行して、文化についての作業を始めることだ。それにより未来は何もすることがない無関心なガキどもの世界よりは、ペリクレス時代のアテナイと似たものになる。もしそれがペリクレス時代のアテナイを動かす道徳的価値と美徳だったとするなら、いまあるような形の仕事がなくなった世界に間に合うようにそれを開発するにはどうしたらいいだろうか?


* ペリクレス時代のアテナイには奴隷がたくさんいた。将来の機械時代には、機械の権利について心配する必要があるだろうか?ロボット奴隷の新しい階級を作り出すことになるだろうか?

Credits
  • Reid Hoffman - Ideas
  • Erik Brynjolfsson - Ideas
  • Andrew McAfee - Ideas
  • Tenzin Priyadarshi - Ideas
  • Father Eric Salobir - Ideas
  • Ellen Hoffman - Editing
  • Natalie Saltiel - Editing
  • Hiroo Yamagata - Translation

Leafy bubble
Photo by Martin Thomas via Flickr - CC-BY

訳:Shin'ichiro Matsuo

2015年のブログポストで、ビットコインがいろんな点でインターネットに似ていると思っている話を書いた。そこで使ったメタファーは、ビットコインは電子メール――最初のキラーアプリ――みたいなものであり、ビットコインに使われているブロックチェーンはインターネットのようなものだ――つまり電子メールをサポートするために普及したけれど、その他の実に多くの目的にも使えるインフラ――というものだった。ぼくは、インターネットがメディアや広告に対して果たしてきたものと同じ役割を、The Blockchain(訳注:ビットコインのブロックチェーン)が金融や法律に果たすのではないかと示唆した。

今でもぼくはこれが正しいと思っているけれども、産業界は舞い上がりすぎている。10億ドル以上のお金がビットコインとフィンテックのスタートアップにすでに投資されていて、これは1996年におけるインターネットへの投資額に追いつき追い越す勢いだ。現在のフィンテックビジネスの多くは、当時のスタートアップに似ていて、当時のpets.com(訳注:当時大失敗したドットコム企業)が、XXXのためのブロックチェーンになっただけだ。今のブロックチェーンは1996年のインターネットほどは成熟していないと思う――たぶん1990年か80年代末というところだろう――まだIPプロトコルについての合意もなく、CiscoもPSINetもなかった時代だ。多くのアプリケーションレイヤの企業が、安定性やスケーラビリティから見て準備ができていないインフラの上に構築されているし、その発想もダメなものか、良いアイデアにしても早すぎるかのどちらかだ。また、これらのシステムの設計に必要となる、暗号学、セキュリティ、金融、コンピュータ科学の組み合わせを本当に理解している人はとても少ない。理解している人々は、非常に小さなコミュニティの一部でしかなく、この未成熟なインフラの上に建てつつある10億ドルの大建築を支えられるほどたくさんはいない。最後に、インターネット上のコンテンツと違い、ブロックチェーン上で行き交う資産や、多くの要素の不可逆性のため、ブロックチェーン技術に、WebアプリやWebサービスでやっているのと同じレベルのソフトウエアのアジャイル開発――やってみて、成功したものだけ採用――は適用できない。

これらの基盤的なレイヤに取り組んでいるスタートアップや学者はいるけれど、まだまだ足りない。すでにちょっとバブルになりつつあるんじゃないかと思うし、そのバブルは弾けたり修正が入ったりするかもしれない。それでも長期的には、インフラをどうすべきか理解して、願わくは非中央集権的でオープンな何かを作れると思いたい。バブルが弾ければ、最初のドットコムバブルの崩壊でインターネットに起きたような、システムからのノイズ除去が起きて、みんな意識を集中できるようになるかもしれない。一方で、ダメなアーキテクチャしかできずに、多くのフィンテックアプリは既存のものをちょっと効率的にするくらいのもので終わることもあり得る。ぼくたちは、皆が本当に非中央集権的なシステムを信頼するか、無責任な導入が人々を遠ざけてしまうかを決めるような決定を下すべき重要な時期にいる。コミュニティとしてコラボレーションを増やし、イノベーションと研究開発をスローダウンさせることなく、たんねんにバグと悪いデザインを取り除く必要があるだろう。

アプリケーションを作るより、インフラを構築する必要がある。あるバージョンのビットコインが「インターネット」になるのか、Ethereumのような他のプロジェクトが単一標準になるのかはわからない。もしかしたら、いろいろちがったシステムが、何か互換運用性を持つ形になる可能性もある。最悪の事態は、アプリケーションばかりに気をとられてインフラを無視してしまい、真に非中央集権的なシステムの構築機会を見逃し、有線のインターネットよりモバイルインターネットに似たシステムにおちついてしまうことだ――有線のインターネットはおおむね定額制だしそんなに高価ではないのに対し、モバイルインターネットは独占企業にコントロールされて従量課金とありえないほど高額なローミング料金の世界だ。

インフラとしてデザインとテストが必要な部分はたくさんある。合意アルゴリズム――個別のブロックチェーンが公開台帳を改ざんできないようにしてセキュアにする方法――についてはいろいろなアイデアがある。また、ブロックチェーン本体をどの程度スクリプト記述可能にするか、それともその上のレイヤで実装すべきかについての議論もある――どっちの主張にも一理ある。また、「プライバシと匿名性」対「アイデンティティと規制」をめぐる問題もある。

Bitcoin Coreデベロッパチームは、Segregated Witnessについて実績をあげつつあるようで、これはみんなのスケーラビリティに関する懸念の一部など多くの懸念を解決できるはずだ。一方で、歴史が浅いがパワフルで、もっと使いやすいスクリプティングやプログラミングの仕組みを持つEthereumは、ブロックチェーン上で新しい用途を設計しようとする人々からかなりの勢いと関心を集めている。他にHyperledgerなどのプロジェクトは、独自のブロックチェーンシステムとブロックチェーンにとらわれないコードをデザインしている。

インターネットは、オープンな標準に基づく明確なレイヤを持っていたからこそうまく行った。実際、TCP/IPがATM(訳注:Asynchronous Transfer Mode 非同期転送モード)――標準としての対抗馬――に勝てた理由は、ネットワークのコアが非常にシンプルで「バカ」だったエンド・ツー・エンド原則のおかげで、ネットワークの末端が非常にイノベーティブになれたからだ。この二つの標準がしばらくしのぎを削ったあげくに、TCP/IPが明白な勝者だと判明した。ATMを核とした技術への投資の多くは無駄になった。ブロックチェーンでの問題は、そもそもレイヤがどこにあるかすらわからないし、標準への合意のプロセスをどう仕切るべきかさえわかっていないということだ。

(Ethereum) Decentralized Autonomous Organizationプロジェクト、「The DAO」は、現在ぼくが見ている中でも心配しているプロジェクトだ。発想としては、Ethereum上に、コードとして書かれた「エンティティ」を作るというものだ。そのエンティティは会社の株に似たユニットを売り、投資したりお金を使ったりもできて、ファンドや会社とまったく同じように活動できる。投資家はそのコードを見て、そのエンティティが納得できるものかを判断して、トークンを買ってその投資の収益を期待する。なんだかSF小説みたいで、90年代前半のサイファーパンクだったぼくたちは、メーリングリストやハッカー集会で途方もないことを夢見ようとしていた頃に、みんなこの手の妄想は抱いたものだ。問題は、The DAO*がすでに1.5億ドルを投資家から集めていて、「リアル」なのに、それがビットコインほど検証されていないEthereumの上に構築されていることだ。そしていまだに合意プロトコルも固まっておらず、次期バージョンではまったく新しい合意アルゴリズムへの切り替えすら考えているという。

どうやらThe DAOはまだ法的に完全に記述されておらず、投資家たちにパートナーシップ上のパートナーとして損害賠償責任を負わせかねない。英語を使って弁護士たちが書いた契約とはちがい、DAOのコードでヘマをしたら、どこまで簡単にそれを変えられるかははっきりしない。契約書の言葉上のミスなら、裁判所がその意図を見極めようとすることで対応できるけれど、分散した合意ルールにより強制されるコードには、そんな仕組みが存在しない。また、コード自体が悪意を持ったコードで攻撃されかねないし、バグが脆弱性を引きおこす可能性もある。最近、 Dino Mark, Vlad Zamfir, Emin Gün Sirer――中核開発者と研究者たち――が、「The DAOに一時的なモラトリアムを」 (A Call for a Temporary Moratorium on The DAO) という、The DAOの脆弱性を指摘した論文を公開した。それにThe DAOは多分、この時点ではまだあれこれ口を出してほしくない様々な規制当局の人に対し、危険信号を発してしまうんじゃないだろうか。The DAOはEthereumにおけるMt. Gox――つまり、プロジェクトの失敗が多くの人に損をさせ、一般の人や規制当局がブロックチェーンの発展に急ブレーキをかけるきっかけ――になりかねない。

ぼくがこんな冷や水を浴びせたところで、この分野のスタートアップと投資家は猪突猛進を続けるのはまちがいないだろう。でもぼくは、できるだけ多くの人が専念すべきなのはインフラであり、構築しようとしているスタックのいちばん低いレイヤに存在する機会だと思っている。合意プロトコルをきちんと構築し、物事を非中央集権的なかたちにとどめ、過剰な規制を避けつつプライバシ問題を扱い、お金と会計を根底から再発明する方法を見つること――これこそがぼくにとってはエキサイティングで大事のことだ。

企業が研究を始め、実用的なアプリケーションを見つけるべきエキサイティングな分野はいくつかあると思う――発展途上国のソーラーパネルなど市場の失敗に直面している分野の証券化や、貿易金融など信頼の欠如がとても非効率的な市場を作り出すために標準化された仕組みが存在するような部分のアプリケーションなどだ。

中央銀行や政府も、すでにイノベーションを探し始めている。シンガポール政府はブロックチェーン上での国債発行を考えている。幾つかの論文では、中央銀行が個人の預金を直接受け入れて、デジタルキャッシュを発行する可能性が検討されている。一部の規制当局も、人々がイノベーションとアイデアのテストを規制上の安全領域で行えるようなSand Boxの構築を計画しはじめた。もともとのビットコインのデザインが政府を避けよう、というところから始まっているのに、面白いイノベーションの一部は政府の実験から登場するという皮肉な可能性もあり得る。そうは言っても、政府は、堅牢な非中央集権的アーキテクチャの開発を助けるよりも、その邪魔をする可能性の方が高いだろうけれど。


* このポストのわずか3日後に、The DAOはぼくが恐れていた通りに「攻撃」された。ここに、攻撃者を名乗る人物からの興味深いポストがある。Reddit上ではすぐに、このポストにつけられた電子署名は無効であると判断された。そして、その自称攻撃者からの別のポストでは、彼らは(Ethereumの)マイナーたちに、フォーク(訳注:攻撃によって得た利益を無効にするEthereumのブロックチェーンの変更)に賛同しないように賄賂を送ろうとしている。これが本当の攻撃者なのか、あるいは壮大な釣りなのかはわからないが、非常に興味を惹く主張だ。

Credits

Great_Dome,_MIT_-_IMG_8390.JPG
写真:Daderot(パブリックドメイン、Wikimedia Commonsより)

僕がMITメディアラボの所長に着任した当初、ニューヨークタイムズはこれを変わった人選と評したが、その通りだった。最終学歴は高校卒業だったし、タフツ大学とシカゴ大学の学部課程および東京の一橋大学の博士課程からいずれもドロップアウトしていたからだ。

最初に同ポストの打診が来た時は、学位がないから応募すべきじゃないだろう、との助言をもらった。数ヵ月後、選考委員だった Nicholas Negroponte(ニコラス・ネグロポンテ)から再び連絡があり、面接を受けにMITに来てみないかと誘われた。初回の候補者リストからは最終候補が出なかったそうだ。

教授陣、学生陣、スタッフとの面接は好感触だった。僕の人生でも最も刺激的な類の2日間であり、同時に、間の夜に日本で大地震が発生したため、かなり辛くもあった。あの2日間は様々な意味で僕の記憶に刻み込まれている。

委員会からの連絡はすぐに来た。僕が第一候補らしく、異例の候補であるため、再訪して Architecture and Planning(建築と計画)学部長である Adele Santos(アデル・サントス)氏、加えて、もしかすると学長(現在はMIT総長)の Rafael Reif(ラファエル・ライフ)氏とも面接されたし、とのことだった。ラファエルとの面接で豪華なオフィスに座ると、彼はどこか問い詰めるような目つきで、「何の話をしようか」と聞いてきた。そして僕が自分が候補になった展開の特殊性を説明すると笑顔になり、彼が誰に対してもしているように、「MITへようこそ!」と温かい歓迎の言葉をくれたのだった。

メディアラボの所長としての僕の仕事はラボの運営および研究を監督することだ。MITでは研究室と学術プログラムとが政教分離のごとく分けられているのが普通だけど、メディアラボは Architecture and Planning学部の中に「独自の」学術的な Program in Media Arts and Sciences(情報科学芸術プログラム)を構えていて、それが研究側と強固に連繋している点がユニークだ。

創設以来、メディアラボは常に研究の実践面、すなわち論文を発表するだけではなく、実施し、実績を展示し、投入することで学ぶという方針を重視してきた。学術プログラムは教授(現在は Pattie Maes(パティー・マース))が担当しており、僕自身も密接に関わっている。

僕の前任者、およびメディアラボ創設時に所長を務めた Nicholas(ニコラス・ネグロポンテ)はどちらも教授職を兼ねていた。しかし僕の場合、僕自身がそうと知らなかったことと、僕に学生を指導したり十分に学術的な働きができたりするかMITが判断しあぐねた結果、着任時点では教授にはならなかった。

そのことはほとんどの局面では重要ではなかった。僕は教授陣の会合にはすべて出たし、ごく稀な例を除くと権限と支持を得られている実感があった。気まずい空気となったのは「伊藤教授」と誤認されたり、他の大学の学者さんたちに自分の立場を説明したところ「なるほど、教授かと思ってましたが経営側の方なんですね」と返されたりした時くらいだ。

...なので教授である"必要性"は特に感じなかったし、教授となるための申請をしてはどうかと声がかかった時には、どのような利点があるかよくわからなかった。メンターの方々数名に相談したところ、(教授になれば)メディアラボの所長を退任した後でもMITに居続けることが可能になるだろう、と言われた。正直、ラボ所長の役を退く自分など想像すらできないけど、有用な選択肢に思えた。加えて、教授になることでMITの正式な構成員としての色合いが強まることもある。評議会の承認が必要なので、通ればそれがお墨付きとなるわけだ。

僕は自分の研究グループを立ち上げようとは思わないし、これまでもメディアラボ全体を僕が担当する「研究グループ」、かつ、僕のこだわりどころと見なしてきた。ただし、時々新たな試みの立ち上げを手伝ったり、教授陣の支援をしたりしていく中で、より学術的なマインドセットを要する思考や行動に関与することが増えてきた。さらに、メディアラボおよびMIT全体の学術プログラムについて、僕は以前よりも色々と意見をもつようになってきている。教授陣の一員となることでこれらの意見を表明する土台を固められるだろう。

このような考えを胸に、そして賢明なるメンターの方々からの助言に後押しされ、僕は申請を行い、本日付けで Media Arts and Sciences(情報科学芸術)実務教授としてMIT教授陣の一員になることを承認された。

昔よく妹とケンカをしたものだ。妹は博士号を2つもっていて、研究者で大学教授だったので、揶揄の意味を込めて学者呼ばわりしていた。僕がメディアラボ所長に就任した時、馴染めないだろうとか、うんざりするだろうと警告する声が多かったのをおぼえている。僕はもうMITに5年ほど勤めているけど、これまでのどんな仕事より長続きしている。(そして妹は今や起業家となっている。)僕はようやく自分のすべきことを探し当てた手ごたえを感じていて、この仕事、このコミュニティ、そして僕自身と僕が仕えるコミュニティに発展をもたらし、インパクトを与えられる可能性に対し、かつてないほど嬉しく思っている。

これまで僕を支えてきてくれたMIT、僕の数多いメンター、同僚、学生、スタッフ、友人の皆さんに心から感謝している。この旅路を歩み続け、その先にあるものを目にするのが楽しみでしかたない。

教授になります、2016年7月1日付けで。