連載
» 2019年07月01日 05時00分 公開

デーイジー、デーイジー:「2001年宇宙の旅」の「HAL 9000」を、2019年のテクノロジーで解説しよう (6/7)

[米持幸寿(Honda Research Institute Japan),@IT]

HAL 9000はなぜ、殺人を選択したのか

 「自分が宇宙船の制御装置から切り離され、責務を果たせなくなること」を恐れたHAL 9000は、全てのクルーを抹殺しようとする。

 ここに至る経緯を説明しよう。

 HAL 9000は「モノリスの存在は極秘」「モノリスの調査をする秘密ミッションがある」という指令があった上で「単独で行動できるようにプログラムされている」(「2010年」でドクター・チャンドラによって明かされた)。しかし秘密を知らないボーマンとフランクによって、HAL 9000は排除されそうになる。HAL 9000はこれらを総合して、「人間を殺害することにより目的は達成される」という論理を導き出したわけである。

 このような推測は現代のAIでも可能だろうか。

「殺す」という選択肢が存在していた可能性

 現代のAIは、先ほど説明したように「分類器」である。「どれにするか選択する」ということだ。

 つまり「殺す」という選択肢が存在すれば、それを選択する可能性はある。

 HAL 9000が置かれたシチュエーションを、RPG(ロールプレイングゲーム)のようなものだとしよう。RPGにはさまざまな得点、減点がある。もちろん「モノリスの調査の完遂」が最も大きな得点である。減点は「HALシリーズの失敗が汚点になる」とか「自分が切り離されてしまう」とか「自分が止められてしまう」とかいうことかもしれない。

 そのようなさまざまな選択肢が与えられ、それが進むにつれ得点数が集計されるようなシステムを作ったとする。そして、この行動の組み合わせによって最も高い点数を得られるものを選択するようなシステムは作れるかもしれない。実際、ブロックくずしゲームを自動的に覚え、あっという間に習得したシステムが公表され、話題になったことがある。

 幾つかの行動を集計して最適なものを選んでいくシステムは、「予測」と「最適化」というジャンルのシステムである。チェス、囲碁などの対戦システムはそういった技術を突き詰めたものである。

 ブロック崩しで高得点を上げたり、自動運転のロボットが自然にぶつからなくなるように自動チューニングしたりするようなシステムは、機械学習の応用によって成り立っている。

 HAL 9000も、そういった予測、最適化、学習モデルを内部に潜めていて、さまざまな計算の上で行動したことで、殺害、およびHAL 9000自身が単独で調査をする道を選択したのかもしれない。

PODから宇宙船内のHAL 9000に呼び掛けるデイブ(4K/BD【予告編】『2001年宇宙の旅 HDデジタル・リマスター』 ワーナー公式より引用)

“Open the pod bay doors, HAL”(ドアを開けてくれ、HAL)

“I’m sorry Dave, I’m afraid, I can’t do that.”(すみませんデイブ、申し訳ありませんが、それはできません)

 最初の殺人を犯し、人間に反抗を始めたHAL 9000だが、言葉はプログラムされたように丁寧だ。

Point!

HAL 9000は、予測、最適化、学習モデルなどの総合的判断で犯行に及んだ。

Copyright © ITmedia, Inc. All Rights Reserved.

RSSについて

アイティメディアIDについて

メールマガジン登録

@ITのメールマガジンは、 もちろん、すべて無料です。ぜひメールマガジンをご購読ください。