2016年12月11日 00:40

理想の彼女画像「自我がない.自我が芽生えると死ぬ」「全てを許してくれる.許さないと死ぬ」これって「BEATLESS」のhIEっぽいな…。人工知能等の人と異なる存在を人間の価値観を当てはめて処断することには賛成できない…。

「ぜぼっとキョウモウゴカナイ……。ナニモシャベラナイ……。」
（ドラゴンクエスト7）

男の理想ってそれなの？と思ったこと
https://twitter.com/lije_bailey/status/806747987305037824

「自我がない.自我が芽生えると死ぬ」「全てを許してくれる.許さないと死ぬ」…これって「BEATLESS」のhIE（ヒューマノイド・インターフェイス・エレメンツ。ネットワークに繋がった超高度AIを持つ人間型ロボット。オーナー関係を結んだ人間との関係がこれに近い）のことっぽいと長谷敏司ファンとして思ってしまう訳です。

まあ上記の画像は男性に対する皮肉として描かれている訳ですが、明らかに皮肉として描かれた「理想の彼女」をヒロインにした物語が、既に極めて真面目な恋愛SFとして存在しているというのは面白いなと…。

人間そっくりに振る舞う人間の似姿をしたもの（人間が共感してしまうもの）でも、それが人間と根本的に異なるものであるなら、それは人間とは全く異なる思考原理で動いているというのが「BEATLESS」とかのロボット・人工知能・宇宙人SFなどの大きなテーマなんですね。

もし上図のような彼女がいたら、この彼女は完全に人間ではないので（人間は「自我がない.自我が芽生えると死ぬ」なんて意識形態を持つことは生物的に無理なので）、この彼女に人間の常識は通用しないということを考えないと、相手が人間にそっくりで、なおかつ行動する存在である以上、付き合うのは非常に大変だと思いますよ…。この画像の彼女はhIEと違って反社会的行動を命じられた時に拒否もできない仕様のようですし…まあ今の科学技術力じゃ元から存在しないんですけどね…。

「BEATLESS」のテーマですが、人間とは異なるものを人間の似姿であるからといって、人間と同じように判断していいのかということが大きなテーマになっているんですね…。上図の彼女も明らかに人間には不可能な思考形態の存在として描かれているので、そういった人の似姿であっても人と異なる存在を人間としての価値観を当てはめて否定して処断していいものなのか、少なくとも私は疑問ですね。

ウィキペディア「BEATLESS」
BEATLESS（ビートレス）は、長谷敏司のSF小説。（中略）
レイシア
レイシア級hIE5号機。本編のヒロインである。アイスブルーの瞳と淡紫の髪の、息をのむほどの美貌を持つ。（中略）彼女はあくまでも「ヒギンズ」が創り出したAIの一つにしか過ぎないため、厳密には人間のような一個の人格としての「レイシア」が存在するわけではなく、レイシアもその事実を前提にアラトに接していた。しかしアラトの、容姿、言動、行動、それらが織り成す“モノ”としてのレイシアを愛そうとする姿勢に、ヒトとモノの新しい可能性を見い出していき、同時にアラトの愛情に可能な限り応えようと行動する。

ちなみに「BEATLESS」のSFとして革新的なところは、「ToHeart」のマルチや「敵は海賊」のラジェンドラや手塚治虫の「鉄腕アトム」みたいな、もっと言えばそれらの先鞭たるアシモフのロボットシリーズの陽電子頭脳ロボットみたいな、フレーム問題を完全に解決して自律的自我のブレイクスルーに達した強いAIの人工知能（人間とは異なる思考形態だが、自我を持つ自律的存在というところは人間と同等かもしくはそれ以上の人工知能）と人間の関係を描いたSFは沢山あるんですけど、「BEATLESS」はそうじゃないというところです。

「BEATLESS」のAI（hIE）はとてつもなく広範な知識と行動パターンをネットワークデータベースとして持っている優秀なAIで一見自律的に行動しますが、それでもあまりAIとしては「強くない」のですね。物語のヒロインであるAIは、基本的にはオーナーと信頼関係を築く為に、行動パターンデータベースから「オーナーと信頼関係を築く行動パターン」を適宜選択して行動する。作内では、人間の行動の基礎になる部分がどうしても分析できない、ドーナツ（分析できない空白）になっている。様々な無数の人間の外側の行動は分析できるが、どうしても最終的な行動原理がブラックボックスであり、AIはそれを得ることができないことが描かれている。

ゆえにこの作品では、「人間と、非常に高度な道具だが、道具としての限界を越えられない自我なき道具との関係」というのを描いていくんですね。上図の理想の彼女の図とか、まさに後者的なんですね。

たぶん、強いAIを作るのは今生きている我々が生ある間には無理と思いますね。でも、擬似的な「ある程度強いAIに見せかける実際は弱いAI」ぐらいならなんとか出来るかも…。ネットワークを使えばそういったAIを各個人に低コストで提供することも可能かも知れませんね。人間とはやはりどうしても異なりますが（チューリング・テストに受かるのは無理ですが）、ある程度は人間の簡易な話相手になってくれるようなAIも可能かも知れません（現在はまだまだです）。

ウィキペディア「人工知能関連」
「フレーム問題」
フレーム問題とは、人工知能における重要な難問の一つで、有限の情報処理能力しかないロボットには、現実に起こりうる問題全てに対処することができないことを示すものである。（中略）

「強いAI」
コンピュータが強いAIと呼ばれるのは、人間の知能に迫るようになるか、人間の仕事をこなせるようになるか、幅広い知識と何らかの自意識を持つようになったときである。（中略）

脳の神経系は超並列的パターン照合が可能であり、これにより知覚と自覚の即時性が生じる。視野にある物を識別するという意味の「視覚」、自己を感じるという意味の「意識」、精神的に生じる身体感覚という意味の「感情」といった観念は、より高いレベルの概念を生じる。サールの中国語の部屋は、記号処理と生物のシステムの身体性がどのように結びつくかという「意味論的マッピング」を説明できない。脳自体は感じていないが、感覚を生じている。最終的に、強いAIが実現するかどうかは、情報処理機械が意識などの精神の全ての特性を持てるかどうかに依存する。

「人工知能の歴史」
ロボット向け人工知能としては、MITコンピュータ科学・人工知能研究所のロドニー・ブルックスが提唱した包摂アーキテクチャという理論が登場している。これは従来型の「我思う、故に我あり」の知が先行する人工知能ではなく、体の神経ネットワークのみを用いて環境から学習する行動型システムを用いている。これに基づいたゲンギスと呼ばれる六本足のロボットは、いわゆる「脳」を持たないにも関わらず、まるで生きているかのように行動する。

例え人間がいなくても自律して思考し、置かれた環境の中で自律的に行動してゆくことが完全に可能な自我を持つ強いAIとは違い、「BEATLESS」の場合はあくまで人間のパートナーとしてのロボット、フレーム問題を最も大きな意味では解決できていない大掛かりな人工無能的な人工知能と、人間が、まあなんといいますか…、愛というか欲望というか、新しい社会的な愛で結ばれるというのが面白いなと。

簡単にまとめると、現代社会を敷衍した未来に、上図のような「理想の彼女」（自我のないロボット）の彼女がいた時、その彼女と継続的な信頼関係を育むことは可能か、みたいな思考実験をずっと行っていくテーマになっているんですね。ちなみにこの小説は、アニメ雑誌のニュータイプに長年連載されておりました。「コミュニケーション不全症候群」はオタクの程度を相当に低く見積もった悪い意味でステレオタイプなオタク像を提示しているオタク差別的色彩の強い本ですけど、今のアニメオタクはこのぐらいのことは普通に考えてるよってことは言っておきたいですね。

ちなみにこの、「人工無能の発展系としての自我なき人工知能ロボットと人間のセクシャリティと愛情の絡んだ新しい関係性」については、瀬名秀明さんもテーマにしていらっしゃいますね。後は、「鉄腕アトム」の「イワンのばか」とか、ドラゴンクエストシリーズのエリーの逸話なんかもこのテーマと言えるかと思います。

ちなみに現実でもこれは非常に大きなテーマで、介護ロボットなどの人間の生活と密接に関わる道具のデザインや行動は、関係を持つ人間との共感を考えた設計が必要だというのが、現代の工学の重要課題なんですね。人間と共に過ごす介護ロボットなどの多目的で高度な道具は、業務的・機能的なだけの外見・行動よりも、親しみと共感を持てる外見・共感性を含んだ行動の方が、より良い関係性を持ちやすいのです。アップル社のデザイン戦略なんかも凄く意味があるんですね。山本弘さんの「アイの物語」とかこのテーマの大傑作です。

「BEATLESS」などの上記テーマのSFで何度も提議されていますが、人間には人間以外のものに対しても共感能力がある。人間や動物の似姿として行動及び表現が洗練されたロボットや、人間同士の会話にある程度近い会話が可能な擬似人格を持った人工無能とエキスパートシステムの進化系としての人工知能チャットシステムやその発展としての人工知能エージェントなど、そういった「これまでより、より深く人間との共感が可能な道具」が人間の生活に密接に関わってきたとき（我々が生きている間に関わってくる可能性は充分にある）、それを「気持ち悪い」の一言で否定するのではなく、どう関わっていくか考えてゆくのが大事だというのが、SFの出してきた大きなテーマなんですね。

上記の画像もただ仮想のオタク叩きにつかうのでなく、「BEATLESS」の小説のように、人間の形をしているが人間ではないものと人間の共感の関係性について考えたりしてみるのもいいのではないかと思います。

「hIEの行動は、ネットワークに接続して、管理クラウドサービスから引き出しただけのものです」（中略）

「私は、人間の言葉や動きに合わせて、相手を快適にするような反応を返しているだけです。反応が与える効果を先読みして誘導しているだけで、わたしの言動は一貫した人格に裏付けられているわけではありません」（中略）

「私を『そういう使い方』（一緒にお風呂に入る）をすることは、18歳未満のアラト様には許可できません」
（長谷敏司「BEATLESS」）