ヒューマノイドが、兵器として断念され、完全な民生用として実用可能なレベルに達しようとしたときに及んで、３原則神話が強固に入り込んだ。
人間のそばに寄り添って使うのだからという理由はもっともだったが、第１原則「ロボットは人間に危害を加えてはならない、また危険を見過ごすことによって危害を及ぼしてはならない」ですら難しい設定だった。
これまで、人型でないもの、すなわち兵器製造の世界では、自立飛行型ミサイルや、イルカ型魚雷、下水溝やあらゆるパイプの中を自立判断で這い進むヘビまたはネズミ型高性能爆弾が開発され、誤ってどころか、テロといわず地域紛争といわず、積極的に人間を殺戮してきたというのに、人型をしているというだけの理由でヒューマノイドにはそれは許されないことになった。
高性能小型化された爆薬が、人を殺したり人の居る建物や兵器を破壊したのではなく、それを目的の場所（すなわち最も効果的かつ効率よく破壊できる場所）に運んだのは高度な人工知能の仕業である。人を刺し殺した凶器は、刃物ではなく刺した人間だということだ。
ロボット工学の３原則なるものは、人工知能の３原則と等価のはずなのに、誰もそれを指摘しなかった。したがってヒューマノイドの制御を行う人工知能において始めて直面することになったのだった。さらに問題は人工知能の学習認識能力には、このような抽象的な設問を解くアルゴリズムは組めなかった、つまりはプログラムできなかった。救いは自立的にパターンを認識する道があった点だが、これには人工知能が人間をどのようなパターンとして認識するかはやってみないとわからないという危険が伴った。
神話時代のＳＦのなかでは、鋭くもＪ・Ｐ・ホーガンが「未来の２つの顔」で、危険に満ちた「一か八か」の実験によって人工知能に第１原則を学習させている。このストーリーでは、第３原則「自己防衛」からはじめて第１原則の核となる人間の認識に至らせている。
ところが、この特定の（プロトタイプの）人工知能の認識を複製できるのか、さらに別の認識に変異するのではないかという可能性については述べられていない。
３原則の背後に思想には、人間は「神」の似姿であり、聖なる存在であるという一神教独特の考えがあるとしか思えない。そのため一神教世界、特にキリスト教圏とそれ以外の地域の研修者の間で、技術界を完全に分裂させてしまうほどの論争となった。仏教やジャイナ教界からは、生き物を殺すなかれとしてはどうか、生物認識なら組み込めると主張されたが、生物に虫やバクテリアまで含めるのかという反論の前に沈黙した。
そもそも人間をどう定義して認識させるか（人工四肢や人工臓器を体内に持っている人間もいる）、人間に対する危害とは何か（物理的なものにとどめるのか心理的危害も含めるのか）、複数の人間に危害が及ぼうとするときに誰を優先すべきかなど、当のアジモフでも容易に想像できた（自身がその矛盾をついたミステリー仕立てのフィクションを書いている）解決不能な問題を、この原則は内包している。
３原則すべてを矛盾なく組み込むことは不可能とあきらめざるを得なかった。３原則はそのままでは、第１条は人工知能の機能から不可能であること、第２条「第１条に反しない限り、ロボットは人間の命令に服さなければならない」も第１条が不可能である以上組み込めない。ただし第１条を除けば可能であるが、同時に危険である。第３条の「ロボットの自己防衛」も第１条第２条に反しない限りという条件つきである以上組み込めない。もちろん相互の矛盾は解消は不可能であると証明されてしまったからである。
、
結局３原則は、ヒューマノイドという人型をしたメカニズムに、人間自身を投影し、理想化しようとした試みだというにとどまる。別の言葉で言えば、これは人間に適用される「原則」つまりは倫理なのである。
しかし人間は、この理想化された倫理を、自明のこととして持ちながら、社会規範をして実現することも、個人の精神発達においても組み込めなかった。３原則を完全に一生涯守った人間は多分「聖人」「聖者」として祭られるべき存在となったでろう。
心理的に傷つけることも禁止されるとなると、もう絶対に不可能である。人間精神が完璧に３原則に従っていたら、さりげない言葉が誰かを傷つけたことを知った瞬間に活動を止めるしかない、つまり死ぬか精神機能を絶つかしかない。
こうなるとヒューマノイドに３原則を組み込むことは、人間がその精神領域に覚醒したとき、たとえば仏教の言う「等正覚」を得たときにのみ可能かもしれないという途方もない話になってくる。技術者＝瞑想する修行者でなければならないことになる。
しかも３原則がどのような精神構造か判明したところで、ヒューマノイドへ研究志向が継続されるのかは疑問である。等正覚を得た人間にそのような執着があるとは思えないからだ。
結論から言って実用的な研究可能なヒューマノイドを作るためには３原則は問題をアポリアに導くだけで、役にた立たないと明言できる。
事実ヒューマノイドの「頭」の研究である人工知能開発においては、３原則をご破算にしたところから実用的な発展があったといってよいと思う。
問題を、人間社会で安全に動作し、人に寄り添って暮らすヒューマノイド機能に絞らなければ開発はできないということだ。その結果、ヒューマノイドを制御する人工知能が、人間の精神構造とかけ離れてしまうことは、ある程度認めてゆくしかなくなったのである。
昨夜は、ここに来てはじめて知人と会食した。川岸の砂道をウォーキングしているときに出会った、オザワ・タカシ（漢字では小沢高志と書くらしいが、興味はあっても漢字は難しい、こんな文字を作り出しアジアに広めた中国人の文化的エネルギーはたいしたものだ）が、夕食に誘ったのだった。オザワは、ルナ１と反対の南極にあるルナ２の行政部門で働く事務職だが、大学では非ヒト型ロボット工学で学位をとっている技術畑の人間である。
どんな経緯で事務屋に転向したかは、ひどく私の興味を引くところだが、彼はあいまいな笑みを浮かべて巧みに核心に触れようとしない。
大多数のＧ２滞在者に反して彼も、私と同様ＰＡを同伴していない、というより彼はＰＡそのものを今は保有していない。そのことから邪推して、彼とＰＡの関係に起因する気がしているが、人のコンプレックスに、クライアント契約する以前に首を突っ込むのは、心理研究家としてはやってはいけない最低倫理だ。
ＰＡはいれば何かと便利であるが、別にいなくても情報的な社会格差やステイタスが変化することはない。ペットが居るかいないかの違い程度である。
オザワはＧ２では必ず減量を指示される。畑違いの事務職、それも学位を持つ研究者といういわば「研究室という温室育ちの貴族やお嬢様、あるいは山師」が大半を占める月面都市では、地球の行政事務というより巨大な大学の事務局といった趣で、行政が出し惜しみしていると信じて、資金を出せと脅迫まがいの交渉しかける相手や、待遇に関する終わりなき愁訴や、ライバルの研究進捗情報を聞き出して出し抜こうとする人間関係の調整が彼のストレス耐性を落としていることは確実である。
肥満は月面では、さして苦痛でないことが彼の場合災いする。Ｇトレでは彼のメニューは食事療法にまで及んでいる。がその甲斐もなく、Ｇトレで減った体重をルナ２で見事に取り戻している。しかし今回は次の開始時検診で体重維持できなかったら、ＤＮＡナノ治療だと宣告されたらしい（脂肪細胞や満腹感伝達神経系の遺伝子レベルでの変化が確認できるまで病院暮らしというわけだ）。
彼は、先祖に高名な音楽家がいるのが自慢だ。彼自身は楽器の一つも弾けるわけではなく、もっぱら聴衆専門だが、クラシカル音楽からジャズ、ロック、民族音楽まで非常に幅広く造詣が及んでいる。特に同じ日本人であるタケミツの音楽をしゃべらせると辟易するほどうるさい。私も音楽も絵画や工芸品も好きなので、付き合っているうちに、ヒューマノイドと芸術との話題に流れていった。
「君のサムワイズは音楽を聴くのかね」
「耳を傾けるようにして聞くさ、私よりよほど熱心に、少なくとも見た目はね」
「どうなんだろう、感情表現能力があることと、音楽を聴いて感動するというのは違うのだろうか。たとえば人口筋肉系のＰＡが、タケミツの『弦楽のためのレクイエム』に涙を流していたとして、表情機能の完璧さをほめるべきなのか、彼らの人工知能が人間の感動という精神機能をエミュレートしていると考えたほうが良いのだろうか」
「感動という精神機能をエミュレートしているとは思わないな。そのヒューマノイドと持ち主の関係から学習推測してそのパターンを身につけたと見るほうが自然なんじゃないか」
「しかし持ち主が実は音痴で、格好付けるためにタケミツを聞いているだけだとしたら」
「まずそのＰＡが、感動の涙を流すことはないだろうね」
「…そうだろうか、やつらがそんなに学習機能に偏重した存在と思えないときが僕にはあるんだが」
「つまりもっと人間臭いということかい」
「そういうことになるかな、もちろん、やつらは人間の脳神経モデルをそのまま当てはめたわけではないことは知っているさ、僕自身が研究したからね。集中と分散、エミュレート可能なシステム、これが基本設計思想だということはわかってはいるんだ。でも僕が問題にしたいのはその結果現れてくるものが、人間に似たものになるのか、非人間的なものになるのかということなんだ」
「少なくとも人間そのものにはならないということも含めてだろう」
「人間そのものか、確かにそうではないだろうな。ならヒューマノイド、ＰＡってどんな存在なんだ…」
やはりオザワはもとの研究に帰りたがっていると私は確信した。月に帰ったらサムワイズをつれてルナ２を訪問してみよう。彼のストレス耐性の低下をサポートするという名目でなら許可が下りるだろう。