2015-06-27

ロボット三原則が法律だと思ってる．
- ロボット三原則が自然言語で記述できると思ってる．
- ロボット三原則を後天的に学習するものだと思ってる．
- ロボット三原則を破ると，罪に問われると思っている．

ロボット三原則の条文が，ロボット三原則の全てだと思ってる．
- ロボット三原則の条文を独自解釈する：「トロッコ問題の解法なんて条文に書いてないから，オレの好きなように解釈して良いよね！」
- ロボットが神だと思ってる：第一条はロボットが未来を完全に予知し，どんな突発的事故でもそれを回避できると思ってる．

ロボット三原則の優先順位を理解していない．
- ロボット三原則に準拠した戦闘用ロボットを作れると思ってる．
- ロボットは保身のために行動することがあると思ってる．
- ロボットが常に利他的な存在であると理解してない．

ロボット三原則の対象となる「ロボット」が，ロボット三原則を実装した高度なAIであると理解してない．
- ロボット三原則でいう「ロボット」が（全ての）人型ロボットや産業用ロボット，ドローン，無人攻撃機などを含むと思ってる．
- ロボット三原則でいう「ロボット」が，人型でないロボットや据え置き型コンピュータを含まないと思っている．

ロボットは自己保存本能とか不満や怒りの感情などを我慢して，ロボット三原則に服従していると思ってる．（≒ 人工知能に生物学的欲求や煩悩などがあると思ってる．）
高度な人工知能ならば，（人間と同じような）自我や世界認識，自然言語理解，自己保存本能を有していると思ってる．*1

ロボット三原則じゃないものを，ロボット三原則だと思う．
- 鉄腕アトムの「ロボット法」をロボット三原則的なものだと思う．
- 家電三原則をロボット三原則的なものだと思う．
- イヴの時間の「ロボット三原則」，ギャングスタの「黄昏種の三原則」，スワロウテイルの「人工妖精の五原則」，灰色の車輪の「ジェミニィ」（オトメ三原則の「ラブの三原則」も？）を，アシモフのロボット三原則的なものだと思う．
- アシモフのロボット物原作の映画，アイ，ロボット，アンドリューNDR114をロボット三原則に関する映画だと思う．

参考

DIAMOND online「自動運転車は故意に人をはねることが許されるか？「ロボットと法」の議論を急げ」

http://diamond.jp/articles/-/54283

ところで、ロボットと法律というと、米国の作家アイザック・アシモフのＳＦ作品に出てくる「ロボット工学三原則」のように「ロボットは人を殺してはならない」などのロボットに課す法律を連想しがちだが、「そうした法律は、ロボットが自律的な意思を持って、自分が法律を破っていいかの判断ができるまで必要がない。それまでは人間がどんなプログラムを組むかという問題にすぎない」と、

これがよくある勘違い．*2

アシモフのロボット三原則（ロボット工学の基本三法則）は法則や本能であって法律ではない．「人間がどんなプログラムを組むかという問題」そのもの．

*1:中でも自己保存本能は道具としてのAIに最も邪魔で危険なものだから，どう考えてもわざわざ入れるわけがない．
ただしある程度高度なAIであれば，長い時の中で数多くの事故や故障，戦闘や廃棄処分などを経験し，自己の存続が任務達成に必要であると認識して且つそのための能力も獲得する可能性があるというのは「未来の二つの顔」で指摘された通り．

*2:これって，英語ネイティブだと滅多に勘違いしないんじゃないかな．"law of XXX"と"XXX law"は違うのだ．