「ヒトよりも知能の高い存在が現れること」は、そんなに恐ろしいことか? この記事では、超知能AIへの懸念がどれくらい妥当なものなのかを考察しましょう。AIを「正しく恐れる」ことはできるでしょうか? 高性能なAIに対する恐怖は、大きく2種類に分類できるでしょう。 具体的な恐怖と、漠然とした恐怖です。 たとえば無人の攻撃ドローンが誤作動により間違った人物を殺害したり、自動運転車が事故の瞬間にトロリー問題(トロッコ問題)を上手く解けなかったり、医療用AIが誤診したり――。AIが高性能になり普及するほど、そういう事故が現実味を帯びます。これらに対する恐怖が、具体的な恐怖です。こうした危険性を抑えるために…