人工知能がものすごいスピードで発達し、人間社会を豊かにする半面、人間の仕事を次々と奪っていき、逆に貧しくしていくのではないかとの懸念があります。
　しかし、もっと激しく、人間を破滅させるくらいの存在になるのではないかという声もあります。
　人工知能に目標を与えると、その目標に集中し、結果として人類を破滅させるかもしれないくらいの爆発力、「人間がうっかりアリを踏み潰してしまう」みたいな感覚で破滅させてしまうかもしれません。
　例えば、人工知能に飛行機を運転させることにして、人工知能がやるべき「目標」の定め方はいろいろとあると思うのですが、「目標」を「乗客の安全」としてみるとどうなるか、これはあくまでも私の推測なのですが、エンジン不調で不時着を余儀なくされるようになった時に、人工知能は「乗客の安全」を第一の「目標」と定められているので、不時着する空き地が見つからない場合は住宅地の住民の「安全」は考えずに、住宅地の真上に不時着しようとするかもしれません。
　実際は、もっと複雑にして細心な「目標」設定にするのでしょうが、同じ住宅地でも安い方に落ちるとか、、飛行機のお尻から落ちるとか、大重要判断が人工知能に求められることになります。
　それがもっと大きく地球規模で行われるミッションだとするとどうなるのか？
　宇宙物理学者ホーキングも「人工知能が人類史における最大の出来事になるだろう」「不幸なことに、人類最後の出来事になる可能性もある」とまで言っています。
　さて、人間はどこまで人工知能に自らの未来をゆだねるのか、私の頭ではまったくわかりましぇん。

税理士法人SETACS