對於AI會不會毀滅人類？的思考之二

        接續上一篇文章，但隨著人類越來越依賴AI，是否會產生什麼樣不可測的風險呢？要知道，以往依賴各種科技產品，大抵上都是各自為政，不會互相連結的，而AI的特性就是好像什麼都知道，什麼忙都可以幫，那麼，如果把決策的權力交給AI去運作，是否是沒問題呢？

        月光認為，關鍵在於信任。例如機器人廚師煮出來的料理，有沒有下毒呢？機器人廚師沒辦法試吃，以身試毒，也沒辦法以受到嚴厲的懲罰來要求。如果有想要加害的意思，可是是防不勝防。所以說，從另外的角度來看，AI的發展雖然帶來便利性，也的確帶來未知的問題。

        像是如果全都交給機器人煮菜，並且負責研發新菜色，那到底會是機器人喜歡的口味，還是人類喜歡的口味？換言之，人類雖然可以下指令，但到底會做出什麼樣的菜色，卻是無法完全控制的。下指令的是人類，去真正實行的卻是AI。