最近谷歌的研究人員發表了一篇名為“人工智能安全問題具體分析”的報告，讓我們看到了機器人們在適應性、協調性上出現的問題。并且表示比如清潔機器人應該擁有更好的避害性能，而不應該用一個潮濕的拖把來擦拭有插座的地面。

　　機器人需要通過智能算法來學習，并且不斷更新和向前探索，而與軟件不同的是，不斷嘗試新事物的機器人甚至有可能成為一名殺人犯。因此谷歌的研究人員想出了下面的這五個問題：

　　避免負面影響：我們如何才能確保一個AI系統不會為了達到目的而對環境造成負面影響，比如清潔機器人為了更快的完成清潔任務而撞倒一個花瓶；

　　避免被黑客控制：我們都希望機器人不要被目的不純的黑客控制，比如清潔機器人不管任何材質而一味的清理，造成對環境的破壞；

　　彈性監督：我們如何才能有效的確保在各個方面對AI系統進行客觀的評估？比如當人們要求機器人總是反復執行同一項任務，機器人是否會感到厭倦？

　　安全的探索：如何確保一個AI系統在探索的同時不會帶來消極的影響。比如清潔機器人應該知道避害，而不應該用一個潮濕的拖把來擦拭有插座的地面。

　　適應性：我們如何確保一個AI系統擁有更高效的識別能力，在非常規的環境下也能擁有適應能力？

　　研究者擔心的并非是機器人引發的革命，而是由于草率的設計而帶來的現實問題。過多的事故容易讓人們喪失對合理自動化系統的信任感。不過提到事故，我們不妨來輕松一下，看看那些機器人的一些萌摔搞笑視頻。（原作者：Steve Dent 編譯：Guti）