Scheutz指出，現(xiàn)今的機器人與人工智能科技進展，已經(jīng)能制作出具備自我決策能力的自主機器人，不過大多數(shù)這類機器人的功能仍然很簡單，其自主能力也有限；因此它們有可能因為缺乏從道德角度來考慮的決策算法，而成為具傷害性的機器。
“如果我們不賦予機器人偵測并適當處理道德判斷情境的能力、而且是透過人類可接受的方式，我們可能會增加人類受到不必要傷害與苦難的風險；”Scheutz表示：“自主性機器人可能會做出我們認為在道德上有錯誤的決定——例如被授權不提供病患止痛藥。”
在 論文中，Scheutz表示機器人開發(fā)者能采取一些行動，減輕布署在人類社會中的機器人面臨道德判斷情境可能造成的問題：“第一，機器人設計者可以透過機器人的設計與編程，降低遭遇道德判斷情境中的潛在性，例如當機器人不會回報社交關系時，就不利于社交連結(social bonding)，這將會減少人們與機器人建立單向情感連結的情況。”
相較于有些機器人的行為會表現(xiàn)情感，或是擬人化的設計，可能會暗示人們它有能力特定類型的關系，但實際上并不會。身為人類，對機器人可能在道德判斷情境或是道德兩難情境下可能做出的抉擇做出批判，可能會是挑戰(zhàn)。
考慮到我們身為人類，在評估我們自己的道德社交行為時，會一直表現(xiàn)出許多前后不一致的行為，無疑人類需要為打造具備道德自主性的人工智能負責。
運輸機器人與無人駕駛機實驗
Scheutz 表示，實際上人類面對道德判斷情境時也會有不同的看法，但這不一定會成為替機器人布署道德推理功能的限制因素：“未受過正規(guī)訓練的人類通常不擅于正確的邏輯推理，而且有可能會犯錯——例如所得結論并未根據(jù)已知信息的邏輯——特別是在復雜的道德情境下。至于機器人，我們能確保它永遠或只會依循邏輯推理，不會執(zhí)行未受允許的動作。”
Scheutz期望，未來每一個布署在人類社會中的自主性機器人，包括輔助機器人、娛樂機器人、軍事機器人等等，都是“懂道德的機器人”。
