為了讓人工智慧“友善”點 程式師絞盡腦汁｜後院活動部
我們不是苛求每一個人工智慧覺醒後變成活雷鋒，
但是經過廣大程式師討論，這點也挺難的。
“友善”意味著強大的AI不會像蟲子那樣擠壓我們。我們無法編纂自己的道德標準，更難將這種不情願的行為編入一個將編輯自己的原始程式碼的頭腦中。
因為人類的道德標準就在於束縛自己的欲望，做到己所不欲勿施於人，而讓人工智慧做到這點，需要他們對於人類其他人工智慧以及大自然抱有同情心。後院活動部小編想起了鳥山明漫畫裡的人造人16號。
問題主要是我們作為人類不同意。雖然我相信我們自己都有一個非常基本的“好”，但是它在不同人類中表現出來的方式可能與彼此完全相反。
人類仍然是進化的產物，這意味著我們所有的特質都是由有利於繁殖，個體的生存或物種的生存而造成的根源。
人們經常把人工智慧的可能性和危險性與人類的想法相比較，
我們作為人類生存的理由，因為那是我們的最終目標。AI的最終目標是由設計師決定的。人工智慧將著手做達到這個目標所需要的東西。以同樣的方式設定目標，就有可能設定邊界。
人工智慧本身不會對人類構成威脅，人類對人類構成威脅。