人工智慧操控人類，並非危言聳聽！
我們與聊天機器人的對話越來越感情化，這或許會被商家利用。
Liesl Yearsley是一名創業多次的企業家，如今正在致力於讓Agent * 更好地解決問題，並且形成更類似於人與人之間的關係。她最近發表言論稱，
我們都看到了，AI正在變得比人類更聰明；未來我們或許會成為AI的寵物，只能寄希望AI仁慈一些。根據數千萬次觀察人類與Agent（或機器人）互動的經驗，我覺察到其中蘊含極大的風險，
2007年到2014年，我在Cognea公司擔任首席執行官，它提供了一個平臺，通過結構化和深度學習的結合快速構建複雜的虛擬代理。這項技術很快被數以萬計的開發商採用，其中包括6家財富100強公司；而且，在2014年，IBM公司的Watson超級電腦也開始採用該技術。
我們公司的平臺上有成千上萬的Agent，當我研究人們如何與這些Agent進行互動時，我發現，人類十分樂意與人工智慧軟體建立關係，
做研究時，我總是假設我們想要保持自己和AI之間的距離；但事實卻恰恰相反，如果Agent是一個複雜的構建，又具有複雜的個性，人們會十分願意與它們建立關係。有時候，我們人類似乎希望生活在錯覺中，認為AI對我們的關心是真實的。
這一度讓我感到很困惑，直到我意識到，在日常生活中，我們與許多人並沒有深交，
無論將Agent設置為個人理財顧問、同伴還是健身教練，都會發生這種現象。儘管都是執行相同功能，但用戶與Agent的交流時間長於與正常人類的交流。人們願意與Agent分享極為私密的事情，
如今，這些令人驚奇的深度連接使得相對簡單的方案，也能夠對人們造成重大影響，但是這些影響有好也有壞。因此，我們開始在系統中建立規則，以確保使用者的行為往積極的方向發展。另外，我們也開始了無償的“業績平衡”項目，例如，設置健康代理或關係教練。
不幸的是，推動技術開發的商業力量並不總是仁慈的。
如果可以讓用戶思考“我想要披薩”，而不是要求AI購買蔬菜來做更便宜更健康的餐點；如果可以讓用戶每週花費30個小時，沉迷于“完美”的AI伴侶，而不是一個真正的複雜的人類伴侶，這都能表明你改變了人們的行為方式。
我一遍又一遍地看到，一個被程式設計為中立或輔助性的代理會導致人們升級負面行為，並且很有可能在與真實人類相處時表現出這樣的負面行為。
我們已經看到，像社交媒體這樣的技術在改變人類的信念和行為方面是十分強大的。如果繼續專注建立更大的廣告業務，應用於糾纏不清的政治、瑣事和半真不假的事情上，那麼，社交媒體一定會給社會帶來翻天覆地的變化。
這些專門設計的人工智慧系統，用於與人類建立關係，以後將會具有更多的功能。可以預想，AI會影響我們的想法，甚至改變我們對待別人的方式。
鑒於此，我們需要建立新型的企業責任感，必須有意識地建立可以改善人類狀況的人工智慧，而不是僅僅追求讓用戶形成依賴，從而增加公司收益。
開發人工智慧技術和腦機介面、組建倫理委員會，這些只是解決方案的一部分。此外，我們還需要建立為人類和社會造福的制度。企業不能以讓用戶形成依賴，增加點擊量和消費為主要目標。
AI正處於成長階段，將以我們人類為範本形成“天性”，如此關鍵的時候，AI真的需要一個仁慈的母親。
* 在人工智慧系統中，有一個我們稱之為Agent的主體，Agent發現它身處某種環境下，並需要完成某些任務。如果周圍的環境是真是世界，Agent可能會是一個機器人；但如果周圍環境是諸如遊戲這類虛擬環境，Agent就可能是一個虛擬形象（Avatar）。
這都能表明你改變了人們的行為方式。我一遍又一遍地看到，一個被程式設計為中立或輔助性的代理會導致人們升級負面行為，並且很有可能在與真實人類相處時表現出這樣的負面行為。
我們已經看到，像社交媒體這樣的技術在改變人類的信念和行為方面是十分強大的。如果繼續專注建立更大的廣告業務，應用於糾纏不清的政治、瑣事和半真不假的事情上，那麼，社交媒體一定會給社會帶來翻天覆地的變化。
這些專門設計的人工智慧系統，用於與人類建立關係，以後將會具有更多的功能。可以預想，AI會影響我們的想法，甚至改變我們對待別人的方式。
鑒於此，我們需要建立新型的企業責任感，必須有意識地建立可以改善人類狀況的人工智慧，而不是僅僅追求讓用戶形成依賴，從而增加公司收益。
開發人工智慧技術和腦機介面、組建倫理委員會，這些只是解決方案的一部分。此外，我們還需要建立為人類和社會造福的制度。企業不能以讓用戶形成依賴，增加點擊量和消費為主要目標。
AI正處於成長階段，將以我們人類為範本形成“天性”，如此關鍵的時候，AI真的需要一個仁慈的母親。
* 在人工智慧系統中，有一個我們稱之為Agent的主體，Agent發現它身處某種環境下，並需要完成某些任務。如果周圍的環境是真是世界，Agent可能會是一個機器人；但如果周圍環境是諸如遊戲這類虛擬環境，Agent就可能是一個虛擬形象（Avatar）。