国产一区二区三区97在线,国产精品免费看久久久,黄色影视网址在线播放观看视频,日韩AV女优在线观看地址

移動版

當前位置：智慧城市網資訊中心媒體導讀

新發產品更多
研究人員嘗試利用新算法 讓人工智能更安全
2017年06月16日 17:30:29來源：騰訊科技點擊量：33799
導讀新技術開啟新應用，但也會帶來新的風險。應用高新技術，必須注意新技術帶來的危險。因此，近OpenAI和DeepMind的研究人員希望利用一種能從人工反饋中學習的新算法，使人工智能更安全。
　　【中國安防展覽網 媒體導讀】在經歷了幾十年起起伏伏的發展后，人工智能終于開始為公司企業帶來實實在在的價值了。近日，麥肯錫發布了報告指出，新進入人工智能領域的公司將學習到早期進入這一領域的巨頭在投資以及創造價值上面的豐富經驗。新技術開啟新應用，但也會帶來新的風險。應用高新技術，必須注意新技術帶來的危險。因此，近OpenAI和DeepMind的研究人員希望利用一種能從人工反饋中學習的新算法，使人工智能更安全。
 
　　這兩家公司都是強化學習領域的專家。強化學習是機器學習的一個分支，即在給定的環境下，如果人工智能系統做出正確行為，那么就給予獎勵。目標通過算法來制定，而人工智能系統通過編程去尋求獎勵，例如在游戲中贏得高分。
 
　　在教會機器玩游戲，或是通過模擬來駕駛無人車的場景下，強化學習非常成功。這種方法在探索人工智能系統的行為時非常強大，但如果編死的算法出現錯誤，或是產生不必要的副作用，那么也可能非常危險。
 
　　發表至arXiv的一篇論文描述了一種新方法，有助于預防此類問題。首先，人工智能系統在環境中產生隨機行為，預期的獎勵基于人工判斷，而這將被反饋至強化學習算法，以改變人工智能系統的行為。
 
　　研究人員將這種技術應用至一項訓練任務。關于人工智能行為的兩段視頻被發給人工，而人工將判斷哪種行為干得更好。
 
　　通過這種方式，人工智能系統可以逐漸學會如何追逐獎勵，通過更好地解釋人工的評判來學會達成目標。這樣的強化學習算法會調整自身的行為，并不斷尋求人工的認同。
 
　　在這項任務中，人工評判者只花了不到1小時時間。然而對于更復雜的任務，例如做飯或發送電子郵件，那么還需要更多的人工反饋。這樣做可能是不經濟的。
 
　　論文的共同作者、OpenAI研究員達里奧.阿莫德伊(Dario Amodei)表示，減少對人工智能系統的監督是未來可能專注的一個研究領域。
 
　　他表示：“從廣義上說，半監督學習技術在這里可能會有幫助。另一種可能的選擇是提供信息密集的反饋形式，例如語言，或者讓人工指向屏幕的特定部分，以代表良好行為。信息更密集的反饋或許將幫助人工減少與算法溝通的時間。”
 
　　研究員在其他模擬機器人(300024)和Atari游戲中測試了他們的算法。結果表明，機器某些時候可能取得超人的成績。不過，這在很大程度上依賴人工的評判能力。
 
　　OpenAI在博客中表示：“關于什么行為是正確的，我們算法的表現與人工評判者的直覺一樣好。但如果人工對于任務沒有很好的把握，那么可能就無法提供較多有幫助的反饋。”
 
　　阿莫德伊表示，目前的結果于非常簡單的環境。不過，對于那些獎勵難以量化的任務，例如駕駛、組織活動、寫作，以及提供技術支持，這可能會很有幫助。
 
　　OpenAI和DeepMind的新算法讓未來的人工智能更安全
關鍵詞 人工智能物聯網網絡安全
相關閱讀更多
版權與免責聲明：

凡本網注明“來源：智慧城市網”的所有作品，均為浙江興旺寶明通網絡有限公司-智慧城市網合法擁有版權或有權使用的作品，未經本網授權不得轉載、摘編或利用其它方式使用上述作品。已經本網授權使用作品的，應在授權范圍內使用，并注明“來源：智慧城市網”。違反上述聲明者，本網將追究其相關法律責任。

本網轉載并注明自其它來源（非智慧城市網）的作品，目的在于傳遞更多信息，并不代表本網贊同其觀點或和對其真實性負責，不承擔此類作品侵權行為的直接責任及連帶責任。其他媒體、網站或個人從本網轉載時，必須保留本網注明的作品第一來源，并自負版權等法律責任。

如涉及作品內容、版權等問題，請在作品發表之日起一周內與本網聯系，否則視為放棄相關權利。

正在閱讀：研究人員嘗試利用新算法 讓人工智能更安全
我要投稿
  • 投稿請發送郵件至：(郵件標題請備注“投稿”）afzhan@foxmail.com
  • 聯系電話0571-87756384
智慧城市行業“互聯網+”服務平臺
智慧城市網APP

功能豐富 實時交流

智慧城市網小程序

訂閱獲取更多服務

微信公眾號

關注我們

抖音

智慧城市網

抖音號：afzhan

打開抖音 搜索頁掃一掃
i

視頻號

AF智慧城市網

視頻號ID：sphF7DOyrojJnp8

打開微信掃碼關注視頻號

小紅書

智慧城市

小紅書ID：2537047074

打開小紅書 掃一掃關注
反饋