【安防展覽網 科技動態】日前，由MIT媒體實驗室*，哈佛、耶魯、馬普所等院所和微軟、谷歌、臉書等公司的多位研究者參與的課題組在 Nature 發表了一篇以 “Machine behaviour” 為題的綜述文章，宣告 “機器行為學” 這門跨越多個研究領域的新興學科正式誕生。
機器算法的“不可控性”
在AI、機器人等剛開始興起的時候，由于信息和人們認知的不對稱，社會上存在著“機器人會產生自我意識”的恐懼。人們擔心，當機器人有了自我意識之后會反過來控制人類，危害人類的安全。
隨著近些年來機器算法的成熟、產品的普及和人們認知度的提高，人們對此的恐懼有所減少。但也有越來越多的科學家們開始發現機器算法確實存在一些“不可控性”的因素，并積極尋找解決方式，如李飛飛宣布成立斯坦福“以人為本 AI 研究院”、英國制定機器人行為標準、MIT*的“機器行為學”新學科等。
其中，環境的變化和人類的決策正不斷影響著機器的行為。據了解，機器有產生行為的內在機制，這些行為在和環境的互動中獲得信息，得到發展，并產生相應的功能，導致特定的機器在它們所對應的環境中發生了不同的變化。如看護老人的智能產品，其智能系統通過實時檢測和分析老人的行動，判斷老人是否正常吃飯、服藥、是否保持低的運動量、是否有異常行動出現(例如摔倒), 從而及時給予提醒，確保老人的生活質量不會由于獨自居住而有所降低；醫院的智能康復訓練，其智能機器人通過對動作行為的規范程度做出識別，評估恢復程度以提供更好的康復指導等。
雖然機器和動物有著屬性上的本質區別，但專家們認為，智慧機器行為研究可以從動物行為的研究上得到幫助，通過一個行為的功能、原理、發展與進化史四個維度進行研究，這就是機器行為學成立的依據。
“Machine behaviour”文章提及，根據人工智能系統互相融合、影響，機器行為學的研究范圍包括：單個機器行為，強調對算法本身的研究；集體機器行為，強調對機器之間相互作用的研究；混合人-機器行為，強調對機器和人之間相互作用的研究。機器行為和人類行為既可以相互塑造，也可以協同互動。
由機器學習人類行為到人類研究機器行為
自人工智能研究興起以來，業內的研究主要是讓機器通過大數據計算、深度學習等途徑了解人類的社會生活，輔助人類工作或生活。
隨著人工智能的發展，依靠算法而形成的AI、大數據、機器人等逐漸融入到我們的生活當中，成為人類社會中越來越重要的角色。但由于智能運算的復雜性和廣泛性，智能算法出現了越來越多的“輸出差異”問題，其出現的安全隱患如智能駕駛判斷錯誤導致事故的發生、服務機器人說出不適宜的話語等，光依靠數據分析手段是很難了解到它們的行為。這使得人們必須去探索這其中的原因。
機器行為學(Machine behaviour)，主要是研究智能機器所表現出的行為。“機器行為學”這一概念的出現，也象征著人類研究方向的一大轉折——從讓機器研究人類行為，到人類研究機器行為。
據了解，目前單個人工智能體的復雜性已經很高，并且在持續增長，雖然構架它們的代碼和訓練模型用的訓練可以簡潔，但是訓練后的模型就完全不會有這么簡單了，這經常導致 “黑箱(black boxes)” 的產生。人工智能體接受輸入后輸出，但即便在“可解釋性”的一些應用場景已經有了進展的現狀下，人工智能體實際產生這些輸出過程，也是架構它們的科學家自己難解釋的。
此外，現在社會中使用頻率高的源代碼、模型、數據集實際上是有版權的，這就導致在很多場景下，人們只能觀察到系統的輸入和輸出，無法觀測到機器在輸入過程中發生了什么樣的變化，加大了人們理解“機器行為”的難度。
人類可以創造智能機器，智能機器也可以改變人類的行為，但從輸入到輸出的差異和機器學習的不透明性來看，這其中的影響是積極還是負面我們暫不可知。唯有通過系統的研究，通過了解“機器行為”來幫助人們理解社會中無處不在的算法系統是如何工作，監管其可能造成的后續后果，進而進行取舍式的科技創新，使之讓我們的社會生活更加安全且。
移動版
智慧城市網APP
智慧城市網小程序
微信公眾號
