国产一区二区三区97在线,国产精品免费看久久久,黄色影视网址在线播放观看视频,日韩AV女优在线观看地址

移動(dòng)版

當(dāng)前位置：智慧城市網(wǎng)資訊中心行業(yè)標(biāo)準(zhǔn)

新發(fā)產(chǎn)品更多
大模型安全領(lǐng)域兩項(xiàng)國際標(biāo)準(zhǔn)發(fā)布 推動(dòng)智能城市深遠(yuǎn)發(fā)展
2024年04月29日 10:25:55來源：智慧城市網(wǎng)整理點(diǎn)擊量：31620
導(dǎo)讀近日，在第27屆聯(lián)合國科技大會(huì)期間，世界數(shù)字技術(shù)院(WDTA)發(fā)布了《生成式人工智能應(yīng)用安全測試標(biāo)準(zhǔn)》和《大語言模型安全測試方法》兩項(xiàng)際標(biāo)準(zhǔn)，
　　【智慧城市網(wǎng) 行業(yè)標(biāo)準(zhǔn)】近日，在第27屆聯(lián)合國科技大會(huì)期間，世界數(shù)字技術(shù)院(WDTA)發(fā)布了《生成式人工智能應(yīng)用安全測試標(biāo)準(zhǔn)》和《大語言模型安全測試方法》兩項(xiàng)際標(biāo)準(zhǔn)，這是國際組織首次就大模型安全領(lǐng)域發(fā)布國際標(biāo)準(zhǔn)。
 
　　《生成式人工智能應(yīng)用安全測試標(biāo)準(zhǔn)》
 
　　《生成式人工智能應(yīng)用安全測試標(biāo)準(zhǔn)》由WDTA作為牽頭單位編制。該標(biāo)準(zhǔn)為測試和驗(yàn)證生成式AI應(yīng)用的安全性提供了一個(gè)框架，特別是那些使用大語言模型(LLM)構(gòu)建的應(yīng)用程序。它定義了人工智能應(yīng)用程序架構(gòu)每一層的測試和驗(yàn)證范圍，包括基礎(chǔ)模型選擇、嵌入和矢量數(shù)據(jù)庫、RAG或檢索增強(qiáng)生成、AI應(yīng)用運(yùn)行時(shí)安全等等，確保AI應(yīng)用各個(gè)方面都經(jīng)過嚴(yán)格的安全性和合規(guī)性評(píng)估，保障其在整個(gè)生命周期內(nèi)免受威脅和漏洞侵害。
 
　　《大語言模型安全測試方法》
 
　　《大語言模型安全測試方法》由螞蟻集團(tuán)作為牽頭單位編制。該標(biāo)準(zhǔn)為大模型本身的安全性評(píng)估提供了一套全面、嚴(yán)謹(jǐn)且實(shí)操性強(qiáng)的結(jié)構(gòu)性方案。它提出了大語言模型的安全風(fēng)險(xiǎn)分類、攻擊的分類分級(jí)方法以及測試方法，并率先給出了四種不同攻擊強(qiáng)度的攻擊手法分類標(biāo)準(zhǔn)，提供了嚴(yán)格的評(píng)估指標(biāo)和測試程序等，可解決大語言模型固有的復(fù)雜性，全面測試其抵御敵對(duì)攻擊的能力，使開發(fā)人員和組織能夠識(shí)別和緩解潛在漏洞，并最終提高使用大語言模型構(gòu)建的人工智能系統(tǒng)的安全性和可靠性。
 
　　WDTA人工智能安全可信負(fù)責(zé)任工作組組長黃連金介紹，此次發(fā)布的標(biāo)準(zhǔn)匯集了全球人工智能安全領(lǐng)域的專家智慧，填補(bǔ)了大語言模型和生成式人工智能應(yīng)用方面安全測試領(lǐng)域的空白，為業(yè)界提供了統(tǒng)一的測試框架和明確的測試方法，有助于提高人工智能系統(tǒng)安全性，促進(jìn)技術(shù)負(fù)責(zé)任發(fā)展，增強(qiáng)公眾信任。
 
　　世界數(shù)字技術(shù)院(WDTA)發(fā)布的《生成式人工智能應(yīng)用安全測試標(biāo)準(zhǔn)》和《大語言模型安全測試方法》兩項(xiàng)國際標(biāo)準(zhǔn)，對(duì)于智慧建設(shè)具有深遠(yuǎn)的影響和重大的意義。
 
　　1、統(tǒng)一和規(guī)范全球安全測試流程：這兩項(xiàng)國際標(biāo)準(zhǔn)的發(fā)布，有助于統(tǒng)一和規(guī)范全球范圍內(nèi)生成式人工智能和大語言模型的安全測試流程和方法，確保這些先進(jìn)技術(shù)的安全性和可靠性。在智慧建設(shè)中，大型模型的應(yīng)用日益廣泛，統(tǒng)一的安全測試標(biāo)準(zhǔn)可以確保不同國家和地區(qū)的智慧建設(shè)項(xiàng)目都能夠采用相同的安全標(biāo)準(zhǔn)，提高整體的安全性能。
 
　　2、增強(qiáng)公眾信任：通過明確的安全要求和測試方法，這兩項(xiàng)標(biāo)準(zhǔn)可以有效地減少由于人工智能應(yīng)用可能帶來的安全風(fēng)險(xiǎn)，從而增強(qiáng)公眾對(duì)智慧建設(shè)項(xiàng)目的信任度。在智慧城市建設(shè)、智能交通、智慧醫(yī)療等領(lǐng)域，公眾對(duì)技術(shù)的安全性和隱私保護(hù)要求越來越高，國際標(biāo)準(zhǔn)的制定和實(shí)施有助于滿足這些需求。
 
　　3、引導(dǎo)技術(shù)發(fā)展方向：這兩項(xiàng)標(biāo)準(zhǔn)的制定和推廣有助于引導(dǎo)人工智能技術(shù)的正確發(fā)展方向，在智慧建設(shè)中推動(dòng)技術(shù)的倫理和法規(guī)遵從性。通過嚴(yán)格評(píng)估人工智能產(chǎn)品和服務(wù)的安全性，可以防止技術(shù)的濫用和誤用，保障用戶的權(quán)益，推動(dòng)智慧建設(shè)朝著更加安全、可靠、可持續(xù)的方向發(fā)展。
 
　　4、促進(jìn)國際合作與交流：國際標(biāo)準(zhǔn)的發(fā)布有助于促進(jìn)全球范圍內(nèi)人工智能技術(shù)的合作與交流，推動(dòng)智慧建設(shè)的國際合作項(xiàng)目順利進(jìn)行。通過共同遵循國際標(biāo)準(zhǔn)，不同國家和地區(qū)的智慧建設(shè)項(xiàng)目可以更好地實(shí)現(xiàn)技術(shù)對(duì)接和數(shù)據(jù)共享，提高整體的建設(shè)效率和質(zhì)量。
 
　　目前，國內(nèi)在大模型安全領(lǐng)域也出臺(tái)了一系列的標(biāo)準(zhǔn)和要求，旨在規(guī)范大型模型的研發(fā)、應(yīng)用和管理過程，確保其安全性、穩(wěn)定性和可靠性。這些標(biāo)準(zhǔn)通常涵蓋了模型的質(zhì)量管理、安全性保障、數(shù)據(jù)保護(hù)、可靠性評(píng)估以及性能要求等方面。無論是國際還是國內(nèi)標(biāo)準(zhǔn)都將推動(dòng)智慧建設(shè)領(lǐng)域的技術(shù)創(chuàng)新和發(fā)展，提高項(xiàng)目的安全性和可靠性，為公眾帶來更加安全、便捷、高效的智慧生活體驗(yàn)。
關(guān)鍵詞 大模型安全
相關(guān)閱讀更多
版權(quán)與免責(zé)聲明：

凡本網(wǎng)注明“來源：智慧城市網(wǎng)”的所有作品，均為浙江興旺寶明通網(wǎng)絡(luò)有限公司-智慧城市網(wǎng)合法擁有版權(quán)或有權(quán)使用的作品，未經(jīng)本網(wǎng)授權(quán)不得轉(zhuǎn)載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的，應(yīng)在授權(quán)范圍內(nèi)使用，并注明“來源：智慧城市網(wǎng)”。違反上述聲明者，本網(wǎng)將追究其相關(guān)法律責(zé)任。

本網(wǎng)轉(zhuǎn)載并注明自其它來源（非智慧城市網(wǎng)）的作品，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)或和對(duì)其真實(shí)性負(fù)責(zé)，不承擔(dān)此類作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。其他媒體、網(wǎng)站或個(gè)人從本網(wǎng)轉(zhuǎn)載時(shí)，必須保留本網(wǎng)注明的作品第一來源，并自負(fù)版權(quán)等法律責(zé)任。

如涉及作品內(nèi)容、版權(quán)等問題，請(qǐng)?jiān)谧髌钒l(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系，否則視為放棄相關(guān)權(quán)利。

正在閱讀：大模型安全領(lǐng)域兩項(xiàng)國際標(biāo)準(zhǔn)發(fā)布 推動(dòng)智能城市深遠(yuǎn)發(fā)展
我要投稿
  • 投稿請(qǐng)發(fā)送郵件至：(郵件標(biāo)題請(qǐng)備注“投稿”）afzhan@foxmail.com
  • 聯(lián)系電話0571-87756384
智慧城市行業(yè)“互聯(lián)網(wǎng)+”服務(wù)平臺(tái)
智慧城市網(wǎng)APP

功能豐富 實(shí)時(shí)交流

智慧城市網(wǎng)小程序

訂閱獲取更多服務(wù)

微信公眾號(hào)

關(guān)注我們

抖音

智慧城市網(wǎng)

抖音號(hào)：afzhan

打開抖音 搜索頁掃一掃
i

視頻號(hào)

AF智慧城市網(wǎng)

視頻號(hào)ID：sphF7DOyrojJnp8

打開微信掃碼關(guān)注視頻號(hào)

小紅書

智慧城市

小紅書ID：2537047074

打開小紅書 掃一掃關(guān)注
反饋