中國(guó)工程院院士方濱興：內(nèi)生安全問(wèn)題可能成為人工智能“死穴”_抖音鐵桿
原標(biāo)題：中國(guó)工程院院士方濱興：內(nèi)生安全問(wèn)題可能成為人工智能“死穴”
從自動(dòng)駕駛到智能家居，近兩年，人工智能技術(shù)和應(yīng)用發(fā)展迅速，科幻電影中曾經(jīng)描繪的“人機(jī)共存”時(shí)代，似乎離人類越來(lái)越近。然而，人工智能足夠安全嗎？4月20日，在2019西湖論劍·網(wǎng)絡(luò)安全大會(huì)上，中國(guó)工程院院士倪光南、鄔江興、方濱興和楊小牛，表達(dá)了他們對(duì)人工智能潛在風(fēng)險(xiǎn)的思考和隱憂。
中國(guó)工程院院士共話網(wǎng)絡(luò)安全。
25年前的今年，中國(guó)全功能接入國(guó)際互聯(lián)網(wǎng)，就此拉開(kāi)中國(guó)互聯(lián)網(wǎng)的發(fā)展序幕，全社會(huì)的經(jīng)濟(jì)、文化、生活方式迎來(lái)深刻變革。
中國(guó)工程院院士鄔江興仍然記得當(dāng)年的場(chǎng)景。他說(shuō)，大家感到“歡新鼓舞”，各行各業(yè)都在倡導(dǎo)“互聯(lián)網(wǎng)+”。但在發(fā)展伊始，網(wǎng)絡(luò)安全問(wèn)題沒(méi)有得到足夠重視，導(dǎo)致了現(xiàn)在的很多遺留問(wèn)題。
2014年，中共中央總書(shū)記習(xí)近平在中央網(wǎng)絡(luò)安全和信息化領(lǐng)導(dǎo)小組第一次會(huì)議上強(qiáng)調(diào)，網(wǎng)絡(luò)安全和信息化是一體之兩翼、驅(qū)動(dòng)之雙輪，必須統(tǒng)一謀劃、統(tǒng)一部署、統(tǒng)一推進(jìn)、統(tǒng)一實(shí)施。做好網(wǎng)絡(luò)安全和信息化工作，要處理好安全和發(fā)展的關(guān)系，做到協(xié)調(diào)一致、齊頭并進(jìn)，以安全保發(fā)展、以發(fā)展促安全，努力建久安之勢(shì)、成長(zhǎng)治之業(yè)。
鄔江興深以為然。但他也坦言，同步安全和發(fā)展，對(duì)于全人類而言都是挑戰(zhàn)。如今，人工智能應(yīng)用正像互聯(lián)網(wǎng)一樣進(jìn)入日常生活，各行各業(yè)須及早考慮人工智能的安全問(wèn)題，否則就會(huì)重走當(dāng)年的老路?！安还苁鞘裁磫?wèn)題都會(huì)有副作用，必須在發(fā)展的初期來(lái)解決?！彼f(shuō)。
中國(guó)工程院院士楊小牛，也有類似擔(dān)憂：“人工智能會(huì)不會(huì)又像互聯(lián)網(wǎng)一樣，剛開(kāi)始不考慮它自身的安全，最后發(fā)現(xiàn)存在各種各樣的問(wèn)題，面臨相當(dāng)大的風(fēng)險(xiǎn)？”他認(rèn)為，將來(lái)，如何讓算法更加安全、可靠，是一個(gè)突出問(wèn)題。
中國(guó)工程院院士方濱興提出，人工智能的內(nèi)生安全問(wèn)題，可能成為其“死穴”。例如，一個(gè)被貼上幾張小廣告的停車標(biāo)志牌，人看到標(biāo)志牌會(huì)覺(jué)得毫無(wú)差別，但算法識(shí)別就會(huì)出現(xiàn)錯(cuò)誤。
方濱興介紹，這樣的錯(cuò)誤，與人工智能的內(nèi)生原理有關(guān)。人工智能靠大量的數(shù)據(jù)和神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)，人能夠看到人工智能的處理結(jié)果，但神經(jīng)網(wǎng)絡(luò)中還有很多人看不到的隱含層。因此，幾個(gè)小廣告，甚至是像素點(diǎn)的改變，都會(huì)導(dǎo)致人工智能處理錯(cuò)誤。
“現(xiàn)在要關(guān)注網(wǎng)絡(luò)安全的新挑戰(zhàn)”，中國(guó)工程院院士倪光南說(shuō)，新技術(shù)帶來(lái)了許多傳統(tǒng)安全領(lǐng)域沒(méi)有的新問(wèn)題、新現(xiàn)象，必須予以重視。以自動(dòng)駕駛汽車為例，如果黑客通過(guò)網(wǎng)絡(luò)攻擊獲得了控制權(quán)，自動(dòng)駕駛汽車就會(huì)變得非常危險(xiǎn)。
采寫(xiě)：南都記者馮群星 蔣琳
作者：馮群星 蔣琳
