人類歷史上任何一場(chǎng)科技革命,都不同程度影響著人們生 產(chǎn)生活方式的改變,尤其是科學(xué)技術(shù)在戰(zhàn)爭領(lǐng)域的應(yīng)用,更是 推動(dòng)了世界格局的重塑。
人工智能(AI)技術(shù)的發(fā)展,同樣昭示 人類下一場(chǎng)科技革命即將到來。
首先我們先來看看人工智能安全發(fā)展現(xiàn)狀
(一)人工智能發(fā)展與安全在高速前進(jìn)中相生相滅 在整個(gè)人工智能發(fā)展過程中,人工智能安全就是人工智能賴 以行駛的軌道。 目前人工智能整體處在競(jìng)爭上升期,發(fā)展長遠(yuǎn) 規(guī)劃、應(yīng)用規(guī)模層次上缺少確切規(guī)范約束控制。
人類腦科學(xué)研究沒有破解之前,人工智能控制權(quán)掌握在電腦 系統(tǒng)手里。 一些由于認(rèn)識(shí)水平和制造能力帶來的安全問題和 薄弱環(huán)節(jié),就很容易降低安全防御能力引發(fā)嚴(yán)重后果。 比如,人工智能傳感器可能被干擾;系統(tǒng)可能被劫持,數(shù)據(jù)的 泄露、篡改“污染”可能“教壞”智能機(jī)器人的學(xué)習(xí)認(rèn)知;人工智 能軟件漏洞可能被黑客利用。
(二)廣泛的應(yīng)用導(dǎo)致安全影響更深遠(yuǎn)
未來人工智能技術(shù)在國防和社會(huì)基礎(chǔ)設(shè)施等關(guān)系國家安 全發(fā)展的關(guān)鍵領(lǐng)域上的運(yùn)用值得關(guān)注。
1.人類倫理道德日益面臨來自人機(jī)交互的挑戰(zhàn)
人工智能高速發(fā)展越發(fā)強(qiáng)大政務(wù)機(jī)器人,已不能停留在機(jī)器三定律認(rèn)識(shí)水平上,人工智能如何負(fù)面影響人的具體細(xì)節(jié)的內(nèi)容并沒有細(xì)化,而它潛在對(duì)人大腦思維學(xué)習(xí)進(jìn)化和倫理道德帶來巨大挑戰(zhàn) 威脅日益劇增。
2.法律發(fā)展滯后難以對(duì)智能安全風(fēng)險(xiǎn) 雖然在短期內(nèi)人工智能存在的安全風(fēng)險(xiǎn)還處于可控范圍,隨 著應(yīng)用領(lǐng)域范圍日益擴(kuò)展,具有高度自主性的無人智能沖擊傳 統(tǒng)行業(yè)原則和法律框架,尤其是責(zé)任的認(rèn)定更加困惑,以往法 律條款需要重新商榷和完善。
二、如何看待人工智能安全問題
(1)以犧牲長遠(yuǎn)利益來盲目追逐人工智能技術(shù)的發(fā)展和經(jīng)濟(jì) 效益,這種觀點(diǎn),具體的做法表現(xiàn)為把人工智能技術(shù)價(jià)值局限 于商品,不遵循事物本身成長規(guī)律不計(jì)資源代價(jià)失衡的去開發(fā) ,去創(chuàng)造更高利益政務(wù)機(jī)器人,涸澤而漁,不注重人工智能自身健康,忽視 安全問題和其他事物之間的共生可持續(xù)發(fā)展。
(2)就是你提到的“人工智能威脅論”。 人工智能的快速發(fā)展終會(huì)替代人 類,即使有益于人類、替代以往反復(fù)低效能的應(yīng)用也被認(rèn)為不 可。 這種觀點(diǎn)主要是對(duì)人工智能缺乏全面認(rèn)識(shí)。 問題的關(guān)鍵 在于人工智能能否具備智力和能力,為人類服務(wù),并健康存 在。
我認(rèn)為,智能安全風(fēng)險(xiǎn)伴隨人工智能客觀存在。 有限的分層 次合理的開發(fā),平衡人工智能發(fā)展和安全的矛盾,就可以防控 在危害人類生存利益最低范圍之內(nèi)。
三、人工智能安全的發(fā)展趨勢(shì) 國家安全方面,“對(duì)國家安全帶來深刻改變的顛覆性技術(shù) ”,人工智能賦能,突破常規(guī)管控極難,濫用門檻進(jìn)一步降低,容 易落入極端組織和犯罪團(tuán)伙之手。 近年在政治選舉中出現(xiàn)的 利用大數(shù)據(jù)和社交平臺(tái)部署“機(jī)器水軍”達(dá)成“選舉”的行為 ,彰顯出新的政治安全風(fēng)險(xiǎn)。
軍事安全方面,一方面,越來越多的國家試圖研發(fā)“智能化致 命性武器”,越來越容易獲得這種超時(shí)距的“遠(yuǎn)程精確打擊能力 ”機(jī)器人事件可能不再停留在科幻。
另一方面,個(gè)別國家或非國 家實(shí)體可能和商業(yè)公司共同開發(fā)工業(yè)機(jī)器人轉(zhuǎn)化用于實(shí)戰(zhàn)。社會(huì)安全方面,人工智能技術(shù)的創(chuàng)新使用不斷突破現(xiàn)有法律 規(guī)范和道德倫理的限制,帶來多維安全挑戰(zhàn)。
一是智能機(jī)器對(duì) 傳統(tǒng)人工的替代,直接給本來就存在就業(yè)壓力的發(fā)達(dá)國家?guī)?社會(huì)風(fēng)險(xiǎn)。
二是物聯(lián)網(wǎng)技術(shù)讓大量個(gè)人隱私直接暴露給智能 設(shè)備。
三是人為編寫的軟件與算法,智能產(chǎn)品成為安全攻擊新 的突破口。
