電話機器人谷歌濫用（機器人電話騷擾怎么處理）

本文目錄一覽：

在分析之前，讓我們簡要介紹一下人工智能的應(yīng)用。人工智能因其在數(shù)據(jù)分析、知識提取和自主學(xué)習(xí)方面的突出優(yōu)勢，被廣泛應(yīng)用于網(wǎng)絡(luò)保護、數(shù)據(jù)管理、信息審查、智能安全、金融風(fēng)險控制和輿情監(jiān)測等領(lǐng)域。在這些領(lǐng)域，往往會出現(xiàn)一些安全風(fēng)險，常見風(fēng)險如下:

1、人工智能安全風(fēng)險——框架的安全風(fēng)險

近年來，著名的深度學(xué)習(xí)框架TensorFlow和Caffe及其依賴庫多次被發(fā)現(xiàn)存在安全漏洞，被攻擊者利用，導(dǎo)致系統(tǒng)安全問題。以生成模型[3]為例。原始工作原理是:將輸入X映射到低維表示的Z編碼器，再映射回高維重構(gòu)的X解碼器，表示如下圖所示:

如果輸入是7，攻擊后的輸出可能是8。如圖所示:

此外，人工智能可以用來編寫計算機病毒和木馬。原始的惡意腳本是手動編寫的。人工智能技術(shù)可以通過插入拮抗樣本[4]，繞過安全檢測，實現(xiàn)這些過程的自動化。同樣，人工智能技術(shù)也可以自動生成智能僵尸網(wǎng)絡(luò)[5]，它可以在不等待僵尸網(wǎng)絡(luò)控制命令的情況下對其他系統(tǒng)進行大規(guī)模、自動的攻擊，大大提高了網(wǎng)絡(luò)攻擊的破壞程度。(頁面)

2、人工智能安全風(fēng)險——數(shù)據(jù)安全風(fēng)險

攻擊者可以通過網(wǎng)絡(luò)的內(nèi)部參數(shù)得到網(wǎng)絡(luò)訓(xùn)練的數(shù)據(jù)集。人工智能技術(shù)還將增強數(shù)據(jù)挖掘能力，提高隱私泄露風(fēng)險，比如2018年3月的Facebook數(shù)據(jù)泄露事件。

3、人工智能安全風(fēng)險——算法的安全風(fēng)險

深度學(xué)習(xí)網(wǎng)絡(luò)目標函數(shù)的定義不準確、不合理或不正確，可能會導(dǎo)致錯誤甚至有害的結(jié)果。錯誤的目標函數(shù)、代價過高的目標函數(shù)以及表達能力有限的網(wǎng)絡(luò)都可能導(dǎo)致網(wǎng)絡(luò)產(chǎn)生錯誤的結(jié)果。例如，2018年3月，一輛優(yōu)步自動駕駛汽車發(fā)生事故，機器人視覺系統(tǒng)未能及時識別突然出現(xiàn)在道路上的行人，導(dǎo)致行人發(fā)生碰撞并死亡。算法的偏差和人工智能的不可解釋性也是主要問題。在美國，人工智能算法被用來預(yù)測罪犯，一些列表顯示許多無辜的人受到了傷害，其中大部分是黑人，甚至系統(tǒng)的開發(fā)者也沒有合理的解釋這個決定。拮抗樣本的存在也會導(dǎo)致算法的誤判。通過給下面的圖片添加一點噪聲，人工智能將很有信心地確認熊貓是長臂猿。

4、人工智能安全風(fēng)險——信息安全風(fēng)險

有了足夠的訓(xùn)練數(shù)據(jù)，人工智能可以產(chǎn)生用于非法活動的虛假信息。比如人工智能面部修飾DeepFakes，以及最近推出的DeepNude。一些罪犯使用假聲音和假視頻進行詐騙?，F(xiàn)在谷歌已經(jīng)發(fā)明了一種聊天機器人，它可以完全愚弄人們在電話上聊天。

以上就是《人工智能安全風(fēng)險有哪些?安全在這個行業(yè)竟然這么重要》，在分析之前，讓我們先簡單介紹一下人工智能的應(yīng)用。人工智能由于其在數(shù)據(jù)分析、知識提取和自主學(xué)習(xí)方面的突出優(yōu)勢，如果你想知道更多的人工智能安全的發(fā)展，可以點擊本站的其他文章進行學(xué)習(xí)。

谷歌能夠自動打電話的AI，被稱贊通過圖靈測試的Duplex，為什么背后卻是真人在偽裝？

這些所謂的AI，和Engineer.ai一樣，只存在于論文中、Demo中、產(chǎn)品的介紹中。為什么？因為落地太骨感了。就算谷歌、Facebook這樣的AI重鎮(zhèn)，也遭遇著這樣的情況。

甚至一直以來，谷歌展現(xiàn)的姿態(tài)，都是完全AI，完全自動化，完全不需要人類。只是之前官方博客里，有云淡風(fēng)輕提到過，機器能夠自主完成大部分任務(wù)，并識別自己無法處理的情況，然后讓人類來處理。但現(xiàn)實呢？這項技術(shù)還很年輕、使用有限。目前谷歌仍在使用人工呼叫來幫助獲取數(shù)據(jù)、訓(xùn)練AI。

有谷歌鐵桿支持者認為，谷歌這樣謹慎而不激進地引入Duplex，是明智的。但炫酷的Demo和尷尬的現(xiàn)實對比下，無疑是一記耳光。還有一些公司，遭遇落地骨感的過程中，也是方法頻出。比如美國的一家自動駕駛貨運公司Starsky Robotics，核心目標和所有的無人駕駛公司一樣，致力于讓卡車自動駕駛。

AI可能是泡沫，但別害怕泡沫破滅現(xiàn)在，時間已是2019年，當我們談?wù)揂I，一切都有了根本性的不同。

在競爭最激烈的領(lǐng)域，第一階段的戰(zhàn)爭甚至已經(jīng)結(jié)束，曾經(jīng)燦若群星的一眾AI新勢力，現(xiàn)在層次分明，甚至有公司已無力參與下一階段競爭。還有行業(yè)與行業(yè)的邊界，技術(shù)公司通過AI線下落地，場景企業(yè)也在加持AI攻堅技術(shù)，都說AI+，但新增紅利歸屬誰，最大紅利誰吃掉，勝負難分。

雖然目前AI發(fā)展存在泡沫，我們不應(yīng)該害怕泡沫的破滅。因為，一個洗牌的時代已經(jīng)來臨，深度泛濫、偽AI創(chuàng)業(yè)的公司難有未來。一個新的時代也正在來臨，落地為王，技術(shù)價值轉(zhuǎn)換為商業(yè)價值的公司，一定是未來。

電話機器人合法的使用不會有問題。首先，電話機器人是進行線下銷售的，它是幫助企業(yè)進行電話銷售，最大范圍地尋找客戶，每天撥打電話有規(guī)定的，每個號碼不得撥打超過2次，一小時內(nèi)不能撥打同一個號碼。其次，這個是國家政策支持的，國家支持人工智能的發(fā)展，而且它的上市是經(jīng)過國家層層把關(guān)的。另外使用電話機器人目的是為了解決銷售員繁瑣、復(fù)雜的工作問題，它是助力企業(yè)發(fā)展。