聊天機(jī)器人本身屬于一種服務(wù)，它能通過(guò)會(huì)話界面讓你與某種服務(wù)或公司互動(dòng)。它屬于計(jì)算機(jī)程序中的計(jì)算機(jī)程序，可以與1個(gè)或多個(gè)人類用戶對(duì)話。聊天機(jī)器人有時(shí)候也被稱為虛擬助理或會(huì)話商務(wù)。當(dāng)Facebook在其4月份中旬舉行的F8大會(huì)上宣布，他們將向聊天機(jī)器人開(kāi)放Messenger平臺(tái)時(shí)，我渴望嘗試它們的API（應(yīng)用程序接口）。為此，我在Facebook上創(chuàng)造了首批聊天機(jī)器人之一Mica, the Hipster Cat Bot，它絕對(duì)是奧地利首個(gè)Facebook Messenger和Skype聊天機(jī)器人。

 

 

　　然而，F(xiàn)acebook Messenger正被廣泛使用，但聊天機(jī)器人的成功卻引發(fā)問(wèn)題：數(shù)據(jù)、消息應(yīng)用隱私以及聊天機(jī)器人都能保證安全嗎？在使用消息應(yīng)用過(guò)程中，我們通常都會(huì)分享個(gè)人數(shù)據(jù)。這些消息中含有許多隱私，消息應(yīng)用供應(yīng)商被期望應(yīng)該確保用戶數(shù)據(jù)隱私。此外，假設(shè)用戶與聊天機(jī)器人所有者之間的對(duì)話在未經(jīng)用戶同意下不會(huì)公開(kāi)分享，那么平臺(tái)上的隱私安全如何保證？

 

　　在面臨廣泛互聯(lián)網(wǎng)監(jiān)控的現(xiàn)實(shí)中，我們需要安全而實(shí)用的手段，以確保在通過(guò)手機(jī)或電腦交流時(shí)的隱私安全。電子前沿基金會(huì)（EFF）推出了安全信息記分卡，以衡量“消息產(chǎn)品”的安全性。第一代的安全信息記分卡基于7個(gè)具體標(biāo)準(zhǔn)評(píng)估應(yīng)用和工具安全性，包括消息在傳輸過(guò)程中是否被加密、代碼最近是否被審核過(guò)等。對(duì)于某類工具來(lái)說(shuō)，通過(guò)這些標(biāo)準(zhǔn)是確保信息與隱私安全所必須的，但它們卻無(wú)法保證應(yīng)用安全。因?yàn)榘踩窍喈?dāng)困難和復(fù)雜的，其有些方面很難衡量。

 

　　令人感到欣慰的是，大多數(shù)消息應(yīng)用在傳輸信息過(guò)程中會(huì)加密信息。但有些應(yīng)用，比如Kik或Skype，最近代碼沒(méi)有經(jīng)過(guò)審核。有些消息應(yīng)用會(huì)向獨(dú)立評(píng)論家公開(kāi)他們的源代碼。EFF分析的大多數(shù)消息應(yīng)用沒(méi)有辦法驗(yàn)證聯(lián)系者的身份，只有Signal和WhatsApp提供這種功能。

 

　　有些消息應(yīng)用使用端對(duì)端加密，比如Signal和WhatsApp，這意味著平臺(tái)服務(wù)器不會(huì)閱讀用戶信息內(nèi)容。但有些消息應(yīng)用向聊天機(jī)器人提供API，比如Telegram、Skype、Facebook以及Kik等。通常情況下，擁有聊天機(jī)器人的支持，這些平臺(tái)提供商和聊天機(jī)器人提供商可以看到未經(jīng)加密的信息。唯一獲得EFF的A級(jí)安全評(píng)級(jí)的消息應(yīng)用就是Signal，而像Skype和Kik等被廣泛使用的應(yīng)用，評(píng)級(jí)都相當(dāng)糟。

 

　　2016年，Viber也在自己的服務(wù)中心添加端對(duì)端加密，但當(dāng)只有所有對(duì)話參與者都使用最新版本Viber時(shí)，它們的對(duì)話才被加密。谷歌最新AI消息應(yīng)用Allo也受到類似批評(píng)，它默認(rèn)關(guān)閉端對(duì)端加密功能。默認(rèn)安全是理想的，但自然語(yǔ)言處理功能會(huì)受到影響。

 

　　與此同時(shí)，針對(duì)聊天機(jī)器人的下個(gè)主流平臺(tái)的競(jìng)爭(zhēng)已經(jīng)開(kāi)始，F(xiàn)acebook、Skype以及Kik等都在競(jìng)爭(zhēng)成為聊天機(jī)器人的重要生態(tài)系統(tǒng)。每個(gè)聊天機(jī)器人平臺(tái)都試圖提供易于集成聊天機(jī)器人的服務(wù)，以及最好的用戶體驗(yàn)。paradox就是這類應(yīng)用，它主要處理私人和兩人間對(duì)話，現(xiàn)在聊天機(jī)器人正進(jìn)入這個(gè)領(lǐng)域。

 

　　聊天機(jī)器人正進(jìn)入個(gè)人與隱私通信領(lǐng)域，我們看到數(shù)據(jù)傳輸控制權(quán)正從用戶轉(zhuǎn)移到消息應(yīng)用供應(yīng)商手中。Facebook經(jīng)常因修改隱私政策而受到審查，包括其聊天應(yīng)用Messenger。你可通過(guò)Messenger呼叫Uber、購(gòu)買玩具或機(jī)票，甚至直接在Messenger內(nèi)支付，但用戶的所有個(gè)人數(shù)據(jù)都暴露給Facebook。所有交易都被平臺(tái)服務(wù)器記錄下來(lái)，這些服務(wù)器監(jiān)督和記錄用戶與聊天機(jī)器人之間的通訊。

 

　　對(duì)于Facebook或谷歌來(lái)說(shuō)，個(gè)人數(shù)據(jù)擁有非常高的價(jià)值，消息平臺(tái)最初并非專注于隱私而創(chuàng)建的。聊天機(jī)器人可以利用外部工具分析數(shù)據(jù)，以便適合自然語(yǔ)言處理和意圖理解。通常情況下，數(shù)據(jù)在發(fā)送給wit.ai、api.ai或IBM Watson等工具時(shí)并未加密，盡管其可通過(guò)HTTPS發(fā)送。這些基于云端的API處理用戶輸入以用于智能分析，可以分析你書(shū)寫的任何內(nèi)容，特別是處理敏感數(shù)據(jù)，比如財(cái)務(wù)賬戶信息或密碼等。

 

　　通常情況下，聊天機(jī)器人不太了解它們的用戶，只知道名字和屏幕上的名字，可能還有點(diǎn)兒其他數(shù)據(jù)。而通過(guò)消息平臺(tái)的API，你的所有數(shù)據(jù)都被發(fā)送給機(jī)器人。基于你發(fā)送給它們的數(shù)據(jù)，聊天機(jī)器人非常容易就能創(chuàng)造出用于研究的用戶特征。舉例來(lái)說(shuō)，情感分析可通過(guò)計(jì)算識(shí)別和分類文本表達(dá)的情緒，以便用于確定文本作者對(duì)特定主題或產(chǎn)品的態(tài)度，包括積極、消極以及中性態(tài)度等。同樣的擔(dān)憂也適用于其他與聊天機(jī)器人相關(guān)的工具，比如語(yǔ)音-文本轉(zhuǎn)換器、圖像識(shí)別應(yīng)用、語(yǔ)言分析工具等。

 

　　但是也要考慮其他可能傾聽(tīng)到你的對(duì)話的人。我的意思是，不僅僅聊天機(jī)器人開(kāi)發(fā)者或項(xiàng)目經(jīng)理。當(dāng)前在聊天機(jī)器人和用戶之間的對(duì)話需要通過(guò)消息應(yīng)用的服務(wù)器傳輸，為此Facebook或谷歌也可能聽(tīng)到你與聊天機(jī)器人的全部對(duì)話。此外，聊天機(jī)器人通常會(huì)儲(chǔ)存語(yǔ)境數(shù)據(jù)，比如地理位置或相關(guān)信息等。這可能包括電話號(hào)碼或其他私人數(shù)據(jù)，沒(méi)人知道這些數(shù)據(jù)在被儲(chǔ)存到數(shù)據(jù)庫(kù)前是否加密。

 

　　人們都在嘗試與聊天機(jī)器人更多交流，特別是青少年或老人。研究顯示，老年人感到孤獨(dú)時(shí)，更多與Siri聊天。用戶也傾向于與那些似乎沒(méi)有傾聽(tīng)能力的聊天機(jī)器人聊天。當(dāng)約瑟夫·魏澤鮑姆（Joseph Weizenbaum）創(chuàng)造ELIZA時(shí)，當(dāng)他走進(jìn)房間時(shí)，他意識(shí)到有測(cè)試者感到羞愧。他說(shuō)：“抱歉，我現(xiàn)在正與ELIZA聊天。”

 

　　另一個(gè)有趣的方面是，人們對(duì)機(jī)器人做出的情感反應(yīng)。他們喜歡聊天機(jī)器人，并告訴它們這一點(diǎn)。或者他們?cè)骱匏鼈?，并開(kāi)始使用污言穢語(yǔ)?；谶@些數(shù)據(jù)，你可以創(chuàng)建聊天機(jī)器人的人格特征。為此，當(dāng)你與聊天機(jī)器人對(duì)話時(shí)，或你的數(shù)據(jù)透露給平臺(tái)時(shí)，請(qǐng)保持謹(jǐn)慎。