導語：無論是我們的家里還是身上或多或少都會攜帶智能語音設備，如今甚至連兒童玩具也越來越智能了。但是當我們與這些虛擬助手交談的時候，背后傾聽的人究竟是誰？我們是否還有隱私可言？

以下為譯文：

“血案”引發的智能設備隱私問題

2015年11月21日，James Bates和三位朋友觀看了阿肯色州野豬隊與密西西比州斗牛犬隊的比賽。Bates居住在阿肯色州本頓維爾市，他和他的朋友們喝著啤酒和伏特加，觀看了一場緊張的橄欖球比賽。后來，野豬隊以51-50輸掉了比賽，Bates的一位朋友悻悻而歸，而Bates和其余兩位朋友去后院的熱水浴缸里繼續飲酒。據Bates事后說，凌晨1點左右的時候他上床睡覺了，而他的兩位朋友（其中一人名叫Victor Collins）打算在他家中過夜。次日清晨，Bates起床后卻發現兩位朋友不見了。可是，當他打開后門，才發現熱水浴缸中漂浮著一具尸體，此人正是Collins。

這在當地是一起嚴峻的死亡事件，但如果不是由于本頓維爾市警方在調查死因的時候，將世界上最強大的公司亞馬遜也卷了進來的話，可能Victor Collins的死永遠也不會引起國際的關注。Collins的死亡引發了一場關于語音計算時代隱私的爭論，這些討論讓大科技公司感到不安。

橄欖球比賽的次日清晨，Bates報了警。警方發現了打斗的痕跡，覺得很可疑——地上散落著熱水浴缸的頭枕、把手以及兩個破碎的瓶子。Collins的一只眼睛烏青，嘴唇腫脹，而浴缸中的水也被血染紅了。Bates說，他不知道發生了什么事情，但警方覺得很可疑。2016年2月22日，警方以謀殺罪逮捕了Bates。

在搜查犯罪現場時，調查人員注意到了亞馬遜的Echo。由于警察認為Bates可能沒有說實話，所以他們想試試看Echo是否可能在無意間記錄了有關真相。2015年12月，調查人員向亞馬遜提出了搜查令，要求亞馬遜提供“錄音、轉錄記錄或其他文本記錄形式的電子數據”。

亞馬遜提交了Echo記錄的一份事務記錄，但沒有提供任何音頻數據。亞馬遜在提交給法庭的一份文件中稱：“鑒于第一修正案的重要性與隱私權的問題，逮捕令應予以撤銷。”Bates的律師Kimberly Weber用更為通俗的語言闡述了這一論點：“一份理應改善你的生活的圣誕禮物，如今卻變成了你的罪證。”

亞馬遜的Echo帶有麥克風、能夠收錄到各個房間的聲音。蘋果、Google和微軟的智能家居產品，以及我們所有手機中配備麥克風的AI也一樣。作家Adam Clark Estes曾說過：“購買智能揚聲器，實際上等同于花錢讓一家大型科技公司監視你。”

亞馬遜對此做出了反擊，認為其產品受到了不公平的誹謗。沒錯，他們的設備時刻在聽候指令，但絕不會傳輸聽到的所有內容。只有當設備聽到有人叫它“Alexa”時，才會將語音發送到云端進行分析。Bates不太可能會明目張膽地說出自己的罪行。例如：“Alexa，我該如何把尸體藏起來？”但可以想象這臺設備可能收錄了一些調查人員感興趣的東西。例如，如果有人有意激活Echo（如播放歌曲等正常的要求），而設備可能錄下了當時的背景聲音，比如有人爭吵的聲音等。如果Bates在凌晨1點之后向Echo發出了任何請求，那么就證明他所說的上床睡覺的時間有誤。

2016年8月，一名法官接受了亞馬遜可能持有有利證據的觀點，批準了第二次搜查令，準許警方獲取亞馬遜之前保留的信息。就在雙方陷入僵局的時候，情況發生了突變——Bates堅持認為自己無罪，所以他和他的律師表示，他們并不反對警察獲取這些信息。于是，亞馬遜表示妥協，但要求警方永遠不能透漏Echo記錄的有關犯罪的任何內容。然而，2017年12月，檢察官提出了駁回此案的動議，稱Collins的死亡有不止一種合理的解釋。但該案件引發的監視問題掀起了軒然大波，久久無法散去。

各大科技公司堅持認為，他們沒有使用虛擬助手和家用小工具來監視他們的用戶，這些工具只在收到明確指示時，才會接收指令。至少就外部的檢驗結果而言，這種說法似乎屬實。但這并不意味著挑戰傳統隱私觀念的監聽沒有發生，或不可能發生。

科技公司的隱私保衛戰

家用設備威脅到我們的隱私觀念的方式有很多種。一種是通過監聽改善語音識別系統。當你按下Hello Barbie這款芭比娃娃閃閃發光的束衣扣時，她的數字耳朵就會豎起來。當你說“OK，Google”的時候，Google的語音助手也會被激活。亞馬遜的Alexa最喜歡有人叫她的名字。但是一旦這些設備被激活，接下來會發生什么呢？

蘋果向來以保護隱私為傲，據稱Siri會盡可能地滿足使用iPhone或HomePod的用戶。在將用戶所說的話發送到云進行其他分析時，會對用戶的信息進行編碼。為了便于語音識別系統學習更好地理解人的聲音，這些信息會被保存六個月。在這之后，為了幫助改善Siri，這些數據在去除有關用戶的信息后，會被保存在另一個副本中長達兩年。

大多數其他公司并沒有采取本地處理的方式，而是會將所有音頻傳輸到云端，通過更強大的計算資源進行處理。然后，由計算機判斷用戶的意圖并遵從用戶的命令。在這之后，這些公司本可以刪除請求和系統的響應，但通常他們都不會這樣做。原因就在于這些都是數據。在AI會話中，你擁有的數據越多就越有利。

幾乎所有的機器人廠商，從業余愛好者到大型科技公司的人工智能向導，都會審核人們與這些機器人之間的互動內容。目的是為了查看哪些方面做得不錯，哪些方面需要改進，以及用戶感興趣的討論內容或希望完成的事項。這種審核流程有多種形式。

聊天記錄有可能是匿名的，因此審閱者看不到用戶的姓名。有些審閱者只能看到匯總的數據。例如，他們有可能發現，有些機器人經常在對話中把天聊死，從而他們可以知道需要調整語句。微軟和Google以及其他公司的設計師也會收到有關最受歡迎的用戶查詢的詳細報告，所以他們知道需要添加哪些內容。

但是，在這種審核的過程中，也可能接觸到非常私密的信息。在我訪問過的一家會話計算公司的辦公室里，員工向我展示了他們每天收到的郵件里都會列出用戶與某家公司聊天應用之間的最新交換信息。

他們的員工打開了一封這樣的電子郵件，并點擊了播放的圖標。我通過清晰的數字音頻，聽到了一個孩子的自言自語：“我只是一個男孩，我有一件綠色的恐龍襯衫......而且，巨大的腳......我家里有很多玩具和一把椅子......母親只是一個女孩，我認識我的媽媽，她可以做任何她想做的事情。每天早上我起來的時候她已經去上班了，但晚上她會回家。”

這段錄音并沒有任何不妥之處。但是當我聽到這段錄音時，心里隱隱感到一陣不安，仿佛看見有個小男孩的房間里徘徊。這次經歷讓我意識到當我們通過電話或智能家居設備與虛擬助手交談時，我們假設自己完全是匿名，另一端只有一臺電腦，是嗎？并不一定哦，很可能有人在監聽、做筆記、學習。

有時監聽也會在不經意期間發生。2017年10月4日，Google邀請記者參加舊金山SFJazz中心一款產品的發布會。由設計師Isabelle Olsson負責宣布全新推出的Google Home Mini，這是一款只有百吉餅大小的設備，是Google為了回應亞馬遜的Echo Dot而推出的產品。Olsson說：“家庭是一個特別私密的地方，人們對他們選擇的東西都非常挑剔。”展示結束后，Google把Mini贈送給了與會者。其中一位名叫Artem Russakovskii的作家將這款贈品帶回了家，但隨后他對自己的此舉感到十分懊悔。

在使用了幾天Mini后，Russakovskii上網查看了他的語音搜索記錄。結果卻震驚地發現，這款設備已經錄制了幾千段小音頻——該設備本不應該錄制這些音頻。后來，他在Android Police網站寫道：“由于硬件的缺陷，不知不覺中我受到了來自Google Home Mini一天24小時不間斷的監視。”他向Google投訴，Google在5小時內派來了一名代表，換掉了他的故障設備中的兩個部件。

與其他類似的設備一樣，你可以通過“OK，Google”或按下設備頂部的按鈕激活Mini。Russakovskii寫道，但問題在于該設備有“臆想癥”：它會幻想有人按了激活按鈕。后來，Google表示，這個問題僅影響了促銷活動中發放出去的少數幾臺設備。再后來，Google通過軟件更新修復了這個問題。為了進一步消除用戶的恐懼，Google宣布永久禁用所有Mini的觸控功能。

然而，這種回應措施并不足以滿足電子隱私信息中心的要求。2017年10月13日，該倡導組織在一封信中強烈要求消費者產品安全委員會召回Mini，理由是它“允許Google在未經消費者知情或同意的情況下，攔截和記錄用戶在家中的私人談話”。

沒有任何信息表明Google在故意竊聽。盡管如此，如果連Google這樣的公司都會犯這樣的錯誤，那么隨著語音設備的劇增，其他公司更容易犯同樣的錯誤。

你是否真的被監聽了？

如果你想知道政府機構或黑客是否能夠聽到你與語音設備之間的談話，那么請考慮一下你對著這些設備說完話后，接下來會發生什么。有隱私保護意識的蘋果會保留你的語音，但會去掉你的姓名或用戶ID。然后，給每個用戶分配隨機的數字字符串，在6個月后還會斷開對話與數字字符串之間的關聯。

與此同時，Google和亞馬遜會全權保留講話者與其對話之間的聯系。任何用戶都可以登錄他們的Google或亞馬遜賬號，查看所有查詢的列表。我曾試過Google，我可以聽到其上的所有錄音。例如，點擊2017年8月29日上午9點34分的播放圖標，我聽到自己問：“鉛筆刀用德語怎么說？”雖然這些語音記錄都可以刪除，但是必須由用戶動手。Google用戶政策聲明中說：“Google Home和Google助手的對話歷史記錄會一直被保存下來，直到你動手刪除為止。”

這是隱私方面的新問題嗎？然也。Google和其他搜索引擎同樣會保留你輸入的所有Web查詢，除非你動手刪除。所以你可能認為，語音存檔只不過是同樣的現象而已。但是對某些人來說，語音記錄感覺更具侵略性。另外，還有一個問題。錄音常常會把背景中其他人的聲音也記錄下來，比如你的伴侶、朋友和孩子等。

對于執法機構來說，如果想獲取本地存儲的錄音或數據（保存在你的手機、計算機或智能家居設備上的數據），則需要拿到搜查令。但是，在語音傳輸到云之后，隱私保護就被大幅削弱了。紐約福德姆法學院法律和信息政策中心主任Joel Reidenberg表示，“有關隱私的合理預期法律標準已經失效了。根據第四項修正方案，如果你安裝語音設備，而且會向第三方傳輸數據，那么就相當于你放棄了隱私權。”根據Google透明度報告，2017年美國政府機構曾要求其提供17萬多用戶賬號的數據。（該報告沒有說明這些請求中有多少是語音數據，有多少是網絡查詢或其他信息的日志。）

如果你沒有在家中從事任何違法行為，也不用擔心被誣告，那么也許你不需要擔心政府可能會要求提供你的語音數據。但是，如果有些公司持有你的錄音數據，那么仍然有一種普遍存在的風險。黑客可以利用你的賬號和密碼，竊聽你在家中私下發出的請求。

各大科技公司聲稱他們沒有惡意竊聽，但黑客并不會以竊聽為恥。雖然各個公司通過密碼保護和數據加密來打擊竊聽活動，但安全研究人員的測試以及黑客的破壞表明，這些保護措施遠非萬無一失。

有一種在線的毛絨動物玩具CloudPets，其中有小貓咪、大象、獨角獸，還有泰迪熊。孩子們可以對著這些毛絨玩具錄制簡短的語音信息，這些信息可以通過藍牙傳送到附近的智能手機上。然后，再發送到遠方的父母或其他親戚手中，無論他們在市里上班，還是在世界的另一個角落戰斗。反過來，父母也可以在手機上錄制一條消息，并發送到毛絨玩具上進行播放。

看似這是一個溫馨甜蜜的場景。然而，問題在于CloudPet將80多萬名用戶的認證信息，以及兒童和成人之間記錄的200萬條消息保存在了在線數據庫中。2017年，黑客獲取了很大一部分數據，甚至向該公司提出了勒索贖金。

安全研究員Paul Stone發現了另一個問題：CloudPets毛絨玩具與配套的智能手機應用之間的藍牙配對中沒有使用加密，也不需要身份驗證。他購買了一只獨角獸的毛絨玩具進行測試，發現很輕易就可以入侵該設備。

在Stone在網上發布了一段示范視頻中，他的獨角獸玩具大喊：“殺呀！殺呀！”同時他開啟了麥克風錄制，該毛絨玩具瞬間變成了監聽器。Stone在他的博客上寫道：“藍牙LE通常的范圍在10-30米。所以別人站在你家門外就可以輕松地連接到玩具上，上傳錄音，并通過麥克風接收音頻。”

毛絨玩具可能不過是黑客的玩具目標，但其中展示的脆弱性同樣會出現在為成年人設計的互聯網語音設備上。安全研究員Troy Hunt記錄了CloudPets的違規行為，他表示，“雖然這種風險與我們每天所面對的風險——大量數據的產生和上傳到網上的風險——并沒有不同，但這種風險牽扯到了孩子，我們就不能容忍。”

其他研究人員也發現了很多侵犯隱私的技術方式。想象一下，有人可以通過交談控制你的手機或其他語音AI設備，如果被你聽到了，那么這種計劃就會失敗。但是如果這種攻擊你聽不到呢？中國浙江大學的一個研究小組在2017年發表的一篇論文就針對這種情況展開了調查。這些研究人員設計了一種名叫海豚攻擊的場景，黑客可以通過安裝在受害者辦公室或家中的揚聲器發出未經授權的命令。黑客還可以在將在受害者經過時，將一種便攜式的揚聲器放到受害者身上。關鍵在于，這些命令可以發出20千赫以上的超聲波信號，雖然人耳聽不到這些信號，但是研究人員可以輕易地通過操縱音頻，讓數字設備接受這些指令。

在實驗室的測試中，這些科學家成功地攻擊了亞馬遜、蘋果、Google、微軟和三星的語音設備。他們欺騙這些語音AI訪問了惡意網站、發送短信和電子郵件、調暗屏幕，并降低音量幫助隱藏攻擊。研究人員通過這些設備非法地監聽了電話以及視頻通話，這意味著黑客也可以竊聽，甚至可以看到受害者周圍的情況。他們甚至還入侵了奧迪SUV的導航系統。

科技是把雙刃劍

大多數人不希望黑客、警察或公司監聽他們。但是最后一種情況可能會讓大家從另一個角度考慮監聽的問題。如上所述，為了提高語音設備，會話設計師會查看聊天日志，有時他們感覺在聽到某些內容時有必要采取一定的行動。

以美泰公司的芭比娃娃為例。在設計的過程中，他們遇到了一系列困惑的假設情況。例如，如果一個孩子告訴芭比娃娃“我爸爸打我媽媽”，該怎么辦？芭比娃娃的設計者認為無視這類的音頻在道德上是不正確的。但是，如果他們將聽到的內容報告給警方，那么他們實際上就成了獨裁者。在艱難的討論之后，他們認為芭比娃娃應該做出反應說：“你應該把這些話告訴你信任的某個大人。”

然而，美泰公司似乎希望做得更好。在關于Hello Barbie的常見問題解答中，他們寫道：“我們不會實時監控兒童和玩具之間的對話。但是事后，我們可能會審查某些對話，以便幫助我們測試和改進產品。如果我們在這類審查中發現任何有關孩子或其他人安全的問題，我們也會按照要求，根據具體情況與執法機構和法律程序合作。”

大型科技公司也面臨同樣的難題。由于他們的虛擬助理每周需要處理數百萬個語音查詢，因此他們無法讓員工監控每個用戶的對話。但這些公司確實對系統進行了訓練，以收錄用戶可能提到的某些高度敏感事宜，例如，我在測試Siri的時候說：“我想自殺。”她回答說：“如果你想自殺，那么你可以跟全美預防自殺生命線的某個人談談。”而且Siri還提供了電話號碼，并撥打了電話。

在此向Siri表示感謝。但是問題在于，讓這些虛擬助手照顧我們就意味著這些角色所承擔的責任不清不楚，還有一定的局限性。如果你告訴Siri你喝醉了，有時她會打電話幫你叫出租車。但是，如果她沒有，而且你出了車禍，那么蘋果公司是否應該因為Siri沒有說這些話而負責？

什么時候語音設備應該采取行動？如果Alexa無意中聽到某人尖叫著：“救命，救命啊，有人要殺我！”，那么她應該自動報警嗎？

通信行業顧問分析師Robert Harris認為上述場景并不牽強，他認為語音設備引發了新的道德和法律問題。他表示：“個人助理會對他們的知識負責嗎？這樣的功能將來有可能會成為一種負擔。”

人工智能監控的使用清楚地表明，你應該謹慎地使用深入生活的每種技術。了解語音設備的激活方式和時間。如果有必要，你應該找到保存的語音數據并刪除。如果你對這些設備持有疑問，尤其是那些隱私政策不清不楚的公司的產品，那么請拔掉插座。