漢娜·弗萊：說實話，方方面面都有。從我們選擇閱讀和觀看的內(nèi)容到我們選擇約會的對象，算法正在發(fā)揮越來越大的作用。而且，這不僅僅體現(xiàn)在那些顯而易見的用例上，比如谷歌搜索算法或是亞馬遜推薦算法。

我們已經(jīng)把這些算法引入了法庭、醫(yī)院和學(xué)校，并由它們代表我們做出一個個小決策，而這正在微妙地改變著我們社會的運作方式。

你認為我們對算法的信任是錯的嗎？我們把如此多的決策權(quán)交給這些程序，這是不是一個錯誤？

漢娜·弗萊：這是一個棘手的問題，我們與機器的關(guān)系非常復(fù)雜。一方面，我們有時候的確會錯誤地信任它們。在我們的預(yù)期中，它們宛如上帝，完美無缺，以至于不管它們帶領(lǐng)我們?nèi)ハ蚝畏剑覀兌紩つ康馗鷱摹?/p>

但與此同時，我們也有這樣一種傾向，即一旦算法稍微顯露出缺陷，我們就會大加貶斥。因此，假如Siri答錯了問題，或是我們的GPS應(yīng)用預(yù)估錯了交通情況，我們便會認為整套機器都是垃圾，而這根本沒有道理。

算法并不完美，它們往往包含有開發(fā)人員的偏見，但算法仍然非常高效，它們讓我們的生活變得更加便捷。因此，我認為正確的態(tài)度是持中：不應(yīng)該盲目地信任算法，但也無需一竿子全盤打翻。

我們通過倚重算法獲得了哪些優(yōu)勢？

漢娜·弗萊：我們不擅長很多事情，我們不擅長保持一致，我們不擅長不偏不倚，我們很容易疲倦和粗心大意。

算法就沒有這些缺陷，它們始終如一，從不疲倦，而且絕對精確。問題在于，算法不理解上下文關(guān)系或細微差別，它們不能像人類那樣理解情感和產(chǎn)生同理心。

“我們不一定要創(chuàng)造這樣一個世界，由機器告訴我們要做什么或如何思考，盡管我們非常有可能淪陷在那樣的世界當(dāng)中。”

你能舉一個算法犯下災(zāi)難性錯誤的例子嗎？

漢娜·弗萊：我在書中寫到了弗吉尼亞州19歲男子克里斯托弗·德魯·布魯克斯（Christopher Drew Brooks）的故事，他跟一名14歲女孩發(fā)生關(guān)系而被判法定強奸罪。他們發(fā)生關(guān)系皆出于自愿，但由于女孩是未成年人，因此是非法的。

在量刑過程中，法官用到了一種算法，這種算法旨在預(yù)測一個人在服刑期滿后繼續(xù)犯罪的可能性有多大。算法評估了布魯克斯重新犯罪的分數(shù)，由于他在非常年輕的時候就有了性犯罪前科，算法認為他今后繼續(xù)犯罪的可能性非常高。因此，算法建議判處他入獄服刑18個月。

也許這個建議是公平合理的。不過，這也展示出算法有時候會有多不合邏輯。因為事實證明，本案中涉及的算法對犯罪者的年齡賦予了很大的權(quán)重——如果他的年齡是36歲而不是19歲，那么算法就會認為他對社會的威脅要低得多。但在這種情況下，犯罪者將比受害者年長22歲，我覺得任何有理智的人都會認為這要更加糟糕。

這個例子展示了邏輯完美的算法會怎樣得出奇怪的結(jié)果。在本案中，你可能認為法官會自行判斷，推翻算法的建議，但在現(xiàn)實中法官增加了布魯克斯的刑期，在某種程度上是受到了算法的影響。

開發(fā)這些算法的人，谷歌和 Facebook 等公司的工程師，你覺得他們完全理解自己所開發(fā)的東西嗎？

漢娜·弗萊：他們正開始認真關(guān)注這些東西的影響。Facebook 過去奉行的信條是“快速行動，破舊立新”，這也是科技界大多數(shù)人的態(tài)度。但在過去的幾年里，這種潮流發(fā)生了變化。隨著算法造成的意想不到的后果日漸清晰，很多科技界人士已經(jīng)醒悟過來。

每一個社交媒體平臺，每一個成為我們生活組成部分的算法，都是這個正在展開的大規(guī)模社會實驗的一部分。全世界范圍內(nèi)有數(shù)十億人正在跟這些技術(shù)互動，這就是為什么最微小的改動都可能對全人類產(chǎn)生非常大的影響。這些公司正開始認識到這一點并認真應(yīng)對。

你說算法本身并不分好壞，但我想在這上面多說幾句。算法可以造成意想不到的后果，尤其是那些可以自我編程的機器學(xué)習(xí)算法。既然我們不可能預(yù)測出所有可能的場景，我們能不能說有些算法是壞的，即使那不是它們的設(shè)計本意？

漢娜·弗萊：這是一個很好的問題，我們得把這些技術(shù)，特別是機器學(xué)習(xí)和人工智能，更多地與電的發(fā)明去類比，而不是電燈。我的意思是，我們不知道這些東西會被人們?nèi)绾问褂靡约霸谑裁礃拥膱鼍昂颓闆r下使用。

但是，電本身沒有好壞之分，它只是一件擁有無限多使用方式的工具。算法也是如此，我沒有見過 100% 好或 100% 壞的算法，我認為它所處的環(huán)境和周圍的一切才起到了決定性的作用。

“對于算法能夠做什么和不能做什么，我們可以提出任何主張，即便那荒謬透頂，也沒有人能夠阻止我們那樣做。”

你是否擔(dān)心算法的大規(guī)模普及正在削弱我們思考和決策的能力？

漢娜·弗萊：在某些地方，這種事情顯然正在發(fā)生，人類的作用被排除在外，聽之任之是非常危險的。不過，我也認為，事情不一定需要演變成那樣。人類和機器并不一定要彼此對立，我們必須跟機器合作，并認識到它們跟我們一樣存在缺陷，以及它們跟我們一樣會犯錯。

我們不一定要創(chuàng)造這樣一個世界，由機器告訴我們要做什么或如何思考，盡管我們非常有可能淪陷在那樣的世界當(dāng)中。我更希望人和機器、人和算法是合作伙伴的關(guān)系。

你是否覺得人和人工算法最終會以一種模糊兩者界線的方式結(jié)合在一起？

漢娜·弗萊：完全有可能，但那距離我們還非常非常遙遠。

舉例來說，有一個研究項目試圖復(fù)制秀麗隱桿線蟲的大腦，這是一種微型蠕蟲，其大腦中大約有200個神經(jīng)元——研究人員未獲成功。即便擁有最尖端、最先進的人工智能，我們也無力模擬一種微小蠕蟲的大腦。因此，我們距離模擬更復(fù)雜的動物就更加遙遠了，更別說復(fù)制人腦。

所以，這些討論很有意思，但它們也可能讓我們偏離眼下正在發(fā)生的事情。統(tǒng)領(lǐng)我們生活的規(guī)則和系統(tǒng)都在發(fā)生變化，而算法是其中很重要的一部分。

我們是否需要為算法制定更強大的監(jiān)管框架？

漢娜·弗萊：絕對需要。我們一直生活在科技的狂野西部，你可以在未經(jīng)他人允許的情況下收集他們的私密數(shù)據(jù)并將之出售給廣告商。我們正在把人變成商品，而他們甚至沒有意識到這一點。對于算法能夠做什么和不能做什么，我們可以提出任何主張，即使那荒謬透頂，也沒有人能夠阻止我們那樣做。

即使一種算法是行之有效的，也沒有人來評估它是否為社會帶來了好處或造成了損害，沒有人來做這些檢查工作。我們需要監(jiān)管算法的“FDA”（美國食品和藥物管理局），這個機構(gòu)既要能夠保護公司開發(fā)算法的知識產(chǎn)權(quán)，同時也要確保算法不會以任何形式傷害或侵犯公眾利益。

歸根結(jié)底，算法為人們解決的問題是不是多過了它們制造的問題？

漢娜·弗萊：是的，我認為它們解決的問題多過它們制造的問題，我對這些事情仍然保持著樂觀的態(tài)度。我已經(jīng)在這個領(lǐng)域工作了十多年的時間，這些技術(shù)有很大的正面作用。算法正在被用于幫助預(yù)防犯罪，幫助醫(yī)生獲取更準確的癌癥診斷結(jié)果，等等等等。

對人類來說，所有這些事情都是非常非常積極的進步。我們只是需要在應(yīng)用它們的方式上面保持謹慎，我們不能魯莽行動，我們不能一味快速行動，一味破舊立新。