在前不久落下帷幕的2019世界人工智能大會(huì)上，IBM首次全面闡述了如何通過構(gòu)建“可信AI”系統(tǒng)來賦能城市建設(shè)的方方面面。IBM副總裁，大中華區(qū)首席技術(shù)官謝東指出，“可信人工智能城市模式將成為未來智慧城市的新形態(tài)。”

先從一個(gè)故事說起。50年前，為了幫助人類登上月球，IBM參與了阿波羅計(jì)劃所有的計(jì)算任務(wù)，包括發(fā)射、航行、降落、著陸、與安全返回地球。

“在阿波羅11號抵達(dá)降落點(diǎn)上空約120米處，登月艙里突然警報(bào)聲大作；NASA指揮中心也收到機(jī)載儀器故障、無法繼續(xù)引導(dǎo)登月行動(dòng)的信號。這時(shí)，NASA與阿姆斯特朗面臨一個(gè)艱難的決定：“Go？ Or No-go？”牽動(dòng)著人類太空夢想的里程碑時(shí)刻，讓所有人捏了一把汗。這時(shí)，身處控制中心里的IBM團(tuán)隊(duì)，根據(jù)無數(shù)次模擬測試的結(jié)果，堅(jiān)定地給出了“繼續(xù)執(zhí)行降落任務(wù)”的建議。最終，阿姆斯特朗步出登月艙，在月球表面留下載入史冊的腳印。NASA的飛行指揮官Gena Kranz事后評價(jià)：如果沒有IBM和IBM所提供的系統(tǒng)，我們就無法登上月球。”

關(guān)鍵時(shí)刻的“一錘定音”，源于IBM計(jì)算機(jī)的可信，更源于IBM計(jì)算機(jī)系統(tǒng)基于數(shù)據(jù)理論和物理原理而得出的精確軌道預(yù)測。

從那之后，IBM與探索太空有了不解之緣。IBM的ThinkPad在1993年登上美國奮斗號航天飛機(jī)，參與修復(fù)哈伯空間望遠(yuǎn)鏡的任務(wù)；2018年，IBM和空客合作，開發(fā)出人類歷史上第一個(gè)宇航員交互式移動(dòng)伙伴Project CIMON（Crew Interactive MObile CompanioN），像人類一樣幫助宇航員完成許多太空任務(wù)。

從計(jì)算機(jī)到AI，IBM矢志不渝的投入，并將源源不斷的科技成果應(yīng)用到行業(yè)中，解決城市、民生和社會(huì)的各種問題，成就了“科技向善”的使命擔(dān)當(dāng)。

智能城市的憧憬

智能化讓人憧憬，IBM從未間斷過在智能領(lǐng)域研究和實(shí)踐，而且總能洞察先機(jī)。在2008年11月IBM就率先提出“智慧地球”概念，前瞻性的預(yù)測世界正在變得物聯(lián)化、互聯(lián)化，所有的事物將變得智能化。

早在1956年達(dá)特茅斯會(huì)議提出“人工智能”概念之前，IBM在1952年就開發(fā)出了第一款會(huì)下國際跳棋的人工智能程序；1997年戰(zhàn)勝國際象棋冠軍卡斯帕羅夫的深藍(lán)，開拓了“人機(jī)對戰(zhàn)”的先河；2011年在益智類問答節(jié)Jeopardy！戰(zhàn)勝兩位人類冠軍的Watson；人工智能辯手Project Debater，能準(zhǔn)確理解人類的自然語言，并進(jìn)行有效地辯論。IBM在智能化的先人一步，不斷將人工智能推向一個(gè)個(gè)里程碑。

進(jìn)入通用人工智能（AGI）的新紀(jì)元，AI延伸到城市、民生和社會(huì)的觸角越來越廣，也越來越深。AI能夠改善人們的生活，創(chuàng)新商業(yè)模式，打造個(gè)性化的服務(wù)，優(yōu)化各項(xiàng)城市設(shè)施和服務(wù)等等。

目之所及，AI已經(jīng)擴(kuò)散到城市的方方面面，例如電子商務(wù)、無人超市、自動(dòng)駕駛、智能樓宇、智能工廠、智能醫(yī)療等等。

在交通，IBM Watson Assistant技術(shù)開發(fā)的改變城市駕駛方式的解決方案，來緩解交通擁堵，提供用戶個(gè)性化的最優(yōu)出行建議；

在醫(yī)療，Watson Health覆蓋了腫瘤與基因、醫(yī)學(xué)影像、生命科學(xué)、健康管理、醫(yī)療支付等多個(gè)分支領(lǐng)域，幫助醫(yī)生有效地實(shí)現(xiàn) “標(biāo)準(zhǔn)化醫(yī)療”、精準(zhǔn)醫(yī)療”、“智能醫(yī)療”。同時(shí)，助力“普惠醫(yī)療”；

在制造，IBM就利用人工智能缺陷檢測技術(shù)，幫助進(jìn)行顯示面板生產(chǎn)線檢測良率，毫秒級內(nèi)檢測出面板是否有劃痕或者別的缺陷，判讀準(zhǔn)確率高達(dá)97%以上。

在食品安全，IBM人工智能傳感器技術(shù)可以更方便快捷地對食品上可能會(huì)出現(xiàn)的病菌進(jìn)行實(shí)時(shí)檢查。

真實(shí)的世界的智能化場景遠(yuǎn)比“人機(jī)對戰(zhàn)”或“益智挑戰(zhàn)”復(fù)雜的多，隨著人工智能應(yīng)用在各行各業(yè)的廣泛使用，“可信”越來越成為一個(gè)嚴(yán)峻的問題。

IBM副總裁，大中華區(qū)首席技術(shù)官謝東

“對于現(xiàn)代化城市來說， ‘城’（城市建設(shè)）與‘工’（工業(yè)、行業(yè)）的應(yīng)用升級都很重要。正所謂，行業(yè)不智能， 城市何以智能。而一個(gè)可信的AI基礎(chǔ)對于‘城’與‘工’的智能化來說，也是至關(guān)重要。”IBM副總裁，大中華區(qū)首席技術(shù)官謝東說。

“AI可信”的拷問

人工智能是一把雙刃劍，一邊是AI和數(shù)字化技術(shù)結(jié)合，給我們的生活和工作帶來福祉；一邊也給道德準(zhǔn)則、價(jià)值觀帶來沖擊。AI換臉“ZAO”一夜爆火，在成為現(xiàn)象級APP的同時(shí)，也引發(fā)了公眾對數(shù)據(jù)隱私，肖像權(quán)的擔(dān)憂和思考。

再比如，全球首例無人駕駛車撞死人案，其原因是行人并未走人行橫道，無人駕駛車也就沒有剎車；此外，在沒有人工和技術(shù)介入的前提下，人工智能算法甚至可以產(chǎn)生無法識別少數(shù)裔的偏見。

所以，今天人們對“AI可信”有了更深層的拷問。

因?yàn)殡S著AI技術(shù)和應(yīng)用的成熟，如何將人類規(guī)范和道德價(jià)值觀嵌入AI系統(tǒng)中？能否和現(xiàn)實(shí)的規(guī)范和價(jià)值相一致、相兼容；AI的行為是否是可控的？大量AI產(chǎn)品應(yīng)用的落地，達(dá)到什么標(biāo)準(zhǔn)的應(yīng)用產(chǎn)品才是可靠的，安全的？隨著AI的自主性越高，這樣的拷問勢必會(huì)越來越多。面對真實(shí)場景，AI醫(yī)生給出的診療方案和疾病預(yù)測準(zhǔn)確嗎？AI分析師給的投資建議能采納嗎？

與IBM計(jì)算機(jī)準(zhǔn)確計(jì)算出登月軌道不同，今天AI更為復(fù)雜，特別以深度神經(jīng)元為代表的算法，先天就有不可解釋性。

“要正確的發(fā)展人工智能，就必須提出可信賴的人工智能。人工智能的未來在于信任，如果想要驅(qū)動(dòng)業(yè)務(wù)成功，人工智能就不能隱藏在“黑盒子”中”，IBM副總裁，大中華區(qū)首席技術(shù)官謝東說。

如何讓AI更加可信？

前不久，國家新一代人工智能治理專業(yè)委員會(huì)發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理等八條原則。該《治理原則》強(qiáng)調(diào)要確保人工智能安全可控可靠，推動(dòng)經(jīng)濟(jì)、社會(huì)及生態(tài)可持續(xù)發(fā)展，共建人類命運(yùn)共同體。2019年4月，歐盟委員會(huì)也正式發(fā)布了《可信人工智能的道德準(zhǔn)則》，宣布啟動(dòng)人工智能道德準(zhǔn)則試運(yùn)行。

從全球來看，在頂層設(shè)計(jì)上，可信AI已經(jīng)成為人工智能規(guī)模化發(fā)展的基礎(chǔ)。

IBM不僅秉持可信AI的價(jià)值觀，還在方法論和工具層面都取得了很大的進(jìn)展。IBM將可信人工智能的維度定義為科學(xué)和工程目標(biāo)，不僅概述實(shí)現(xiàn)這些目標(biāo)的各種方法論，還推出了各種工具以確定在整個(gè)人工智能應(yīng)用程序生命周期中集成它們。

IBM將企業(yè)級AI劃分為三個(gè)維度：先進(jìn)AI（Advance AI）、可擴(kuò)展AI（Scalable AI）和可信AI（Trusted AI）。簡單概括， 先進(jìn)的AI是讓AI更加強(qiáng)大；可擴(kuò)展性的AI是讓AI更廣泛應(yīng)用到行業(yè)中；可信AI，即確保AI的公平性、可解釋性、健壯性和透明性，是為了讓AI能夠被人們所信任，真正成為人類的助手和伙伴。

“IBM正在大力開展這方面的研究和實(shí)踐工作。讓AI更加可信透明，安全可用而可靠。針對可解釋性、公平性、透明性和健壯性，IBM還提供工具和技術(shù)來識別和減輕風(fēng)險(xiǎn)及違規(guī)行為，幫助理解與信任有關(guān)的人工智能模型的影響和挑戰(zhàn)，并幫助開發(fā)人員和數(shù)據(jù)科學(xué)家輕松構(gòu)建可信、安全和可解釋的人工智能系統(tǒng)”，謝東強(qiáng)調(diào)。

首先，IBM認(rèn)為一個(gè)可信任的AI系統(tǒng)，需要遵循幾個(gè)基礎(chǔ)原則：公平性（Fairness），比如AI系統(tǒng)應(yīng)該采用不帶偏見的數(shù)據(jù)集和模型，從而避免對于特定群體的不公平；可解釋性（Explainability），比如AI系統(tǒng)所提供的決策或建議不是一個(gè)不可解釋的黑箱，應(yīng)該能夠被用戶和開發(fā)者所分析、理解；健壯性（Robustness），比如AI系統(tǒng)應(yīng)該安全和可靠，不會(huì)被篡改，也不會(huì)受被“污染”的訓(xùn)練數(shù)據(jù)集影響；透明性（Transparency），比如AI系統(tǒng)可以被透明化管理，其開發(fā)、部署、維護(hù)等可被追蹤，能夠在生命周期范圍內(nèi)被審核等。

其次，IBM提供了工具和技術(shù)來識別和減輕風(fēng)險(xiǎn)和違規(guī)行為，幫助理解與信任有關(guān)的人工智能模型的影響和挑戰(zhàn)，并幫助開發(fā)人員和數(shù)據(jù)科學(xué)家構(gòu)建可信、安全和可解釋的人工智能系統(tǒng)。

AI fairness 360是一個(gè)全面的開放源碼工具集，包含度量和算法，用于檢查和減輕AI中不必要的偏見，幫助社區(qū)建立對AI的信任；

AI Explainability 360是2019年8月9日發(fā)布的一個(gè)開源的最先進(jìn)算法集合，它使用一系列技術(shù)來解釋AI模型決策；

在AI的健壯性/魯棒性方面，IBM研究院推出了Adversarial Robustness 360 Toolkit，這個(gè)工具包是IBM研究團(tuán)隊(duì)開源的用于檢測模型及對抗攻擊的工具箱，為開發(fā)人員加強(qiáng)AI模型被誤導(dǎo)的防御性，讓AI系統(tǒng)更加安全。

此外， IBM正在提高AI的透明度，并推出工具讓數(shù)據(jù)科學(xué)家以及企業(yè)高管尋找模型中的不足。AI OpenScale是IBM提高所謂的“黑箱方法”透明度的一部分，從而加速AI的規(guī)模化發(fā)展。

其中，在AI的可解釋性和可追蹤方面，AI OpenScale技術(shù)平臺(tái)，可以在各種AI應(yīng)用程序運(yùn)行時(shí)，檢測并解決其中的偏見問題；無論AI應(yīng)用程序在何種環(huán)境中構(gòu)建或運(yùn)行，AI OpenScale都可讓企業(yè)在人工智能的整個(gè)生命周期中實(shí)現(xiàn)透明化管理，記錄每項(xiàng)預(yù)測、每個(gè)模型版本、所有使用的訓(xùn)練數(shù)據(jù)及各種指標(biāo)，幫助企業(yè)遵守歐盟GDPR等法律法規(guī)。

結(jié)語

智能城市的“詩和遠(yuǎn)方”離不開可信AI的數(shù)字化基礎(chǔ)設(shè)施，IBM將塑造可信AI的價(jià)值觀與打造豐富可信AI工具“知行合一”，來保障城市和人們受益于AI。

來源：云智時(shí)代