來自墨爾本大學的研究人員設計了一種AI生物識別鏡，可以僅僅根據人的臉部照片檢測和顯示其個性特征和外貌上的魅力，最多可以分析14項性格特征，這一系統(tǒng)屬于世界首創(chuàng)。

該系統(tǒng)名為生物識別鏡（Biometric Mirror），可以檢測一個人對AI的理解以及對其獨有特征的相關信息的反應。

當有人站在生物識別鏡前時，系統(tǒng)會在幾秒鐘內檢測出一系列面部特征。然后將用戶的數據與數千張面部照片的數據進行比較，這些面部照片是對眾包志愿者進行心理評估測試時使用的。

生物識別鏡會顯示14種特征，包括性別、年齡、種族，以及魅力、性格古怪之處和情緒穩(wěn)定度等。一個人站在識別鏡前的時間越長，評估特征越趨于個性化。

生物識別鏡使用小型公開數據集中的數千張面部圖片及眾包分析的評估結果。

該項目由社會自然用戶界面中心（Social NUI）和墨爾本科學館的Niels Wouters博士領導，探討了該技術由內容、數據存儲和算法偏差所引起的擔憂。

“隨著人工智能和大數據的興起，政府和企業(yè)將越來越多地使用閉路電視攝像機（CCTV）和互動廣告來檢測過路人的情緒、年齡、性別和人口統(tǒng)計學特征。”Wouters說。

探索人工智能應用的道德邊界

“我們的研究關注關于人工智能應用界限的挑戰(zhàn)性問題。該研究向用戶表明，以不道德的、有問題的方法來利用人工智能是很容易的，也可能會產生某些負面的社會后果。我們鼓勵人們對隱私和大規(guī)模監(jiān)視的問題進行討論，希望這些討論有助于更好地理解人工智能背后的道德規(guī)范問題。”

生物識別鏡凸顯出了算法偏差可能造成的現實后果。

“雖然收集關于用戶購物偏好的個人信息，用來提供定制化的個人服務似乎是有益無害的，但未經用戶同意就獲取這些信息，讓人無法確定這些預測是不是基于正確的數據而做出的。”Wouters說。

“人工智能的應用范圍很容易超出了購物和廣告等領域。想象一下，無法控制的算法可能會錯誤地認為你不適合某個管理職位，沒有資格獲得大學學位，或未經你的同意公開分享你的照片。

“你要選擇一個指標，比如責任感水平，生物識別鏡會要求你想象，這些信息現在正在、與你的保險公司或未來的雇主分享，”Wouters博士說。 “這個項目透明化地呈現了這些信息對個人產生的潛在后果。”

Wouters博士說，重要的是，它是個生物識別鏡，而不是心理分析工具。

“生物識別鏡只計算公眾由用戶的外貌而做出的估計，”他說。“它的局限性在于準確性有限，因為在設計上只參考了相對較小且眾包的數據集。想要從生物識別鏡中得出關于心理狀態(tài)的有意義的結論是不合適的?！?/p>