谷歌宣布推出免費AI工具軟件，輔助人類鑒黃師對兒童***待內(nèi)容（CSAM）的圖像進行分類和鑒別。過去的類似工具往往只能阻止已經(jīng)標記的不良內(nèi)容的傳播，而谷歌本次推出的AI軟件可以自己對圖像材料進行標記，經(jīng)人類工作人員實地測試，鑒黃效率提升了700%。

對于大型互聯(lián)網(wǎng)企業(yè)來說，及時阻止兒童***待內(nèi)容（CSAM）的傳播是屬于第一優(yōu)先級的任務。但對于一線工作人員來說，這項工作是異常艱巨而困難的，必須要靠人類來識別并刪除這些不良內(nèi)容。

不過今后，這些工作人員可能會稍微松一口氣，谷歌今天發(fā)布了旨在幫助識別這類內(nèi)容的免費AI軟件。

在這一領域，大多數(shù)技術解決方案都是通過根據(jù)以前識別出的不良內(nèi)容目錄，來檢測現(xiàn)有的圖像和視頻。（比如由微軟開發(fā)的PhotoDNA圖像識別工具，現(xiàn)在Facebook和Twitter等都在使用。）這類軟件可以有效阻止人們共享之前已標記的兒童***待內(nèi)容，但無法捕獲未標記的非法內(nèi)容。人類必須介入并親自對內(nèi)容進行審查。

谷歌AI工具自行對材料進行標記，鑒黃效率提升700%

這正是谷歌本次推出的AI軟件大顯身手的地方。它能利用機器視覺方面的專業(yè)知識，對標記的圖像和視頻進行排序，并“優(yōu)先推送最可能的兒童***待內(nèi)容以供審查”，從而協(xié)助人類工作人員。這應該會使審查速度變得更快。

谷歌表示，在一項試驗中，在這款AI工具的幫助下，審查員“在相同時間內(nèi)對兒童***待內(nèi)容的操作量提高了700％以上。”

互聯(lián)網(wǎng)觀察基金會（IWF）副首席執(zhí)行官Fred Langford表示，該軟件將“有助于我們這樣的團隊更有效地調(diào)配有限的資源。目前，我們只使用純?nèi)肆磉M行內(nèi)容審核，然后判斷能不能通過。這款AI工具將有助于我們對審核內(nèi)容進行分類。”

互聯(lián)網(wǎng)觀察基金會（IWF）副首席執(zhí)行官Fred Langford

IWF位于英國，是致力于阻止兒童***待內(nèi)容在線傳播的最大組織之一，由谷歌等大型國際科技公司提供資金。

距離完全自動化鑒黃可能僅需一兩年

IWF聘請內(nèi)容鑒別團隊來識別這些不良內(nèi)容的圖像，并在十幾個國家提供舉報渠道，以便互聯(lián)網(wǎng)用戶報告可疑內(nèi)容。該機構自己也會開展調(diào)查行動，鎖定會共享兒童***待內(nèi)容的網(wǎng)站，并與執(zhí)法機構合作來關閉這些網(wǎng)站。

Langford表示，由于現(xiàn)在對AI存有一些“異想天開的觀點”，IWF將對谷歌的AI工具進行全面測試，以了解其表現(xiàn)如何，如何將其融入人類審查人員的工作流程中。

他還表示，這類工具是向邁向全自動內(nèi)容審核系統(tǒng)的第一步，可以識別以前很難識別的材料，無需人為干預。“這種分類器在我們這個領域的地位有點像“圣杯”一樣”

不過他還說，應該只在范圍明確的案件中信任這類工具，以避免讓不良內(nèi)容漏網(wǎng)。“幾年前我認為這種分類器的誕生可能還要等五六年，但現(xiàn)在我認為，在某些情況下，我們距離完全自動化識別工具的誕生可能只有一到兩年的時間了。”