據包括印度裔人士在內的研究人員稱，新的人工智能（AI）算法可以隨著在線社交媒體對話的發展而對其進行監視，這可能會導致將來發現在線巨魔的一種有效且自動化的方式。

要防止在線騷擾，需要快速檢測到令人反感的，騷擾的和負面的社交媒體帖子，進而需要監視在線互動。

當前獲取此類社交媒體數據的方法要么完全自動化，而且無法解釋，要么依賴一組靜態的關鍵字，而這些關鍵字很快就會過時。

美國加州理工學院（Caltech）的Maya Srikanth認為，這兩種方法都不是很有效。

Srikanth說：“讓人類嘗試手工完成這項工作是不可擴展的，而這些人類可能有偏見。”

她說：“另一方面，關鍵字搜索受到在線對話發展速度的困擾。新術語的出現和舊術語的含義發生了變化，因此真誠地使用一天的關鍵字可能會在第二天被諷刺。”

包括來自加州理工學院的Anima Anandkumar在內的團隊使用了GloVe（全球單詞表示向量）模型，該模型使用機器學習算法來發現新的相關關鍵字。

機器學習是AI的一種應用，它使系統能夠自動學習并從經驗中進行改進，而無需進行明確的編程。

GloVe是一個詞嵌入模型，意味著它代表向量空間中的詞，其中兩個詞之間的“距離”是其語言或語義相似性的量度。

從一個關鍵字開始，此模型可用于查找與該單詞密切相關的其他關鍵字，以揭示實際使用的相關術語的群集。

例如，在Twitter上搜索對話中對“ MeToo”的使用，產生了一系列相關的標簽，例如“ SupportSurvivors”，“ ImWithHer”和“ NotSilent”。

這種方法為研究人員提供了動態且不斷發展的關鍵字集來進行搜索。

但是，僅僅知道某個對話是否與感興趣的話題有關還不夠。研究人員說，背景很重要。

為此，GloVe顯示了某些關鍵字的關聯程度，提供了有關其用法的輸入。

例如，在一個專門針對厭女癥的在線Reddit論壇中，“女性”一詞與“性”，“陰性”和“性交”密切相關。

在有關#MeToo運動的Twitter帖子中，“女性”一詞更可能與“公司”，“欲望”和“受害者”這兩個術語相關聯。

研究人員說，該項目是一個概念證明，旨在有朝一日為社交媒體平臺提供一種更強大的工具來發現在線騷擾。

Anandkumar說：“人工智能研究領域變得越來越具有包容性，但總有人抵制變革。”

她說：“希望我們現在正在開發的工具能夠在將來幫助應對各種騷擾。”

該研究于去年12月14日在加拿大溫哥華神經信息處理系統會議上的AI for Social Good研討會上進行了介紹。