據(jù)外媒TheNextWeb報(bào)道,麻省理工學(xué)院媒體實(shí)驗(yàn)室的瘋狂科學(xué)家團(tuán)隊(duì)創(chuàng)造了一個AI版本的“變態(tài)兇手”。Norman是一個故意存在偏見的神經(jīng)網(wǎng)絡(luò),用于標(biāo)記圖像。Norman 這個名字來源于阿爾弗雷德·希區(qū)柯克的著名電影《驚魂記》中的角色 Norman Bates.
麻省理工學(xué)院的研究人員并沒有給AI提供以最純粹的意圖獲得的健康數(shù)據(jù),而是“將它暴露在Reddit最黑暗的角落”,它在那里形成了一個可怕的世界觀:
我們從一個臭名昭著的subreddit(這個名字是由于它的圖形內(nèi)容進(jìn)行編輯)訓(xùn)練Norman關(guān)于圖像標(biāo)題,專門用于記錄和觀察令人不安的死亡現(xiàn)實(shí)。
研究人員為它提供了一系列Rorshact測試圖像,并將其答案與在更傳統(tǒng)數(shù)據(jù)上訓(xùn)練的不同神經(jīng)網(wǎng)絡(luò)的答案進(jìn)行了比較。
大多數(shù)人員設(shè)計(jì)機(jī)器學(xué)習(xí)產(chǎn)品以改善生活或簡化業(yè)務(wù)。但麻省理工學(xué)院媒體實(shí)驗(yàn)室經(jīng)常揭示令人不安的神經(jīng)網(wǎng)絡(luò),可怕的人機(jī)合作,以及其他令人毛骨悚然的AI動力創(chuàng)作。以前的作品包括2016年的Nightmare Machine——一個能夠利用人工智能編出短而恐怖故事的機(jī)器人,以及2017年同樣能創(chuàng)作恐怖故事的AI機(jī)器人Shelly.
研究人員表示, Norman的重點(diǎn)在于顯示當(dāng)開發(fā)人員構(gòu)建人工智能時,有偏差的數(shù)據(jù)會產(chǎn)生差異。
創(chuàng)造者指出:“當(dāng)人們談?wù)撊斯ぶ悄?a target="_blank">算法存在偏見和不公平時,罪魁禍?zhǔn)淄ǔ2皇撬惴ū旧恚侨祟惞┙o它的有偏見的數(shù)據(jù)。”
-
AI
+關(guān)注
關(guān)注
87文章
34294瀏覽量
275480 -
MIT
+關(guān)注
關(guān)注
3文章
254瀏覽量
24234
原文標(biāo)題:GGAI 前沿 | MIT研究人員根據(jù)希區(qū)柯克驚悚片制作了一個“心理變態(tài)”AI
文章出處:【微信號:ggservicerobot,微信公眾號:高工智能未來】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
在IDE中運(yùn)行固件內(nèi)自帶的AI程序,約2分鐘左右就死機(jī)了,為什么?
得一微定義“AI存力芯片”,讓每比特?cái)?shù)據(jù)創(chuàng)造更多智能
【「零基礎(chǔ)開發(fā)AI Agent」閱讀體驗(yàn)】+讀《零基礎(chǔ)開發(fā)AI Agent》掌握扣子平臺開發(fā)智能體方法
得一微:AI存力芯片,重構(gòu)計(jì)算范式

90元打造小智AI腕表,語音交互超有趣!
廣和通亮相阿里云AI創(chuàng)造力大展
邀您直擊阿里云AI勢能大會,啟明云端與您一同展望

樹莓派愛好者必看!5 個獲獎的樹莓派 AI 創(chuàng)意項(xiàng)目,點(diǎn)燃你的創(chuàng)造力!

能和Ai-M61模組對話了?手搓一個ChatGPT 語音助手

評論