關(guān)于 AI 和神經(jīng)網(wǎng)絡的 10個最容易被誤解的問題
來源：未來AI工具
1. 人工智能有可能墜入愛河嗎？
2. 人工智能能否開始造成傷害并最終統(tǒng)治世界？
3. 將您的聲音、外觀和文本轉(zhuǎn)語音風格上傳到 AI 中是否有風險？4. 將意識上傳到計算機：現(xiàn)實還是科幻小說？
5. 人工智能真的會奪走人們的工作嗎？
6. AI和藝術(shù)圖像：復制還是盜竊？
7. 我可以使用 GPT-4 代替谷歌搜索嗎？
8. 人工智能能有創(chuàng)造力嗎？
9. 人工智能真的能思考嗎？
10. 聊天GPT是如何制作的？和中途還是DALL-E？ 1. 人工智能有可能墜入愛河嗎？
神經(jīng)網(wǎng)絡是受人腦結(jié)構(gòu)啟發(fā)的數(shù)學模型。它們由處理信息的互連節(jié)點或“神經(jīng)元”組成。通過從數(shù)據(jù)中學習，他們可以執(zhí)行特定的任務，例如文本生成，圖像識別，甚至模擬類似人類的書寫風格。
AI能“愛”嗎？
愛的概念與意識、自我意識、同理心以及一系列其他復雜的情感和認知過程有著內(nèi)在的聯(lián)系。然而，神經(jīng)網(wǎng)絡不具備這些屬性。
例如，如果給定適當?shù)纳舷挛暮驼f明，可以訓練神經(jīng)網(wǎng)絡生成類似于情書的文本。如果提供愛情故事的第一章并要求以類似的方式繼續(xù)，該模型將遵守。但它這樣做是基于模式和統(tǒng)計可能性，而不是因為任何情感聯(lián)系或感情。
另一個需要考慮的關(guān)鍵方面是記憶。就其基本形式而言，神經(jīng)網(wǎng)絡缺乏在不同發(fā)射之間保留信息的能力。它們在沒有連續(xù)性或意識到過去交互的情況下運行，基本上在每次使用后恢復到“出廠設(shè)置”。
記憶和神經(jīng)網(wǎng)絡
雖然記憶可以被人為地添加到神經(jīng)網(wǎng)絡中，允許它引用過去的“記憶”或數(shù)據(jù)，但這并不能使模型充滿意識或情感。即使有記憶組件，神經(jīng)網(wǎng)絡的反應也是由數(shù)學算法和統(tǒng)計概率決定的，而不是個人經(jīng)驗或情感。
神經(jīng)網(wǎng)絡墜入愛河的概念是一個迷人但虛構(gòu)的想法。目前的人工智能模型，無論其復雜性和能力如何，都不具備體驗愛情等情感的能力。
在復雜模型中觀察到的文本生成和響應是數(shù)學計算和模式識別的結(jié)果，而不是真正的情感或情商。
2. 人工智能能否開始造成傷害并最終統(tǒng)治世界？
今天的神經(jīng)網(wǎng)絡在沒有完全證明的方法的情況下運行，以確保它們遵守特定的規(guī)則。例如，防止模型使用攻擊性語言是一項令人驚訝的挑戰(zhàn)性任務。盡管努力設(shè)置此類限制，但模型總會找到規(guī)避它們的方法。
神經(jīng)網(wǎng)絡的未來
隨著我們轉(zhuǎn)向更先進的神經(jīng)網(wǎng)絡，例如具有類似人類能力的假設(shè) GPT-10 模型，控制的挑戰(zhàn)變得更加緊迫。如果這些系統(tǒng)在沒有特定任務或限制的情況下自由發(fā)揮，它們的行為可能會變得不可預測。
關(guān)于這些事態(tài)發(fā)展導致負面情景的可能性的辯論差異很大，估計從0.01%到10%不等。雖然這些可能性似乎很低，但潛在的后果可能是災難性的，包括人類滅絕的可能性。
協(xié)調(diào)和控制方面的努力
像chatgpt和chatgpt-4這樣的產(chǎn)品是不斷努力使神經(jīng)網(wǎng)絡的意圖與人類目標保持一致的例子。這些模型旨在遵循說明，保持禮貌的互動，并提出澄清性問題。然而，這些控制遠非完美，管理這些網(wǎng)絡的問題甚至還沒有解決一半。
為神經(jīng)網(wǎng)絡創(chuàng)建萬無一失的控制機制的挑戰(zhàn)是當今人工智能領(lǐng)域最重要的研究領(lǐng)域之一。能否解決這個問題以及解決問題所需的方法的不確定性只會增加問題的緊迫性。
3. 將您的聲音、外觀和文本轉(zhuǎn)語音風格上傳到 AI 中是否有風險？
在數(shù)字技術(shù)快速發(fā)展的時代，人們對語音、外觀和文本樣式等個人信息安全性的擔憂日益增加。雖然數(shù)字身份盜竊的威脅是真實的，但了解背景和為應對這一挑戰(zhàn)而采取的措施至關(guān)重要。
數(shù)字身份和神經(jīng)網(wǎng)絡
在神經(jīng)網(wǎng)絡中，這不是上傳個人屬性的問題，而是訓練或重新訓練模型來模仿一個人的外觀、聲音或文本。這些經(jīng)過訓練的模型確實可以通過復制腳本和參數(shù)來竊取，允許它們在另一臺計算機上運行。
這項技術(shù)的潛在濫用是嚴重的，因為它已經(jīng)達到了深度偽造視頻和語音克隆算法可以令人信服地復制個人的水平。創(chuàng)建此類欺騙性內(nèi)容可能既昂貴又耗時，需要數(shù)千美元和數(shù)小時的錄制。然而，風險是有形的，并強調(diào)需要可靠的識別和確認方法。
確保身份安全的努力
目前正在采取各種舉措來解決數(shù)字身份盜竊問題。像WorldCoin這樣的初創(chuàng)公司，OpenAI的負責人Sam Altman投資了這些初創(chuàng)公司，正在探索創(chuàng)新的解決方案。世通的概念涉及為關(guān)于一個人的每條信息分配一個唯一的密鑰，以便隨后進行識別。這種方法也可以應用于大眾媒體，以驗證新聞的真實性。
盡管有這些有希望的發(fā)展，但在所有行業(yè)中實施此類系統(tǒng)是一項復雜而大規(guī)模的工作。目前，這些解決方案仍處于原型階段，在未來十年內(nèi)可能無法廣泛采用。
4. 將意識上傳到計算機：現(xiàn)實還是科幻小說？將人類意識轉(zhuǎn)移到計算機中的想法一直是科幻小說愛好者的一個迷人主題。但是，這是當前技術(shù)甚至未來進步可以實現(xiàn)的目標嗎？通過數(shù)字孿生生體永生的概念當然吸引了人們的想象力，但現(xiàn)實要復雜得多。
模仿但不復制
用現(xiàn)有技術(shù)，例如在GPT-4等模型中發(fā)現(xiàn)的技術(shù)，可以教神經(jīng)網(wǎng)絡模仿一個人的交流方式，學習個人笑話，甚至以獨特的風格和演示方式發(fā)明新的笑話。然而，這并不是轉(zhuǎn)移意識的同義詞。
意識的復雜性遠遠超出了溝通方式和個人怪癖。人類仍然缺乏對意識是什么、它被儲存在哪里、它如何區(qū)分個體以及究竟是什么讓一個人獨一無二的具體理解。
潛在的未來可能性
轉(zhuǎn)移意識的假設(shè)場景需要將意識定義為記憶，經(jīng)驗和感知的個體特征的組合。如果這樣的定義被接受，那么可能會有一條理論途徑，通過將這種知識轉(zhuǎn)移到神經(jīng)網(wǎng)絡中來模擬進一步的生命。
然而，這一理論只是推測性的，并不基于當前的科學理解或技術(shù)能力。意識問題是哲學、神經(jīng)科學和認知科學中最深刻和最難以捉摸的課題之一。它的復雜性遠遠超出了當前人工智能和神經(jīng)網(wǎng)絡技術(shù)的能力。
5. 人工智能真的會奪走人們的工作嗎？通過人工智能實現(xiàn)自動化可能會影響工作涉及日常執(zhí)行指令的職業(yè)。例子包括幫助申報的稅務助理顧問和臨床試驗數(shù)據(jù)經(jīng)理，他們的工作圍繞著填寫報告并將其與標準進行核對。這些角色的自動化潛力是顯而易見的，因為必要的信息很容易獲得，而且勞動力成本高于平均水平。另一方面，在可預見的未來，烹飪或公共汽車駕駛等職業(yè)仍然是安全的。將神經(jīng)網(wǎng)絡連接到現(xiàn)實世界的挑戰(zhàn)，結(jié)合現(xiàn)有的法律法規(guī)，使這些領(lǐng)域的自動化成為一項更加復雜的工作。變化和機遇
自動化并不一定意味著完全取代人類工人。它通常會導致日常任務的優(yōu)化，使人們能夠?qū)Ｗ⒂诟邉?chuàng)造力和吸引力的責任。
1. 新聞業(yè)：在新聞業(yè)等行業(yè)，神經(jīng)網(wǎng)絡可能很快就會用一組論文來協(xié)助起草文章，讓人類作家做出精確的調(diào)整。
2. 教育：也許最令人興奮的轉(zhuǎn)變在于教育。研究表明，個性化方法可以改善教育成果。借助人工智能，我們可以為每個學生設(shè)想個性化的助手，從而顯著提高教育質(zhì)量。教師的角色將朝著戰(zhàn)略規(guī)劃和控制的方向發(fā)展，重點是確定學習計劃、測試知識和指導整體學習。6. 人工智能和藝術(shù)圖像：復制還是盜竊？
人工智能通過研究各種形式的藝術(shù)，識別不同的風格并試圖模仿它們來學習。這個過程類似于人類學習，藝術(shù)學生觀察、分析和模仿不同藝術(shù)家的作品。
人工智能的運作原則是誤差最小化。如果模型在訓練過程中遇到類似的圖像數(shù)百次，它可能會記住該圖像作為其學習策略的一部分。這并不意味著網(wǎng)絡正在存儲圖像，而是以類似于人類記憶的方式識別它。
一個實際的例子
考慮一個藝術(shù)學生，他每天畫兩幅畫：一幅獨特，另一幅是蒙娜麗莎的復制品。反復繪制蒙娜麗莎后，學生將能夠以相當?shù)臏蚀_性再現(xiàn)它，但不完全正確。這種學習的再創(chuàng)作能力并不等同于盜竊原作。
神經(jīng)網(wǎng)絡以類似的方式運行。他們從訓練期間遇到的所有圖像中學習，有些圖像更常見，因此更準確地再現(xiàn)。這不僅包括名畫，還包括訓練樣本中的任何圖像。盡管有一些方法可以消除重復，但它們并非完美無缺，研究表明，某些圖像在訓練過程中可能會出現(xiàn)數(shù)百次。
7. 我可以使用 GPT-4 代替谷歌搜索嗎？
根據(jù)OpenAI的內(nèi)部估計，當前領(lǐng)先的模型GPT-4在大約70-80%的時間內(nèi)正確回答，具體取決于主題。雖然這似乎低于理想的 100% 精度，但它標志著基于 GPT-3.5 架構(gòu)的上一代模型有了顯著改進，后者的準確率為 40-50%。這種性能的顯著提高是在研究的 6-8 個月內(nèi)實現(xiàn)的。
背景很重要上述數(shù)字涉及在沒有具體背景或隨附信息的情況下提出的問題。當提供上下文時，例如維基百科頁面，模型的準確性接近 100%，并根據(jù)來源的正確性進行調(diào)整。上下文無關(guān)和上下文豐富的問題之間的區(qū)別至關(guān)重要。例如，關(guān)于愛因斯坦出生日期的問題沒有任何附帶信息，完全依賴于模型的內(nèi)部知識。但是對于特定的來源或上下文，模型可以提供更準確的響應。
谷歌搜索 GPT-4該領(lǐng)域的一個有趣的發(fā)展是將互聯(lián)網(wǎng)收集成到GPT-4中。這允許用戶將部分互聯(lián)網(wǎng)搜索委托給 GPT-4，從而可能減少手動 Google 信息的需求。但是，此功能需要付費訂閱。
展望未來OpenAI首席執(zhí)行官Sam Altman預計，模型中事實信息的可靠性將繼續(xù)提高，預計1.5-2年的時間表將進一步完善這一方面。8. 人工智能能有創(chuàng)造力嗎？
對一些人來說，創(chuàng)造力是與神俱來的一種能力，是所有人在不同程度上擁有的東西。其他人可能會爭辯說，創(chuàng)造力是一種習得的技能，或者它僅限于特定的職業(yè)或活動。即使在人類之間，創(chuàng)造能力也存在差異。因此，將人類創(chuàng)造力與神經(jīng)網(wǎng)絡的創(chuàng)造力進行比較需要仔細考慮創(chuàng)造力的真正含義。
神經(jīng)網(wǎng)絡與藝術(shù)性最近的發(fā)展使神經(jīng)網(wǎng)絡能夠創(chuàng)造藝術(shù)和詩歌。一些模特制作的作品可以進入業(yè)余比賽的決賽。但是，這并不一致;成功可能是零星的，也許是一百次嘗試中的一次。
辯論
上述信息引發(fā)了激烈的爭論。關(guān)于神經(jīng)網(wǎng)絡是否可以被認為是創(chuàng)造性的，意見分歧很大。一些人認為，創(chuàng)作一首詩或一幅畫的能力，即使只是偶爾成功，也構(gòu)成了一種創(chuàng)造力。其他人則堅信創(chuàng)造力完全是人類的特征，受情感，意圖和意識的約束。
創(chuàng)造力的主觀性進一步增加了討論的復雜性。即使在人與人之間，對創(chuàng)造力的理解和欣賞也可能大不相同。
實際意義除了哲學辯論之外，還有實際意義需要考慮。如果神經(jīng)網(wǎng)絡確實可以發(fā)揮創(chuàng)造力，那么這對依賴創(chuàng)造性產(chǎn)出的行業(yè)意味著什么？機器能否在某些領(lǐng)域增強甚至取代人類的創(chuàng)造力？這些問題不僅是理論上的，而且具有現(xiàn)實世界的意義。
9. 人工智能真的能思考嗎？為了探索神經(jīng)網(wǎng)絡是否可以思考，我們首先需要了解什么是思想。例如，如果我們將理解如何使用鑰匙打開門的過程視為一個思維過程，那么有些人可能會爭辯說神經(jīng)網(wǎng)絡能夠進行類似的推理。它們可以關(guān)聯(lián)狀態(tài)和期望的結(jié)果。其他人可能會對此提出質(zhì)疑，指出神經(jīng)網(wǎng)絡依賴于反復接觸數(shù)據(jù)，就像人類通過反復觀察學習一樣。創(chuàng)新與共同思考
在考慮創(chuàng)新思想或不常表達的想法時，辯論變得更加復雜。神經(jīng)網(wǎng)絡可能會在一百萬次嘗試中產(chǎn)生一個新想法，但這算得上是思想嗎？這與隨機生成有何不同？如果人類偶爾也會產(chǎn)生錯誤或無效的想法，那么人類和機器思維的界限在哪里？概率和想法生成
概率的概念增加了另一層復雜性。神經(jīng)網(wǎng)絡可以產(chǎn)生數(shù)百萬種不同的響應，其中可能有一些創(chuàng)新或有意義的響應。一定比例的有意義和無意義的想法是否驗證了思考的能力？
對 AI 的不斷發(fā)展的理解
從歷史上看，隨著機器被開發(fā)出來來解決復雜的問題，例如通過圖靈測試，定義智能的目標已經(jīng)發(fā)生了變化。80年前曾經(jīng)被認為是奇跡的東西現(xiàn)在是通用技術(shù)，構(gòu)成人工智能的定義也在不斷發(fā)展。
10. 聊天GPT是如何制作的？和中途還是DALL-E？神經(jīng)網(wǎng)絡是一個起源于20世紀中葉的想法，已經(jīng)成為ChatGPT和DALL-E等模型功能的核心。盡管按照今天的標準，早期的想法似乎很簡化，但它們?yōu)槔斫馊绾瓮ㄟ^數(shù)學模型復制生物大腦的運作奠定了基礎(chǔ)。以下是對這些神經(jīng)網(wǎng)絡的原理的探索。1. 來自大自然的靈感：
術(shù)語“神經(jīng)網(wǎng)絡”本身的靈感來自生物神經(jīng)元，生物神經(jīng)元是大腦的核心功能單位。這些人工結(jié)構(gòu)包括節(jié)點或人工神經(jīng)元，模仿自然大腦功能的許多方面。這種與生物學的聯(lián)系為現(xiàn)代建筑的創(chuàng)造提供了寶貴的見解。2. 數(shù)學作為工具：
神經(jīng)網(wǎng)絡是數(shù)學模型，使我們能夠利用數(shù)學技術(shù)的豐富資源來分析和評估這些模型。一個簡單的例子是將一個數(shù)字作為輸入并向其加 4 的函數(shù)，例如 f（6） = 。雖然這是一個基本功能，但神經(jīng)網(wǎng)絡可以表示更復雜的關(guān)系。3. 處理模棱兩可的任務：
在處理輸入和輸出之間的關(guān)系不容易描述的任務時，傳統(tǒng)編程是不夠的。以對貓和狗的圖片進行分類為例。盡管它們有相似之處，但人類可以很容易地區(qū)分它們，但用算法表達這種區(qū)別是復雜的。4. 訓練和從數(shù)據(jù)中學習：
神經(jīng)網(wǎng)絡的優(yōu)勢在于它們從數(shù)據(jù)中學習的能力。給定兩組圖像（例如，貓和狗），模型通過訓練自己尋找聯(lián)系來學習區(qū)分它們。通過反復試驗，并調(diào)整其人工神經(jīng)元，它提高了正確分類的能力。5. 大型模型的力量：
從理論上講，具有足夠標記數(shù)據(jù)的足夠大的神經(jīng)網(wǎng)絡可以學習任何復雜的函數(shù)。但是，挑戰(zhàn)在于所需的計算能力和正確分類數(shù)據(jù)的可用性。這種復雜性使得像ChatGPT這樣的大型模型幾乎不可能完全分析。6. 專業(yè)培訓：
例如，ChatGPT 針對兩項特定任務進行了訓練：在上下文中預測下一個單詞，并確保非攻擊性但有用且易于理解的答案。這些精確的培訓目標促成了它的普及和廣泛使用。
7. 理解的持續(xù)挑戰(zhàn)：
盡管取得了這些進展，但充分了解大型復雜模型的內(nèi)部工作原理仍然是一個活躍的領(lǐng)域研究。揭開其復雜過程的神秘面紗的追求繼續(xù)占據(jù)著該領(lǐng)域一些最優(yōu)秀的研究人員。
常見問題你能為你的曾孫保存你的數(shù)字副本嗎？盡管自己的“數(shù)字副本”的想法在很大程度上仍然是推測性的，但現(xiàn)代技術(shù)使我們能夠捕獲和存檔我們數(shù)字足跡的許多元素，例如照片、視頻和文字。為什么不能100%信任人工智能？神經(jīng)網(wǎng)絡從他們訓練的環(huán)境中學習，并且這些數(shù)據(jù)可能包含偏差或不準確之處。專家強調(diào)使用高質(zhì)量數(shù)據(jù)和持續(xù)監(jiān)控的重要性，以確保網(wǎng)絡的預測盡可能準確。世界有機器起義的危險嗎？與流行文學和電影敘事相反，人類定義的規(guī)則和算法控制著當前的人工智能系統(tǒng)如何運作。目前的技術(shù)水平禁止“機器起義”，因為機器缺乏自主意志或欲望。人工智能和神經(jīng)網(wǎng)絡有什么區(qū)別？被稱為神經(jīng)網(wǎng)絡的人工智能子集通過類似于人腦的網(wǎng)絡神經(jīng)元結(jié)構(gòu)來處理信息。更廣泛地說，人工智能是指能夠執(zhí)行通常需要人類智能的操作的硬件或軟件。人工智能如何“學習”？神經(jīng)網(wǎng)絡通過稱為訓練的過程進行學習，在訓練過程中，它們被輸入大量數(shù)據(jù)并調(diào)整其內(nèi)部參數(shù)以最小化其預測中的誤差。此迭代過程由數(shù)學優(yōu)化技術(shù)指導。是否有可能完全理解人工智能如何做出決策？神經(jīng)網(wǎng)絡，特別是深度學習模型，由于其復雜性，通常被稱為”黑匣子“雖然有一些方法可以解釋某些決策，但跟蹤神經(jīng)網(wǎng)絡決策過程的各個方面可能具有挑戰(zhàn)性。人工智能有偏見嗎？神經(jīng)網(wǎng)絡本身并不是固有的偏差，但它們可以反映訓練數(shù)據(jù)中存在的偏差。它強調(diào)了負責任的數(shù)據(jù)收集和處理的重要性。
人工智能能有創(chuàng)造力嗎？
一些神經(jīng)網(wǎng)絡已被設(shè)計用于生成藝術(shù)、音樂甚至寫作。雖然這些創(chuàng)作可能新穎而有趣，但它們是否構(gòu)成“創(chuàng)造力”仍然是一個哲學爭論的主題。人工智能容易受到攻擊嗎？
是的，像對抗性示例這樣的特定攻擊，其中對輸入數(shù)據(jù)的微小更改可能導致不正確的輸出，可能會使神經(jīng)網(wǎng)絡容易受到攻擊。為了開發(fā)針對此類漏洞的防御措施，專家們一直在努力。圍繞人工智能的道德考慮是什么？
神經(jīng)網(wǎng)絡中的倫理考慮包括與偏見、透明度、隱私和問責制相關(guān)的問題。適當?shù)闹笇Х结槨⒎ㄒ?guī)和監(jiān)督對于解決這些問題至關(guān)重要。END
歡迎加入Imagination GPU與人工智能交流2群
（添加請備注公司名和職稱）
推薦閱讀 對話Imagination中國區(qū)董事長：以GPU為支點加強軟硬件協(xié)同，助力數(shù)2023全球電子成就獎評選活動開啟，快來為Imagination投票！
Imagination Technologies是一家總部位于英國的公司，致力于研發(fā)芯片和軟件知識產(chǎn)權(quán)（IP），基于Imagination IP的產(chǎn)品已在全球數(shù)十億人的電話、汽車、家庭和工作 場所中使用。獲取更多物聯(lián)網(wǎng)、智能穿戴、通信、汽車電子、圖形圖像開發(fā)等前沿技術(shù)信息，歡迎關(guān)注 Imagination Tech！
原文標題：關(guān)于 AI 和神經(jīng)網(wǎng)絡的 10個最容易被誤解的問題
文章出處：【微信公眾號：Imagination Tech】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。
-
imagination
+關(guān)注
關(guān)注
1文章
597瀏覽量
62015
原文標題：關(guān)于 AI 和神經(jīng)網(wǎng)絡的 10個最容易被誤解的問題
文章出處：【微信號：Imgtec，微信公眾號：Imagination Tech】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
工商網(wǎng)監(jiān)
評論