近期,“AI幻覺”引發廣泛關注。這一現象指大模型在生成信息時可能基于統計規律“虛構”不準確內容,例如在回答“周邊咖啡館分布”時編造不存在的地點及營業信息。
這種“幻覺”在需要精準決策的城市治理場景中需要被重點關注。
一方面因為模型訓練大多使用的是公開數據,但政府的核心數據并未公開,所以導致大模型在面對城市治問題時更容易產生虛構的情況。
另一方面,城市治理是在現實物理場景中進行的,不能只依靠“紙上談兵”式的理論推導,更需要了解現實世界的運行邏輯。
比如暴雨天問AI“怎么防內澇”,它也許可以給出一個看起來面面俱到的教科書般的答案,但卻會忽略某條路正在修地鐵、某個社區老人占比80%等動態環境要素,導致決策建議偏離真實需求。
維智科技認為,化解AI幻覺需突破通用模型的技術邊界,通過構建垂直領域知識圖譜與場景化模型調優實現認知升級。
- 全域知識融合:在DeepSeek這類通用大模型的底層架構中融合專業的知識庫,從源頭上解決“虛構”的問題。
比如集成實時物聯感知數據(交通流量、管網負荷)、專題政務庫(城市規劃白皮書、社區人口檔案)、社會化動態信息(人口遷徙熱力、企業注冊變更)
- 業務鏈微調機制:基于不同業務場景對模型進行微調,例如在防汛響應場景中,模型會強化施工路段承壓分析、特殊人群疏散優先級等決策因子權重。
維智科技的時空大模型以地理位置坐標為索引,實現人、地、物、事、策的多維關聯與動態推演,讓大模型更理解真實城市。
未來,維智科技也會持續探索解決AI幻覺的方法,例如采取多個模型交叉驗證、增加提示詞限制和提供輸出參考等方式,讓垂直領域的AI大模型為城市治理深度賦能。
-
AI
+關注
關注
88文章
35136瀏覽量
279729 -
維智科技
+關注
關注
0文章
35瀏覽量
1319 -
大模型
+關注
關注
2文章
3141瀏覽量
4065
原文標題:破解AI幻覺:時空大模型助力城市治理智能化轉型
文章出處:【微信號:gh_3f7c7c3e4ee1,微信公眾號:WAYZ維智】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
評論