利用知識圖譜與Llama-Index技術構建大模型驅動的RAG系統（上）

向量數據庫是一組高維向量的集合，用于表示實體或概念，例如單詞、短語或文檔。向量數據庫可以根據實體或概念的向量表示來度量它們之間的相似性或關聯性。

2024-02-22 標簽：數據庫大模型 1597 0

低比特量化技術如何幫助LLM提升性能

針對大語言模型 (LLM) 在部署過程中的性能需求，低比特量化技術一直是優化效果最佳的方案之一，本文將探討低比特量化技術如何幫助 LLM 提升性能，以及...

2023-12-08 標簽：輕量化技術大模型LLM 1594 0

對于大模型RAG技術的一些思考

大模型或者句向量在訓練時，使用的語料都是較為通用的語料。這導致了這些模型，對于垂直領域的知識識別是有缺陷的。它們沒有辦法理解企業內部的一些專用術語，縮寫...

2023-12-07 標簽：向量檢索大模型 1564 0

Intel跑步進入AI PC時代！13代酷睿支持160億參數大模型、Arc顯卡提速54％

生成式AI(AIGC)無疑是當下最熱門的話題和應用，各家軟硬件廠商都在全力投入。 作為擁有強大硬件、廣泛生態的行業領袖，Intel也正在大力推動PC A...

2023-08-21 標簽：intelAI大模型 1562 0

如何快速下載OpenVINO Notebooks中的AI大模型

OpenVINO Notebooks是Jupyter Notebook形式的OpenVINO范例程序大集合，方便開發者快速學習并掌握OpenVINO推理...

2023-12-12 標簽：Linux大模型OpenVINO 1559 0

大模型應用：激發芯片設計新紀元

2023 年，生成式 AI 如同當紅炸子雞，吸引著全球的目光。當前，圍繞這一領域的競爭愈發白熱化，全球陷入百模大戰，并朝著千模大戰奮進。在這場潮流中，A...

2023-08-15 標簽：芯片AIchiplet 1549 0

基于大模型的遙感圖像變化檢測新網絡

高分辨率遙感圖像已經成為復雜變化檢測的有力工具。然而，在復雜場景中執行穩健的變化檢測仍然是一個艱巨的挑戰。變化檢測聚焦“非語義變化”中的“有效變化”，即...

2024-01-12 標簽：SAM遙感圖像深度學習 1547 0

基于AI框架的智能工廠設計

在當今的智能制造業中，智能化和數字化的發展已經成為制造業的主要趨勢。隨著人工智能（AI）技術的不斷發展和進步，智能制造的智慧工廠已經成為制造業的一個重要...

2024-01-26 標簽：物聯網AI智能制造 1544 0

大模型Reward Model的trick應用技巧

借助對比學習和元學習的方法。增加對比學習的loss，對比學習通過增強模型區分能力，來增強RM的對好壞的區分水平。元學習則使獎勵模型能夠維持區分分布外樣本...

2024-01-25 標簽：二極管大模型 1529 0

端到端InfiniBand網絡解決LLM訓練瓶頸

ChatGPT對技術的影響引發了對人工智能未來的預測，尤其是多模態技術的關注。OpenAI推出了具有突破性的多模態模型GPT-4，使各個領域取得了顯著的...

2024-10-23 標簽：InfiniBandChatGPT大模型 1520 0

基于AX650N芯片部署MiniCPM-V 2.0高效端側多模態大模型

今年4月份，面壁智能&清華大學自然語言處理實驗室推出MiniCPM系列的最新多模態版本MiniCPM-V 2.0。該模型基于MiniCPM 2....

2024-07-15 標簽：自然語言處理愛芯元智大模型 1487 0

大模型壓縮首篇綜述來啦

模型壓縮涉及將大型資源密集型模型轉化為適合在受限移動設備上存儲的緊湊版本。此外，它還可以優化模型以實現更快的執行速度和最小的延遲，或在這些目標之間取得平衡。

2023-09-26 標簽：模型數據集nlp 1486 0

多任務微調框架MFTCoder詳細技術解讀

MFTCoder具備高效訓練特征，包括提供高效的數據Tokenization模式和支持PEFT微調，能有效提升微調訓練速度并降低對資源的需求。

2023-11-17 標簽：函數pythonGPT 1480 0

1-2B參數規模大模型的使用心得

大模型時代，根據大模型縮放定律，大家通常都在追求模型的參數規模更大、訓練的數據更多，從而使得大模型涌現出更多的智能。但是，模型參數越大部署壓力就越大。即...

2023-12-28 標簽：手機gpu參數 1474 0

專補大模型短板的RAG有哪些新進展？這篇綜述講明白了

然而，盡管它們的能力令人印象深刻，但它們并非無懈可擊。這些模型可能會產生誤導性的 “幻覺”，依賴的信息可能過時，處理特定知識時效率不高，缺乏專業領域的深...

2024-01-17 標簽：人工智能語言模型大模型 1471 0

大模型微調開源項目全流程

對于所有“基座”（Base）模型，–template 參數可以是 default, alpaca, vicuna 等任意值。但“對話”（Chat）模型請...

2024-03-13 標簽：機器學習大模型 1459 0

OneLLM：對齊所有模態的框架！

OneLLM 是第一個在單個模型中集成八種不同模態的MLLM。通過統一的框架和漸進式多模態對齊pipelines，可以很容易地擴展OneLLM以包含更多...

2024-01-04 標簽：編碼器路由器大模型 1457 0

中科大提出：LLMs的個性化綜述，詳述大模型與個性化的挑戰與機遇

因此，我們認為現在是時候審視個性化服務的挑戰以及用大型語言模型來解決它們的機會了。特別是，我們在這篇展望性論文中專門討論了以下幾個方面：現有個性化系統的...

2023-08-21 標簽：人工智能語言模型大模型 1439 0

澎峰科技高性能大模型推理引擎PerfXLM解析

自ChatGPT問世以來，大模型遍地開花，承載大模型應用的高性能推理框架也不斷推出，大有百家爭鳴之勢。在這種情況下，澎峰科技作為全球領先的智能計算服務提...

2024-09-29 標簽：澎峰科技大模型 1429 0