吉林大學校長、中國科學院院士、期刊主編張希教授曾為中國化學會刊物CCS Chemistry 2024年第9期撰寫了一篇關于人工智能（AI）在科學研究中應用的社論，現節選相關部分，希望與青年教師和學生分享，供大家學習和交流。

原文（節選）如下：

“ 面對人工智能，我們必須秉持批判性態度。深入思考其輸出內容的內涵，探究分析所基于的數據集，以及評估輸出結果的質量。” 2016年諾貝爾化學獎得主Ben L. Feringa 的這番話，如警鐘長鳴，時刻提醒著我們在科技浪潮中保持理性。

在當今時代，生成式人工智能（AI）和大語言模型（LLM）已如潮水般涌入我們生活的每一個角落。從日常接觸的圖像生成、醫療診斷輔助，到天氣預報的精準預測；從職場中的績效評估，到交通出行的智能調度，乃至處于前沿的科學研究領域，人工智能的身影無處不在，展現出無可比擬的巨大影響力。

以化學領域為例，人工智能的介入帶來了變革。在有機合成中，它能夠快速且精準地優化合成路線，大大提高了實驗效率；計算化學里，借助人工智能強大的運算能力，計算變得更加迅速、結果也更加精確；材料科學方面，人工智能可以從海量數據中篩選并生成潛在的候選材料；催化領域，它為先進催化劑的合理制備提供了全新的思路和方法。然而，盡管部分研究人員已經將人工智能融入日常工作，但仍有許多人在摸索如何更高效、更有建設性地運用這一技術，使其更好地服務于科研和學術交流。

大語言模型作為人工智能的重要分支，屬于典型的 “黑箱” 系統。它通過對海量語音和文本數據的深度學習，實現對語言的理解與處理。經過復雜的數據處理、組織、重構和分析流程，大語言模型能夠生成新的文本內容。但不容忽視的是，像ChatGPT（OpenAI開發）、文心一言（百度開發）這類廣為人知的大語言模型，其輸出質量在很大程度上受制于訓練數據的類型、質量和覆蓋范圍。這就導致在實際應用中，尤其是涉及科學領域時，模型的分析結果往往受到訓練過程中語言和邏輯輸入的局限。在日常通信場景下，大語言模型或許能憑借豐富的數據儲備給出較為合理的回應，但一旦面對科學研究中那些復雜、微妙的概念、成果解讀，其數據的局限性便會暴露無遺，不僅相關信息匱乏，甚至可能因關鍵信息缺失而產生誤導性結論和錯誤輸出。正如ChatGPT自己所承認的：“人工智能系統的性能優劣，完全取決于其訓練數據的質量。”

基于上述情況，雖然人工智能和大語言模型在日常生活和諸多領域展現出巨大的應用潛力，但在科學手稿的全面評審工作中，依賴它們是極不明智的選擇。作為編輯，我們在工作中曾收到過內容空洞、缺乏深度的手稿評審意見，種種跡象表明，這些意見很可能是由大語言模型生成的。在此，我們鄭重呼吁廣大讀者和科研工作者，當受邀參與并同意對手稿進行同行評審時，務必堅守專業底線，切勿依賴大語言模型完成評審工作。

事實上，包括中國化學會（CCS）在內的眾多學術出版機構，都明確禁止使用人工智能進行手稿評審。其中最關鍵的原因在于，將未發表的手稿內容上傳至大語言模型，嚴重違反了學術保密原則。一旦手稿信息被上傳，大語言模型便有可能將這些尚未公開的內容泄露給公眾。這意味著原本應由評審人嚴格保密的手稿內容，被第三方獲取，從而極大地損害了手稿作者的權益，破壞了學術研究的嚴謹性和保密性。單從這一原則層面來看，利用大語言模型撰寫評審意見無疑是對學術規范的公然踐踏。

即便上述理由還不足以讓您對使用大語言模型加速手稿（或提案）評審的行為保持高度警惕，那么大語言模型自身存在的局限性也應當引起您的足夠重視。ChatGPT曾明確指出：“雖然人工智能在處理和分析大量數據方面具有顯著優勢，但在科學研究論文的評審工作中完全依賴它，會帶來一系列風險。人工智能缺乏人類評審員所具備的對科學背景、研究方法以及創新理念的深刻理解和敏銳洞察力，難以準確評估研究的原創性和理論貢獻，常常會忽略那些對論文質量和學術價值起著關鍵作用的微妙之處。此外，人工智能系統受限于訓練數據的范圍和質量，可能會不自覺地延續數據中的偏差，甚至對那些不符合傳統模式的創新研究方法視而不見。而人類評審員憑借豐富的經驗和批判性思維，能夠從技術和理論等多個層面，對研究進行全面、深入、嚴格的評估，這對于維護科學知識的準確性、完整性以及推動科學進步至關重要。因此，人工智能在科學研究領域，尤其是同行評審過程中，只能作為輔助工具，絕不能取代人類的專業判斷。”

顯而易見，至少在目前階段，ChatGPT等大語言模型還遠遠無法達到科學同行評審所要求的專業標準。科研工作者們彼此是學術道路上的同行伙伴，我們應當以尊重和嚴謹的態度對待每一份來自同事的手稿。嚴格遵守保密原則，投入足夠的時間和精力進行評審，給予他人的研究成果以我們期望自己作品能得到的認真對待。此外，作為評審人，我們憑借長期積累的豐富經驗所形成的獨特視角，能夠為所評審的手稿提供極具價值的見解和建議。這些建設性的意見不僅有助于提升手稿的質量，更能從整體上推動科學研究事業的發展。

雖然大語言模型不適合直接用于手稿評審，但對于那些在英語表達上存在困難的科研人員來說，它卻可以在翻譯和語言潤色方面發揮積極作用。如今，利用大語言模型進行翻譯、語法檢查、拼寫糾正以及表達優化，已經成為一種常見的應用方式。對于那些在英語寫作中感到吃力的科研工作者而言，大語言模型為他們打開了一扇與國際學術界更順暢交流的大門。若您撰寫評審意見時想借助大語言模型檢查英語表達，建議先上傳自己的內容（無論多不完善），但務必排除能明確作者身份的信息，如姓名、所屬機構等，同時也要避免過多透露手稿中的關鍵科學細節。在大語言模型生成潤色結果后，一定要仔細核對，確保輸出內容與您的原始意圖一致。此外，還需特別注意的是，您應當向編輯明確說明在評審過程中使用了大語言模型進行翻譯或潤色，并注明所使用的具體模型名稱。一般而言，無論是評審人還是作者，只要在寫作或英語潤色過程中使用了大語言模型，都有責任和義務清晰地披露使用的時間、場景以及具體的模型，因為這些生成的文本并非出自本人之手，而是大語言模型的產物。

毋庸置疑，人工智能正在深刻地改變著科學研究的方式以及科研成果的傳播途徑。在運用人工智能技術，無論是用于預測化學結構，還是進行語言潤色時，我們都應時刻牢記本·費林加教授的提醒，始終保持“批判性態度”。科研工作者不能僅僅滿足于輸入數據，便盲目期待正確的輸出結果，而是要切實承擔起仔細評估人工智能（包括大語言模型）生成信息質量和有效性的責任，這一點對于科研工作的準確性和可靠性至關重要。與此同時，科研工作者還應養成在文本、圖像以及整個研究過程中，明確說明使用人工智能情況的良好習慣，因為這些成果中融入了大語言模型的“智慧”，只有清晰標注，才能保證學術的嚴謹性和規范性。

隨著秋季的臨近，世界各地許多大學即將迎來新學年。我們在此向所有幫助下一代化學家探索化學領域和研究空間的教授、教師和導師們致以誠摯的感謝。化學及化學科學領域正經歷著諸多變革，尤其是近年來人工智能的迅速崛起，這使得學生們扎實掌握化學過程的基礎知識變得愈發重要。只有憑借這樣的知識儲備，以及在學習實踐中培養出良好的科學直覺，他們才能更好地有效利用新興的基于人工智能的工具。正如有人所說：“大學科學家的首要任務是培養學生具備批判性思維。”考慮到科研成果交流的重要性，我們也希望教授、專業人員和學生們在準備和評審稿件時，都能花時間去了解并牢記在論文發表和評審過程中何時使用人工智能。

原文鏈接 https://doi.org/10.31635/ccschem.024.202400827ed1