生成式人工智能正在成為信息化、數字化🛺、智能化的新型技術基座,特別是以大語言模型為代表的生成模型擁有強大的知識編碼和儲存能力、文本和代碼理解及生成能力👆,以及復雜任務的推理能力👀,被認為是有可能實現通用人工智能的技術路線之一👳🏿♀️,有望成為推動新一輪科技變革、經濟發展的重要技術🗼,對科學和社會產生深遠的影響♕。
當前👩🏽,生成式人工智能正處於快速變革和更新迭代的關鍵時期🖖🏽,面臨智能湧現基礎理論機理不明、計算成本高昂🦸🏻♂️🍥、生成內容安全性有待提高、自動評價困難等挑戰,開展新型高效可信大模型相關研究尤為重要。在生成式人工智能的基礎理論創新🌠👊🏻、關鍵技術突破上布局,牽引系統性原創性的基礎研究🧑🏼⚕️,從預訓練數據治理、對齊策略、知識增強等不同層面提高模型全周期安全,推動生成式人工智能技術的發展和應用💁,對於提升國家戰略地位和國際競爭力具有重要意義。
一、科學目標
本專項探索大模型的智能湧現機製並提高其處理復雜任務的能力👩🚒🧑🏽🚀,努力解決生成內容中存在的安全可信問題,探索大模型的知識融合和創新性應用,增強用戶體驗並推動新技術的發展。
二、資助研究方向
面向生成式人工智能的前沿科學方向和國家重大戰略需求,針對當前技術瓶頸和挑戰🧃,從“理論機理-架構設計-計算效率-安全對齊-評價方法-典型應用”六個層面開展研究,重點研究高效可信模型的基礎理論和關鍵技術。本專項擬資助以下研究方向:
(一)生成式模型的智能湧現機理研究。
針對生成式人工智能中的智能湧現💃🏼🥇、情景學習🤰、指令微調以及思維鏈等能力🛝,設計有效分析工具以探索其數理機理,並在此基礎上進一步提升模型的泛化性、多步推理及復雜任務分解等能力🤫🚦。
(二)面向生成式模型的新型高效神經網絡架構研究🧔🏼。
針對生成式人工智能中的Transformer架構復雜度問題,研究高效模型架構和跨模態統一架構👨🏿🍼,優化自註意力等主要模塊,提高長序列💃、多模態等場景下的模型處理能力和效率,探索非Transformer的高效架構、可重組模塊化架構等新型架構設計方法。
(三)大模型的高效訓練和推理方法研究。
研究各種規模(尤其是在低算力資源配置,或者百億🦻🏼、千億級參數以上模型)大模型的通用高效訓練和推理方法,提出適配國產軟硬件的低通信💂🏻♀️🔵、高並發的分布式訓練算法,提升低資源條件下模型推理效率,探索模型雲邊端協同推理機製,確保性能和響應速度🧿。
(四)大模型的價值觀和安全對齊策略研究。
研究符合人類價值觀偏好的可持續、高泛化、強對抗的大模型對齊技術,實現安全倫理和認知推理能力的對齊和超越👬🏻,提升大模型應用的無害性和有效性🧙🏼,增強大模型安全倫理價值觀對齊算法的訓練高穩定性和應用可靠性。
(五)生成式模型的自動評價方法研究💇♀️。
針對模型生成內容的評價困難問題🏌🏼♂️,研究生成內容的多維度自動評價方法,在事實準確性、有用性❌、邏輯性🎨、安全無害性🧑🏿🍳、指令遵循能力、長文檔處理能力等維度構建評價標準以及相應的評價數據集。
(六)生成式人工智能的行業🏊🏽♀️、專業模型研究📳🩼。
針對生成式人工智能技術在金融、教育、醫療、科學等領域的應用挑戰,研究領域預訓練和領域指令微調方法🙎🏻♂️,構建融合領域知識的增強模型,探索突破性的生成式人工智能應用。
三🧑🦱、資助計劃
擬資助項目6項,資助強度為50萬元/項👨🏻⚕️。資助期限為1年🧚⛹️,申請書中研究期限應填寫“2024年3月1日-2025年2月28日”🧏🏽。
四、申請要求及註意事項
(一)申請資格。
1. 具有承擔基礎研究課題的經歷👲🏻;
2. 具有高級專業技術職務(職稱)🥕。
在站博士後研究人員💫、正在攻讀研究生學位以及無工作單位或者所在單位不是依托單位的人員不得作為申請人進行申請。
(二)限項申請規定↖️。
1. 本專項不計入申請和承擔項目總數範圍。
2. 申請人同年只能申請1項本專項的研究項目。
(三)申請註意事項。
1. 專項項目實行無紙化申請😙🕋。申請書提交時間為2024年1月18日-1月22日16時。
2. 申請人註意事項➖。
(1)申請人在填報申請書前🚵🏻♀️,應當認真閱讀本專項指南和《2023年度國家自然科學基金項目指南》的相關內容,不符合項目指南和相關要求的申請項目不予受理。
(2)本專項旨在緊密圍繞核心科學問題,集中國內優勢研究團隊進行研究,成為一個專項項目群。申請人應根據本專項擬解決的具體科學問題和項目指南公布的擬資助研究方向🧑🏽🎤,自行擬定項目名稱🏊🏽♀️、科學目標、研究內容、關鍵科學問題🧑🏿🎤、技術路線和相應的研究經費等。
(3)申請人登錄科學基金網絡信息系統http://grants.nsfc.gov.cn/(沒有系統賬號的申請人請向依托單位基金管理聯系人申請開戶)🤵🏽,按照撰寫提綱及相關要求撰寫申請書。
(4)申請書中的資助類別選擇“專項項目”,亞類說明選擇“研究項目”,附註說明選擇“科學部綜合研究項目”🦕,(申請代碼1應當按照擬資助研究方向要求選擇信息科學部F02、F06下屬申請代碼➗👵🏽。以上選擇不準確或未選擇的項目申請將不予受理)。
(5)請按照“專項項目-研究項目申請書撰寫提綱”撰寫申請書,請在申請書正文開頭註明“生成式人工智能基礎研究:XXX(填寫擬資助的6個研究方向之一)”。
申請書應突出有限目標和重點突破,明確對實現本專項總體科學目標和解決核心科學問題的貢獻♐️。
如果申請人已經承擔與本專項相關的其他科技計劃項目🟫,應當在申請書正文的“研究基礎與工作條件”部分論述申請項目與其他相關項目的區別與聯系。
(6)申請人應當嚴格按照《國家自然科學基金資助項目資金管理辦法》等相關規定和《國家自然科學基金項目資金預算表編製說明》的具體要求,按照“目標相關性、政策相符性、經濟合理性”的基本原則,認真編製《國家自然科學基金項目預算表》。
3. 依托單位註意事項。
(1)依托單位應對本單位申請人所提交申請材料的真實性🧸、完整性和合規性進行審核📈;對申請人編製預算的目標相關性、政策相符性和經濟合理性進行審核。
(2)應在規定的項目申請截止日期前通過信息系統逐項確認提交本單位電子申請書及附件材料💱,無需報送紙質申請書。項目獲批準後,將申請書的紙質簽字蓋章頁裝訂在《資助項目計劃書》最後,一並提交🧑🏿🏫𓀘。簽字蓋章的信息應與電子申請書嚴格保持一致🍮。
(3)如依托單位在2024年度未上傳過《2024年度國家自然科學基金項目申請承諾書》(以下簡稱《承諾書》)🧆,應從信息系統中下載《承諾書》,由法定代表人親筆簽名並加蓋依托單位公章後🫴🏼,將電子掃描件上傳至信息系統(本年度只需上傳一次)⏭💅。依托單位完成上述承諾程序後方可提交申請。
(4)依托單位在項目申請截止時間後24小時內👩🍼,通過信息系統在線提交本單位項目申請清單。清單提交後,自然科學基金委方可接收項目申請材料。
4. 本專項咨詢方式。
國家自然科學基金委員會信息科學部二處
聯系人:吳國政 王誌衡 謝國
聯系電話:010-62327929 010-62327807 010-62327090
(四)其他註意事項。
1. 為實現專項總體科學目標🤯,獲得資助的項目負責人應當在項目執行過程中關註與本專項其他項目之間的相互支撐關系。
2. 為加強項目之間的學術交流💹,本專項將設專項項目管理協調組,並將不定期地組織相關領域的學術研討會。獲資助項目負責人必須參加上述學術交流活動🧝🏽,並認真開展學術交流👩🏼💼。
請申報者在國家自科基金委截止日期提前兩個工作日提交,並告知科研院👋。
科研院聯系人🪫:劉占蓮🚗,電話🚬:67792137🔤🤸🏽♀️,Email🤨:dhnsfc@dhu.edu.cn🧀,地址:松江校區行政樓343