人工智能(AI)正以指數(shù)級速度重塑技術范式、產(chǎn)業(yè)格局與人類生活方式。當未來AI走向千行百業(yè)、千家萬戶，如何兼顧發(fā)展與安全，實現(xiàn)技術可信、可持續(xù)？2025中關村論壇年會期間，中外嘉賓聚焦AI，探討其場景化應用與普惠化路徑。

隨著科技進步和產(chǎn)業(yè)變革的加速演進，推動AI發(fā)展已成為全球趨勢。世界知識產(chǎn)權組織總干事鄧鴻森表示，當前，以AI、量子計算等為代表的數(shù)字技術專利申請量約占全球總數(shù)的1/3。在生成式AI領域，2017年以來的專利申請量增長超800%，中國、美國、韓國走在前沿。

今年以來，伴隨DeepSeek等大模型的爆發(fā)應用，中國多地正積極發(fā)力AI產(chǎn)業(yè)。“AI是未來產(chǎn)業(yè)重要賽道之一，通過大模型突破為代表的技術創(chuàng)新，推動新質生產(chǎn)力的提升。”中國電子信息產(chǎn)業(yè)發(fā)展研究院未來產(chǎn)業(yè)研究中心所長蒲松濤提到，當前，北京、上海等地持續(xù)支持大模型前沿研究及應用發(fā)展，推出更多具有示范性和代表性的應用場景。

隨著AI大模型領域的飛速發(fā)展，通用能力不斷提升，各行業(yè)細分領域的大模型和垂直大模型如雨后春筍般涌現(xiàn)。本屆中關村論壇年會上，包括“AI+工業(yè)制造”“AI+生活服務”“AI+醫(yī)藥健康”等9個應用場景在內的北京人工智能創(chuàng)新應用成果正式發(fā)布，系統(tǒng)展示AI賦能材料、醫(yī)藥等領域的前沿創(chuàng)新成果。

西門子中央研究院研發(fā)部總裁諾伯特·高斯(Norbert Gaus)表示，西門子正利用AI技術解決工業(yè)領域的多項挑戰(zhàn)，通過發(fā)揮機器人與AI深度融合等技術優(yōu)勢，不僅顯著提升傳統(tǒng)制造業(yè)的創(chuàng)新力與小批量制造的響應速度，更通過加速產(chǎn)品從研發(fā)到市場的全過程，帶來更多創(chuàng)新產(chǎn)品。

隨著AI技術的進一步成熟、普及，其在加速賦能的同時，潛在的安全風險也在不斷增加。“在應用層面，大模型面臨信任壁壘等問題。”北京北方算力智聯(lián)科技有限責任公司研究院院長劉秦豫說，隨著AI規(guī)模擴大，其決策過程不透明、決策邏輯可解釋性差，可能在高風險領域造成嚴重后果，限制了社會層面對其的信任，也難以滿足業(yè)務和監(jiān)管的需求，需要建立可解釋、符合道德規(guī)范的大模型，從而更安全、透明地服務千行百業(yè)。

面對機遇與挑戰(zhàn)并存的技術“雙刃劍”，人類已出招積極應對。歐盟《人工智能法案》已于2024年8月1日生效，通過法律手段規(guī)范AI技術的應用。在中國，涉網(wǎng)絡安全、數(shù)據(jù)安全等的法規(guī)陸續(xù)頒布執(zhí)行，《人工智能生成合成內容標識辦法》也將于今年9月1日起施行，標志著中國在生成式AI領域邁出構建安全可信生態(tài)的關鍵一步。

韓國生成式人工智能研究院院長盧圭成表示，從世界范圍來看，中國、美國、歐盟等均聚焦AI技術研發(fā)與產(chǎn)業(yè)應用，但其背后的數(shù)據(jù)安全性、算法偏見與歧視等問題值得重視。一旦AI深度偽造與欺詐等問題被惡性利用，將為各行業(yè)帶來巨大風險，增加社會治理成本。因此，世界各國應加強國際合作，制定并完善AI安全監(jiān)管制度，從而更好地引領產(chǎn)業(yè)創(chuàng)新，讓AI真正成為推動人類社會進步和創(chuàng)新的強大動力。

關鍵詞：