中新網(wǎng)北京3月6日電(記者 吳濤)隨著人工智能大模型的發(fā)展，大模型數(shù)據(jù)安全和自身安全問題越來越受到重視。全國政協(xié)委員、全國工商聯(lián)副主席、奇安信科技集團(tuán)董事長齊向東建議，開展體系化的大模型安全防護(hù)，落實(shí)《生成式人工智能服務(wù)安全基本要求》，筑牢人工智能安全防線。

齊向東表示，以大模型為核心的人工智能技術(shù)是創(chuàng)新范式變革與產(chǎn)業(yè)升級的關(guān)鍵引擎，然而技術(shù)躍升與安全風(fēng)險始終伴生演進(jìn)。人工智能大模型面臨四大安全挑戰(zhàn)，包括數(shù)據(jù)安全挑戰(zhàn)、應(yīng)用安全挑戰(zhàn)、基礎(chǔ)環(huán)境安全挑戰(zhàn)和大模型自身安全挑戰(zhàn)。

“以數(shù)據(jù)安全挑戰(zhàn)為例，大模型在訓(xùn)練、推理、使用過程中涉及海量數(shù)據(jù)，通過數(shù)據(jù)投毒、數(shù)據(jù)污染等手段，會使大模型輸出背離主流價值觀或包含事實(shí)性錯誤的內(nèi)容。一些不法分子還會借助提示詞注入、劫持、爬蟲等手段，竊取大模型用戶重要信息、敏感數(shù)據(jù)。”齊向東稱。

齊向東建議，從技術(shù)層面全面排查加固人工智能大模型基礎(chǔ)設(shè)施，構(gòu)建大模型紅域，打造適用于人工智能的縱深防御體系，形成覆蓋終端、應(yīng)用、數(shù)據(jù)、大模型、算力與基礎(chǔ)設(shè)施的多維度核心防護(hù)能力。同時，給予威脅情報、大網(wǎng)數(shù)據(jù)監(jiān)測等情報賦能，有效抵御針對大模型的新型攻擊和惡意訪問，實(shí)現(xiàn)“對外防攻擊、對內(nèi)防內(nèi)鬼”。

齊向東還建議重點(diǎn)打造大模型數(shù)據(jù)安全“雙控機(jī)制”，保障大模型穩(wěn)定運(yùn)行。對大模型數(shù)據(jù)輸入側(cè)及輸出側(cè)開展有效管控，確保大模型數(shù)據(jù)安全、內(nèi)容安全、應(yīng)用安全。要求部署大模型的關(guān)鍵信息基礎(chǔ)設(shè)施運(yùn)營單位在網(wǎng)絡(luò)和數(shù)據(jù)安全建設(shè)上的投入比例不低于信息化建設(shè)的15%。(完)

關(guān)鍵詞：