過去幾天，DeepSeek的持續(xù)火爆也引發(fā)了包含敏感數(shù)據(jù)泄露在內(nèi)的諸多安全風(fēng)險。作為一種有內(nèi)容生成能力的新型數(shù)字系統(tǒng)，以DeepSeek為代表的AI大模型在實(shí)現(xiàn)其科技、生產(chǎn)和社會價值的同時，要如何保障其“原生安全”？

基于AI技術(shù)構(gòu)建的新型數(shù)字系統(tǒng)與傳統(tǒng)系統(tǒng)相比，由于數(shù)字資產(chǎn)類型的復(fù)雜性、用戶交互方式以及業(yè)務(wù)處理流程的變化，使其面臨網(wǎng)絡(luò)與數(shù)據(jù)安全、模型安全、內(nèi)容安全和供應(yīng)鏈安全等風(fēng)險挑戰(zhàn)。此外，不同于傳統(tǒng)軟件“需求-開發(fā)-測試-發(fā)布”的線性生命周期，AI大模型形成了“數(shù)據(jù)采集-訓(xùn)練-推理-再訓(xùn)練”的動態(tài)生命周期，它自身的持續(xù)進(jìn)化和迭代也會不斷引入新的風(fēng)險。

那么有沒有一種全新的模式，來讓AI驅(qū)動的智能原生數(shù)字系統(tǒng)，建立更高效穩(wěn)健的安全能力呢？對此，“原生安全”理念應(yīng)運(yùn)而生?！霸踩睆?qiáng)調(diào)從AI大模型的內(nèi)在架構(gòu)、數(shù)據(jù)處理、算法訓(xùn)練、工作流量等方面進(jìn)行安全管理，確保安全從模型的源頭就被構(gòu)建起來。

基于這一理念，永信至誠(688244)依托「數(shù)字風(fēng)洞」產(chǎn)品體系構(gòu)建了針對AI大模型整個生命周期的風(fēng)險管理機(jī)制。該機(jī)制以實(shí)現(xiàn)AI大模型的原生安全為目的，圍繞AI大模型構(gòu)建、部署到運(yùn)營的各個階段，開展多維風(fēng)險測評與驗(yàn)證，幫助開發(fā)、使用AI智能數(shù)字系統(tǒng)的企業(yè)讓AI大模型及其構(gòu)建的數(shù)字系統(tǒng)具備原生的安全能力。

對此，永信至誠提出通過建立AI大模型資產(chǎn)臺賬、AI大模型全生命周期測試評估、風(fēng)洞時光機(jī)全生命周期管理、威脅情報監(jiān)控與“家庭醫(yī)生”服務(wù)、實(shí)時防護(hù)的AI智能體內(nèi)容合規(guī)和數(shù)據(jù)隱私的“安全圍欄”等一系列針對不同階段的防護(hù)目標(biāo)與風(fēng)險特點(diǎn)的「數(shù)字風(fēng)洞」健康管理方案。

同時，隨著大模型逐步應(yīng)用于各行各業(yè)，確保其合規(guī)性，并具備有效的輸入輸出信息過濾能力，尤其是防止泄露商業(yè)信息、國家機(jī)密、個人隱私及敏感社會價值觀等內(nèi)容，已成為關(guān)鍵任務(wù)。以智能體來管理智能體，在每一個AI大模型誕生時，配備原生、獨(dú)立的安全“智能體”，能夠協(xié)助迅速識別、過濾并有效阻斷潛在的安全風(fēng)險，幫助企業(yè)提高AI大模型風(fēng)險管理準(zhǔn)確性和效率，讓AI大模型更高效地賦能業(yè)務(wù)發(fā)展。（燕云）

校對：廖勝超