中新網(wǎng)福州4月30日電 (記者 劉育英)奇安信集團董事長齊向東在第八屆數(shù)字中國建設峰會期間接受媒體采訪表示，層出不窮的新興場景，充分展現(xiàn)出人工智能大模型帶來的無限生產力、創(chuàng)造力。但新技術是把雙刃劍，大模型應用在帶來機遇的同時，也面臨三重挑戰(zhàn)。

　　一是“小數(shù)據(jù)”安全問題。傳統(tǒng)大數(shù)據(jù)存在碎片化、質量參差不齊等問題，而大模型需要經(jīng)過加工處理的“精華小數(shù)據(jù)”。一旦精華小數(shù)據(jù)被竊取、泄露或篡改，企業(yè)核心競爭力將受損。

　　二是大模型“裸奔”風險。大模型深度融入關鍵領域，如智慧城市、工控系統(tǒng)、智慧政務等，風險串聯(lián)成網(wǎng)。奇安信監(jiān)測發(fā)現(xiàn)，大量Ollama大模型服務器“裸奔”，存在被攻擊導致業(yè)務中斷的風險。

　　三是AI決策失準風險。對AI的過度依賴可能導致善惡真?zhèn)坞y辨，黑客可通過漏洞利用、數(shù)據(jù)投毒等方式干擾大模型決策。內部員工更新知識庫時引入錯誤信息，也會污染模型學習環(huán)境，導致錯誤結論。

　　齊向東認為，筑牢AI安全底線，要把握住五個關鍵：構建大模型安全“紅域”形成多維度邊界隔離；權限強管控，以用戶身份為新邊界開展網(wǎng)絡和數(shù)據(jù)安全防護；嚴把內容關，構建貫穿大模型全生命周期的內容安全治理機制；以實戰(zhàn)為導向加強大模型應用安全評估；運營可閉環(huán)，做到對安全威脅的實時監(jiān)測和應急處置。(完)