“當前，AI應用系統安全責任與風險嚴重失衡。”7月31日，在由中國互聯網協會、360互聯網安全中心主辦的第十二屆互聯網安全大會上，中國工程院院士、國家數字交換系統工程技術研究中心主任鄔江興說。這也是眾多與會者的心聲。人工智能技術的廣泛應用正推動著各行各業(yè)轉型升級，但也給網絡安全治理帶來新的挑戰(zhàn)。為此，大會以“打造安全大模型，引領安全行業(yè)革命”為主題，呼吁行業(yè)以大模型重塑安全體系，守護數字經濟穩(wěn)健發(fā)展。多位專家及業(yè)內人士深入剖析人工智能技術發(fā)展帶來的安全挑戰(zhàn)，共同探索安全大模型驅動數字安全發(fā)展新路徑。

產研攜手共探新解法

面對AI系統面臨的窘境，鄔江興提出，基于內生安全架構可發(fā)現或糾正AI應用系統安全問題，AI應用系統中必須包含必要多樣性和相對正確公理的內生安全構造，在不可信的過程中找到相對可信的結果。智能時代需要選擇正確的技術路徑，打造更安全的AI應用系統。

中國工程院院士吳世忠在主題演講中表示，由AI技術帶來的新型安全問題已成為現實，安全行業(yè)將迅速邁進AI驅動的新時代。然而，大模型安全研究可以說才剛剛開始。無論是安全研究還是安全產業(yè)，都必須緊跟科技進步和應用創(chuàng)新，才能服務好發(fā)展，保障好發(fā)展。

隨著生成式人工智能驅動AI發(fā)展進入新階段，AI治理隨之也變成了一個突出問題。先進計算與關鍵軟件（信創(chuàng)）海河實驗室主任、中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長龔克指出，AI治理應遵循有利發(fā)展、為人服務和基于倫理三點原則，要清楚認識到技術自身的不足，以及人對AI技術的惡用、濫用、誤用等風險。他強調，防止AI“作惡”要建立明確的倫理標準、提高透明度和問責制、完善法律法規(guī)、內置安全機制等。此外，要堅持開放創(chuàng)新，在信創(chuàng)基礎上發(fā)展安全可控的AI生態(tài)。

安全大模型落地關鍵要找準“明星場景”

人工智能等前沿數字技術正在重新定義內容的生產與消費模式，大模型在企業(yè)運營中的應用日益廣泛。中國工程院院士鄔賀銓在致辭中指出，大模型提供方與垂直行業(yè)合作開發(fā)行業(yè)大模型，將大模型拆分成模塊提供服務，將有利于中小型企業(yè)更容易地應用AI大模型。此外，要注重創(chuàng)新升級數字安全防護措施。

“發(fā)展安全大模型是安全邁向‘自動駕駛’的必由之路，也是成功之路，而落地安全大模型的關鍵是找準‘明星場景’?！贝髸飨?、360集團創(chuàng)始人周鴻祎說。

周鴻祎認為，面對愈加復雜的傳統安全問題和大模型帶來新的安全問題，必須用AI重塑安全，以模治模，用安全大模型解決“新老”安全問題。

借鑒傳統汽車的自動駕駛，周鴻祎表示，用AI升級安全也要提出類似自動駕駛的L1~L5級別目標，通過數據和知識的訓練，讓自動駕駛取得突破。

受制于知識、成本等因素，周鴻祎建議，不要追求用一個大模型解決所有問題，應該讓專業(yè)大模型解決專業(yè)問題。2024年是場景之年，關鍵要結合業(yè)務找“明星場景”，然后根據場景設計功能，根據功能需求對大模型進行專項訓練。

當前，人工智能跨越式發(fā)展，業(yè)界主流模型從千億稠密到萬億稀疏，并逐步走向百萬級超長序列和多模態(tài)。華為副總裁、ISP與互聯網系統部總裁岳坤表示，如何在智能時代的早期保證相應的服務能力和服務水平，將是首批智能應用面臨的核心挑戰(zhàn)之一。他強調，提升安全水平是保障智能化服務能力和服務水平的關鍵，而原生技術是人工智能時代最大的安全。華為今年發(fā)布了昇騰原生計劃，將投入專項資金，以技術+商業(yè)驅動生態(tài)繁榮，為客戶打造更加匹配場景需求的方案，加速AI模型的應用。（記者付麗麗）