業(yè)界呼吁AI時代 強化APP風(fēng)險分類分級管理

隨著2025世界人工智能大會的召開，人工智能（AI）在高速發(fā)展的移動互聯(lián)網(wǎng)中如何安全應(yīng)用成為各方關(guān)注的焦點。業(yè)內(nèi)人士近期紛紛表示，監(jiān)管方、設(shè)備生產(chǎn)商、軟件服務(wù)商應(yīng)加強協(xié)作，在防范新發(fā)風(fēng)險的前提下，共同確保行業(yè)穩(wěn)定發(fā)展。

??中國信通院泰爾終端實驗室、標(biāo)準(zhǔn)所日前聯(lián)合發(fā)布的《移動互聯(lián)網(wǎng)應(yīng)用程序（APP）風(fēng)險分類分級指南（2025年）》（以下簡稱《指南》）指出，截至2024年底，移動互聯(lián)網(wǎng)用戶規(guī)模達15.7億戶，全年移動互聯(lián)網(wǎng)接入流量達3376億GB。APP應(yīng)用場景的日益豐富，也對APP治理中全鏈條、全流程風(fēng)險管理提出了更高要求。

??尤其是在當(dāng)前AI應(yīng)用快速發(fā)展的態(tài)勢下，APP內(nèi)嵌AI插件成為吸引用戶的重要形式，并在深刻改變移動應(yīng)用市場的格局?！吨改稀诽岢?，AI給內(nèi)容審核、功能性檢測帶來極大挑戰(zhàn)，已出現(xiàn)降低惡意開發(fā)者門檻等弊端。通過AI工具可以快速批量生產(chǎn)惡意應(yīng)用，動態(tài)改變惡意特征，增大了檢測難度。例如，AI可自動重構(gòu)代碼邏輯、修改接口命名或添加冗余代碼，生成功能相同的應(yīng)用變體，極大增加了安全檢測的樣本分析壓力。

??同時，《指南》也指出，通過技術(shù)更新迭代進行惡意利用的風(fēng)險也在持續(xù)升級。如在移動應(yīng)用分發(fā)平臺上架審核和在架投放階段，部分開發(fā)者可將惡意APP偽裝成正常APP，當(dāng)用戶下載安裝完成后或在使用過程中滿足某些特定觸發(fā)條件時，通過熱更新的方式下載安裝包含惡意代碼或違規(guī)內(nèi)容的新版本，實現(xiàn)APP的“換裝”和“變臉”。

??《指南》還將APP風(fēng)險分為隱私安全風(fēng)險、惡意行為風(fēng)險、服務(wù)異常風(fēng)險、財產(chǎn)安全風(fēng)險、內(nèi)容安全風(fēng)險、未成年人安全風(fēng)險六大類目，根據(jù)APP風(fēng)險對社會公序良俗及公共利益、系統(tǒng)安全、用戶合法權(quán)益等不同影響對象的不同損害程度，將風(fēng)險級別劃分為極高、高、中、低四個等級。針對不同風(fēng)險等級，《指南》建議在APP全生命周期的各個階段，不同主體可實施不同管理措施。

??《指南》指出，需推動各方就APP風(fēng)險類別與危害程度達成共識，為當(dāng)下APP風(fēng)險防范及治理提供參考。《指南》呼吁，移動互聯(lián)網(wǎng)行業(yè)的健康發(fā)展，離不開全產(chǎn)業(yè)鏈多方協(xié)作：企業(yè)需增強合規(guī)開發(fā)意識，將風(fēng)險防控貫穿產(chǎn)品全生命周期；移動應(yīng)用分發(fā)平臺應(yīng)優(yōu)化審核能力，強化在架巡檢；移動終端廠商要提升風(fēng)險檢測水平，加強對APP風(fēng)險行為的監(jiān)測；管理部門需持續(xù)完善法律法規(guī)，明確風(fēng)險界定與處罰標(biāo)準(zhǔn)。此外，鼓勵行業(yè)協(xié)會制定自律規(guī)范，推動APP相關(guān)主體自我約束與管理，共同構(gòu)建良好的行業(yè)發(fā)展生態(tài)。

??針對AI大模型應(yīng)用時代的來臨，業(yè)內(nèi)專家對行業(yè)痛點進行梳理時發(fā)現(xiàn)，手機廠商和APP應(yīng)用服務(wù)商等協(xié)同配合是維護平穩(wěn)發(fā)展的關(guān)鍵。中國信通院互聯(lián)網(wǎng)法律研究中心主任何波表示，今年1月1日生效的《網(wǎng)絡(luò)數(shù)據(jù)安全管理條例》對涉及自動化工具、生成式人工智能等新興技術(shù)的數(shù)據(jù)處理活動作出了特殊規(guī)定。

??隨著技術(shù)的迭代更新，AI相關(guān)的政策法令以及防控治理手段將持續(xù)更新優(yōu)化，本次《指南》的發(fā)布也將助力AI時代下相關(guān)技術(shù)風(fēng)險防范的常態(tài)化與規(guī)范化，引導(dǎo)行業(yè)各方進一步深化合作，強化數(shù)據(jù)共享與技術(shù)交流機制，共同探索應(yīng)對新興風(fēng)險的有效策略。