跨境GenAI濫用，將引發(fā)40%的AI數(shù)據(jù)泄露

根據(jù)Gartner公司的數(shù)據(jù)，到2027年，超過40%的人工智能相關(guān)數(shù)據(jù)泄露將由跨境不當(dāng)使用生成式人工智能（GenAI）造成。

終端用戶對(duì)GenAI技術(shù)的迅速采用已經(jīng)超過了數(shù)據(jù)治理和安全措施的發(fā)展，由于支持這些技術(shù)所需的集中計(jì)算能力，引起了對(duì)數(shù)據(jù)本地化的擔(dān)憂。

Gartner副總裁分析師Joerg Fritsch表示：“由于監(jiān)管不足，經(jīng)常會(huì)發(fā)生意外的跨境數(shù)據(jù)傳輸，特別是當(dāng)GenAI集成到現(xiàn)有產(chǎn)品中而沒有明確的描述或公告時(shí)。”“企業(yè)正在注意到員工使用GenAI工具生成的內(nèi)容的變化。雖然這些工具可以用于經(jīng)批準(zhǔn)的業(yè)務(wù)應(yīng)用程序，但如果將敏感提示發(fā)送到托管在未知位置的AI工具和API，則會(huì)帶來(lái)安全風(fēng)險(xiǎn)。”

全球AI標(biāo)準(zhǔn)化差距導(dǎo)致運(yùn)營(yíng)效率低下

人工智能和數(shù)據(jù)治理缺乏一致的全球最佳實(shí)踐和標(biāo)準(zhǔn)，導(dǎo)致市場(chǎng)分化，迫使企業(yè)制定針對(duì)特定地區(qū)的戰(zhàn)略，從而加劇了挑戰(zhàn)。這可能會(huì)限制他們?cè)谌蚍秶鷥?nèi)擴(kuò)展業(yè)務(wù)并從人工智能產(chǎn)品和服務(wù)中受益的能力。

Fritsch表示：“由于本地化的人工智能策略，管理數(shù)據(jù)流和保持質(zhì)量的復(fù)雜性可能導(dǎo)致運(yùn)營(yíng)效率低下。”“組織必須投資于先進(jìn)的人工智能治理和安全，以保護(hù)敏感數(shù)據(jù)并確保合規(guī)性。這種需求可能會(huì)推動(dòng)人工智能安全、治理和合規(guī)服務(wù)市場(chǎng)的增長(zhǎng)，以及提高人工智能流程透明度和控制的技術(shù)解決方案。”

在AI治理成為全球使命之前，企業(yè)必須采取行動(dòng)

Gartner預(yù)測(cè)，到2027年，人工智能治理將成為全球所有主權(quán)人工智能法律法規(guī)的要求。

Fritsch說(shuō)：“無(wú)法整合所需治理模型和控制的組織可能會(huì)發(fā)現(xiàn)自己處于競(jìng)爭(zhēng)劣勢(shì)，尤其是那些缺乏資源來(lái)快速擴(kuò)展現(xiàn)有數(shù)據(jù)治理框架的組織。”

為了減輕AI數(shù)據(jù)泄露的風(fēng)險(xiǎn)（尤其是跨境GenAI濫用），并確保合規(guī)性，建議企業(yè)采取以下幾項(xiàng)戰(zhàn)略行動(dòng)：

• 加強(qiáng)數(shù)據(jù)治理：企業(yè)必須確保遵守國(guó)際法規(guī)，并通過擴(kuò)展數(shù)據(jù)治理框架來(lái)監(jiān)控意外的跨境數(shù)據(jù)傳輸，以包括人工智能處理數(shù)據(jù)的指導(dǎo)方針。這包括在常規(guī)隱私影響評(píng)估中合并數(shù)據(jù)沿襲和數(shù)據(jù)傳輸影響評(píng)估。

• 建立治理委員會(huì)：成立委員會(huì)加強(qiáng)對(duì)人工智能的監(jiān)督，確保人工智能部署和數(shù)據(jù)處理的透明溝通。這些委員會(huì)需要負(fù)責(zé)技術(shù)監(jiān)督、風(fēng)險(xiǎn)和合規(guī)管理以及溝通和決策報(bào)告。

• 加強(qiáng)數(shù)據(jù)安全：使用先進(jìn)技術(shù)、加密和匿名化來(lái)保護(hù)敏感數(shù)據(jù)。例如，在特定地理區(qū)域驗(yàn)證可信執(zhí)行環(huán)境，并在數(shù)據(jù)必須離開這些區(qū)域時(shí)應(yīng)用差異隱私等先進(jìn)匿名化技術(shù)。

• 投資TRiSM產(chǎn)品：規(guī)劃和分配針對(duì)AI技術(shù)的信任、風(fēng)險(xiǎn)和安全管理(TRiSM)產(chǎn)品和功能的預(yù)算。這包括人工智能治理、數(shù)據(jù)安全治理、及時(shí)過濾和修訂，以及非結(jié)構(gòu)化數(shù)據(jù)的合成生成。Gartner預(yù)測(cè)，到2026年，應(yīng)用AI TRiSM控制的企業(yè)將至少減少50%的不準(zhǔn)確或非法信息，從而減少錯(cuò)誤決策。