Gartner：企業(yè)在部署生成式人工智能時(shí)面臨新的安全威脅

發(fā)布日期：2024-06-03

394 次

在近期舉辦的2024中國科技行業(yè)高管交流大會(huì)上，Gartner發(fā)布了關(guān)于生成式人工智能（GenAI）安全的最新研究。隨著GenAI技術(shù)的迅速發(fā)展和應(yīng)用，全球超過58%的技術(shù)提供商已經(jīng)在他們的產(chǎn)品中內(nèi)嵌了GenAI技術(shù)。這種技術(shù)雖然為企業(yè)帶來了創(chuàng)新的機(jī)會(huì)，但同時(shí)也引入了新的安全挑戰(zhàn)。

Gartner高級(jí)研究總監(jiān)曾劭清表示：“GenAI技術(shù)在提高業(yè)務(wù)效率和開拓新服務(wù)方面具有巨大潛力，但它也使企業(yè)的安全攻擊面擴(kuò)大，尤其是在提示工程和數(shù)據(jù)安全方面。GenAI技術(shù)為攻擊者提供了新的途徑，例如利用AI生成的內(nèi)容進(jìn)行社會(huì)工程攻擊或通過污染訓(xùn)練數(shù)據(jù)來破壞AI系統(tǒng)的完整性。此外，攻擊者可以利用GenAI提高攻擊工具的自動(dòng)化和智能化水平，這對(duì)傳統(tǒng)的安全防御措施構(gòu)成了挑戰(zhàn)。同時(shí)，GenAI系統(tǒng)的復(fù)雜性本身也可能引入新的漏洞和弱點(diǎn)，要求企業(yè)采用更先進(jìn)的技術(shù)和策略來確保系統(tǒng)的安全?！?/span>

1.jpg

隨著GenAI技術(shù)融入日常業(yè)務(wù)操作，企業(yè)面臨的攻擊面顯著擴(kuò)大。這不僅影響到數(shù)據(jù)處理，還直接威脅到AI模型的安全性。為了應(yīng)對(duì)這些挑戰(zhàn)，企業(yè)必須采取先進(jìn)的安全措施和技術(shù)。這包括但不限于實(shí)施綜合的數(shù)據(jù)監(jiān)控系統(tǒng)、加強(qiáng)訓(xùn)練數(shù)據(jù)的安全性，以及部署專門的安全解決方案來保護(hù)AI模型免受操縱和攻擊。更重要的是，企業(yè)需要在AI開發(fā)和部署的每個(gè)階段整合安全最佳實(shí)踐，確保從設(shè)計(jì)之初就考慮到安全因素。

曾劭清指出：“在快速發(fā)展的GenAI領(lǐng)域，僅靠被動(dòng)式的安全防衛(wèi)已無法滿足保護(hù)需求。企業(yè)必須在AI系統(tǒng)的設(shè)計(jì)和運(yùn)營過程中，建立自動(dòng)移動(dòng)目標(biāo)防御體系，以防范可能的安全威脅。這種前瞻性的安全策略是保護(hù)企業(yè)不受新興技術(shù)風(fēng)險(xiǎn)侵害的關(guān)鍵?！?/span>

與此同時(shí)，攻擊者正利用GenAI的能力來提升其攻擊精細(xì)化和效率，對(duì)傳統(tǒng)安全防御體系構(gòu)成新的挑戰(zhàn)。攻擊者利用GenAI進(jìn)行更加自動(dòng)化和智能化的攻擊，不僅提高了攻擊效率，也增加了攻擊的隱蔽性和復(fù)雜性。為了應(yīng)對(duì)這些挑戰(zhàn)，企業(yè)必須采用基于AI的防御技術(shù)，這些技術(shù)能夠?qū)崟r(shí)監(jiān)控和分析異常行為，以識(shí)別和阻止?jié)撛诘耐{。

曾劭清指出：“攻擊者可以利用GenAI快速開發(fā)出新的攻擊方法，這要求我們的防御系統(tǒng)不僅要快速響應(yīng)，還要足夠智能以識(shí)別和適應(yīng)這些新型威脅。企業(yè)投資于AI驅(qū)動(dòng)的安全解決方案，將是對(duì)抗這一新趨勢的關(guān)鍵?！?/span>

同時(shí)，GenAI技術(shù)的普及帶來了數(shù)據(jù)安全管理的復(fù)雜性，企業(yè)必須適應(yīng)這種變化，以防范不斷增長的安全風(fēng)險(xiǎn)。GenAI可以處理和分析大量數(shù)據(jù)，但如果不當(dāng)管理，也可能導(dǎo)致數(shù)據(jù)泄露或被惡意利用。因此，企業(yè)需要實(shí)施嚴(yán)格的數(shù)據(jù)治理措施，確保所有使用AI處理的數(shù)據(jù)都符合最新的安全標(biāo)準(zhǔn)和合規(guī)要求。此外，加強(qiáng)對(duì)AI操作的監(jiān)控和審計(jì)，確保數(shù)據(jù)的完整性和隱私保護(hù)也至關(guān)重要。

曾劭清表示：“在這個(gè)由數(shù)據(jù)驅(qū)動(dòng)的時(shí)代，確保數(shù)據(jù)安全是使用GenAI技術(shù)的企業(yè)面臨的一大挑戰(zhàn)。我們必須認(rèn)識(shí)到，數(shù)據(jù)不僅是一個(gè)資產(chǎn)，也是一個(gè)潛在的風(fēng)險(xiǎn)點(diǎn)。采用先進(jìn)的加密技術(shù)、訪問控制和實(shí)時(shí)監(jiān)測系統(tǒng)是保護(hù)數(shù)據(jù)安全不可或缺的部分。

版權(quán)聲明：本站內(nèi)容除特別聲明的原創(chuàng)文章之外，轉(zhuǎn)載內(nèi)容只為傳遞更多信息，并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題，請(qǐng)及時(shí)通過電子郵件或電話通知我們，以便迅速采取適當(dāng)措施，避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話：020-2204 2442,郵箱：[email protected]。

上一篇: 韓國12家公司因操縱三星半導(dǎo)體監(jiān)控系統(tǒng)競標(biāo)價(jià)格被罰近5500萬元
下一篇: 美光HBM內(nèi)存能效優(yōu)異迅速成為韓廠威脅

為您精選

藍(lán)牙連接技術(shù)成為了人工智能/機(jī)器學(xué)習(xí)驅(qū)動(dòng)智能指環(huán)的首選

傳統(tǒng)的可穿戴設(shè)備取得了巨大成功，使得其后面世的智能指環(huán)受到早期采用者的熱烈追捧，成為了最前沿、最時(shí)尚的健康和健身無線···

更新日期：2025-03-03 217 次
馬斯克：現(xiàn)實(shí)世界中用于訓(xùn)練AI模型的數(shù)據(jù)已經(jīng)所剩無幾

1 月 9 日消息，據(jù) TechCrunch 報(bào)道，馬斯克與其他人工智能專家一致認(rèn)為，現(xiàn)實(shí)世界中用于訓(xùn)練AI 模型的數(shù)據(jù)幾乎已經(jīng)耗盡。在···

更新日期：2025-01-13 434 次
我國生成式人工智能產(chǎn)品用戶規(guī)模達(dá)2.3億人,占整體人口16.4%

11 月 30 日消息，從央視新聞獲悉，在今天的第五屆中國互聯(lián)網(wǎng)基礎(chǔ)資源大會(huì)上，中國互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布了《生成式人工智能應(yīng)···

更新日期：2024-12-04 552 次
小鵬自研圖靈AI芯片流片成功

11月6日，以“科技改變世界”為主題的“小鵬AI科技日”在廣州華南理工大學(xué)舉辦。小鵬董事長CEO何小鵬正式發(fā)布了旗下首款自研···

更新日期：2024-11-08 416 次
谷歌目前超過1/4的新代碼由人工智能生成

10 月 30 日消息，谷歌正在開發(fā)一系列人工智能產(chǎn)品，并且在構(gòu)建這些產(chǎn)品的過程中也大量使用人工智能。"谷歌超過四分之一···

更新日期：2024-10-31 356 次