人工智能 (AI) 技術(shù)已有數(shù)十年的歷史，推動(dòng)著從機(jī)器人到預(yù)測(cè)分析等方方面面的創(chuàng)新。兩年前，伴隨著 ChatGPT 的橫空出世，生成式人工智能 (GenAI) 成為了 AI 發(fā)展史上的一個(gè)里程碑式轉(zhuǎn)折點(diǎn)。ChatGPT 被設(shè)計(jì)用于以近乎人類的水平進(jìn)行對(duì)話、創(chuàng)作和理解。得益于這一變革性功能，AI 走出技術(shù)領(lǐng)域，進(jìn)入日常生活，以前所未有的方式推動(dòng)著先進(jìn)技術(shù)的廣泛普及。
ChatGPT 于 2022 年底推出，在短短 5 天內(nèi)迅速走紅，用戶數(shù)量達(dá)到了 100 萬(wàn)。2024 年，ChatGPT 的活躍用戶數(shù)量驟增至 2 億，成為歷史上增長(zhǎng)速度最快的應(yīng)用之一。 憑借實(shí)時(shí)生成上下文相關(guān)的連貫回答的能力，ChatGPT 讓 AI 成為了一個(gè)家喻戶曉的名詞。這兩年以來(lái)，人類仿佛又迎來(lái)了一次技術(shù)革命，全球各個(gè)行業(yè)都在AI應(yīng)用中看到了無(wú)限可能。
在十一月烏鎮(zhèn)舉辦的2024年世界互聯(lián)網(wǎng)大會(huì)上，人工智能成為展示重點(diǎn)，涵蓋低空經(jīng)濟(jì)、智能網(wǎng)聯(lián)汽車、人形機(jī)器人、數(shù)字文創(chuàng)等熱點(diǎn)，40余個(gè)大模型及垂直模型、10余個(gè)機(jī)器人集中亮相。今年十月，我國(guó)一位兒童用戶通過(guò)視頻展示了兩個(gè)AI就“愚公是否應(yīng)該移山”這一主題展開辯論，這兩個(gè)應(yīng)用占線的嚴(yán)密邏輯以及“類人化”的表達(dá)方式在短短幾天就收獲了數(shù)十萬(wàn)觀看與數(shù)萬(wàn)條評(píng)論。可以看出，在短短兩年時(shí)間內(nèi)，各個(gè)AI應(yīng)用已經(jīng)開始“飛入尋常百姓家”。
然而，在ChatGPT 及其他類似工具應(yīng)用于各行各業(yè)、為專業(yè)人士和個(gè)人的工作和生活賦能的同時(shí)，此類工具的“兩面性”也日益凸顯。
ChatGPT 的崛起：助力各行各業(yè)創(chuàng)新
從客戶服務(wù)到內(nèi)容創(chuàng)建，AI應(yīng)用已迅速成為個(gè)人和企業(yè)必不可少的生產(chǎn)工具。雖然想要達(dá)到人類頂級(jí)人才的水平仍有待時(shí)日，但大型語(yǔ)言模型 (LLM) 通常都能夠根據(jù)需求提供不錯(cuò)的解決方案，可讓專業(yè)人士專注于創(chuàng)造性、分析性和戰(zhàn)略性任務(wù)。GenAI 的即時(shí)性和可擴(kuò)展性促進(jìn)了范式轉(zhuǎn)變，即“AI 無(wú)處不在”不再只是一種趨勢(shì)，而是實(shí)實(shí)在在的現(xiàn)實(shí)。
GenAI 工具為各行各業(yè)提供了支持，它可通過(guò)回答 StackOverflow 等平臺(tái)上的技術(shù)問(wèn)題，幫助快速解決問(wèn)題，并加快項(xiàng)目進(jìn)度，將為期一周的任務(wù)縮短至數(shù)小時(shí)。ChatGPT 等 GenAI 工具還通過(guò)創(chuàng)新性地應(yīng)用語(yǔ)言模型來(lái)破譯功能和理解復(fù)雜代碼，將其功能擴(kuò)展到了逆向工程。
在網(wǎng)絡(luò)安全領(lǐng)域， GenAI 已經(jīng)產(chǎn)生了深遠(yuǎn)的影響。例如，ChatGPT 能夠分析龐大的數(shù)據(jù)集，以檢測(cè)異常和模式，從而幫助用戶發(fā)現(xiàn)以前可能無(wú)法察覺(jué)的威脅。這種增強(qiáng)的可視性是一項(xiàng)顛覆性特性，有助于高效打擊日益復(fù)雜的網(wǎng)絡(luò)攻擊。
從積極的方面看，GenAI 已成為加強(qiáng)安全運(yùn)維不可或缺的工具：
加速工作流程：網(wǎng)絡(luò)安全專業(yè)人員現(xiàn)在使用 ChatGPT 等 GenAI 工具快速排除故障、破解復(fù)雜問(wèn)題并從海量數(shù)據(jù)集中提取實(shí)用洞察——這些任務(wù)以前都需要數(shù)周或數(shù)天的時(shí)間才能完成。
威脅檢測(cè)：GenAI 能夠快速、深入地分析海量數(shù)據(jù)，從而幫助機(jī)構(gòu)檢測(cè)到可能被忽視的威脅。
事件響應(yīng)：GenAI 正被探索用于總結(jié)攻擊模式、縮短響應(yīng)時(shí)間并加強(qiáng)防御能力。
然而，GenAI 的興起也帶來(lái)了重大風(fēng)險(xiǎn)。若無(wú)適當(dāng)?shù)陌踩雷o(hù)措施，輸入到 ChatGPT 等工具中的敏感數(shù)據(jù)可能會(huì)在不經(jīng)意間被泄漏。一次數(shù)據(jù)處理不當(dāng)就可能帶來(lái)毀滅性后果，如果這些數(shù)據(jù)被用于未來(lái)網(wǎng)絡(luò)攻擊的話。
從某些方面來(lái)看，這項(xiàng)變革性技術(shù)為網(wǎng)絡(luò)犯罪分子肆無(wú)忌憚的濫用提供了可乘之機(jī)：
惡意代碼開發(fā)：ChatGPT 和類似工具甚至支持新手攻擊者創(chuàng)建和調(diào)試惡意軟件，這大大降低了網(wǎng)絡(luò)犯罪發(fā)起攻擊的門檻。
復(fù)雜的網(wǎng)絡(luò)釣魚電子郵件：黑客可利用 GenAI 制作出更具迷惑性的逼真電子郵件。與傳統(tǒng)的網(wǎng)絡(luò)釣魚電子郵件相比，這些電子郵件更有可能騙到收件人，因?yàn)榍罢叽朕o不夠嚴(yán)謹(jǐn)并缺乏對(duì)相關(guān)情況的了解，所以可能會(huì)被明眼人識(shí)破。
深度偽造：GenAI 生成的視頻和音頻片段往往難辨真?zhèn)?，主要用于欺詐、造謠和勒索，致使社交工程威脅升級(jí)。
這些濫用案例凸顯了一個(gè)殘酷的現(xiàn)實(shí)：正如 GenAI 可以讓防御者如虎添翼一樣，它也可能為虎作倀，成為攻擊者的幫兇。
保障 GenAI 領(lǐng)域的安全
隨著 GenAI 的快速普及，用戶需要采取主動(dòng)式安全防護(hù)來(lái)緩解風(fēng)險(xiǎn)。Check Point 建議采取以下措施：
開展員工培訓(xùn)：讓員工了解 GenAI 特定的威脅和風(fēng)險(xiǎn)，例如逼真的網(wǎng)絡(luò)釣魚電子郵件、深度偽造和幻覺(jué)，以便他們能夠發(fā)現(xiàn)和報(bào)告潛在事件。
實(shí)施數(shù)據(jù)保護(hù)：采用可靠工具防止在不經(jīng)意間與 AI 平臺(tái)共享敏感數(shù)據(jù)，從而降低數(shù)據(jù)泄漏或?yàn)E用風(fēng)險(xiǎn)。
監(jiān)控和規(guī)范 AI 使用：制定明確的政策，確保在機(jī)構(gòu)內(nèi)以合乎道德的方式安全使用 GenAI，讓使用者和開發(fā)人員承擔(dān)起相應(yīng)的責(zé)任。
實(shí)施自動(dòng)化數(shù)據(jù)控制：部署自動(dòng)化解決方案來(lái)監(jiān)控和限制與第三方 AI 系統(tǒng)的數(shù)據(jù)共享，確保敏感信息始終安全無(wú)虞。
采用基于 AI 的防御：利用 AI 工具有效防范攻擊，增強(qiáng)威脅檢測(cè)和響應(yīng)能力。
未來(lái)愿景：負(fù)責(zé)任地使用 AI，維護(hù)網(wǎng)絡(luò)安全
毫無(wú)疑問(wèn)，ChatGPT 等 GenAI 將在塑造網(wǎng)絡(luò)安全格局方面發(fā)揮日益重要的作用。我們所面臨的挑戰(zhàn)在于如何正確發(fā)揮其潛力，同時(shí)最大限度地降低濫用風(fēng)險(xiǎn)。
使用 GenAI 的好處顯而易見(jiàn)：用戶可以使用其算法高效使用之前很難處理的海量數(shù)據(jù)。然而，GenAI 并不是人類的自動(dòng)化替身，也不僅僅是一套先進(jìn)的算法。雖然 GenAI 潛力巨大，但其風(fēng)險(xiǎn)也不容小覷。
為了確保 GenAI 正面助力網(wǎng)絡(luò)安全，各機(jī)構(gòu)必須對(duì)其使用承擔(dān)起責(zé)任。無(wú)論是通過(guò)監(jiān)管敏感應(yīng)用、培養(yǎng) AI 文化素養(yǎng)，還是部署高級(jí)監(jiān)控工具，業(yè)界都必須與這項(xiàng)技術(shù)同步發(fā)展。通過(guò)保持警惕性和前瞻性，我們可確保 ChatGPT 等工具不斷推動(dòng)創(chuàng)新，同時(shí)防止其被濫用。
本文轉(zhuǎn)載自：，不代表科技訊之立場(chǎng)。原文鏈接：http://articlef.yulepops.com/article/m-163/1/2122024120520573275926412.html
