作者 邱 倢芯 | 發布日期 2024 年 08 月 05 日 14:50 | 分類 AI 人工智慧 , 科技生活 , 資訊安全
人工智慧技術的興起雖然一方面提升了企業的生產效率，但另一方面也替網路惡意份子創造了更多機會。網路資安廠商趨勢科技為此發表企業資安平台與消費性網路資安產品新功能，防範快速成長的 AI 攻擊與深偽（Deepfakes）詐騙，以保護所有網路環境。
據趨勢科技研究報告指出，駭客正搭上 AI 應用爆炸性成長的熱潮，導致網路犯罪地下市場的 AI 犯罪工具暴增。這些工具不僅越來越便宜且更容易取得，使得任何技術能力的駭客都能更輕易地發動大規模攻擊，藉由欺騙受害者來從事勒索、身分冒用、詐騙以及散播假訊息。
趨勢科技營運長Kevin Simzer表示，如同過去其他新興威脅與 IT 情勢的轉變一樣，我們早已預見並克服 AI 的資安挑戰。最新研究披露了多項新的深偽工具，這些工具讓任何具備技術能力的網路駭客都能輕而易舉地從事詐騙取財、發動社交工程攻擊，以及避開資安防護。
偵測與打擊這些 AI 犯罪手法是企業改善攻擊面風險管理以及降低消費者整體網路風險的核心。趨勢科技調查顯示，有高達 71% 的消費者對深偽抱持著負面觀感，並相信深偽的最大用途之一就是詐騙。
趨勢科技接下來即將在 Trend Vision One 平台全新推出的深偽偵測技術，運用多種進階方法來偵測 AI 生成內容。除了影像雜訊分析與色彩偵測等技術，Vision One 平台還會分析使用者的行為元素來執行更強大的深偽偵測及攔截方法。在偵測的當下，趨勢科技便會立即通知企業資安團隊，讓他們有機會學習及獲得更新，並採取主動措施來防範未來的攻擊。
此外，該功能即日起也將經由 Trend Micro Deepfake Inspector 提供給一般消費者使用，可協助確認即時視訊會議當中是否有人正在使用深偽技術，並提醒使用者其目前談話的對象可能有人是假的。
Gartner 分析師 Dan Ayoub 表示，一些現成的高品質生成式 AI 應用程式現在已經可以產生逼真的視訊內容，足以騙過或誤導觀賞者。由於這些工具的使用門檻很低，而且越來越精密，因此有必要發展出一套可偵測生成式 AI 深偽內容的系統性方法。
深偽對現代企業和一般個人都是一項嚴重風險，只要一次不小心被深偽所騙，就可能面臨財務損失、丟掉工作、法律問題、名譽損失、身分遭冒用，以及潛在的精神或健康損害。在趨勢科技的
調查中顯示，36% 的消費者表示曾經遇到過深偽詐騙。而美國聯邦調查局（FBI）先前也曾警告大眾小心歹徒結合深偽技術與視訊電話來從事變臉詐騙（BEC），以及假裝應徵遠距上班工作的情況。
這不僅可能被濫用於騙過真人審查程序，還可能用來欺騙一些生物辨識安全機制，例如臉部辨識。趨勢科技研究也披露了最近資安情勢所出現的一些轉變，指出駭客越來越喜歡使用一些創新的越獄技巧來攻擊現有大型語言模型（LLM）的弱點，而非自行開發犯罪專用的 AI 工具。
在推動零信任策略的方針下，趨勢科技最近也為 Trend Vision One 推出新的功能來實現以下目標：
- 集中管理員工存取與使用生成式 AI 的情況。
- 檢查生成式 AI 指令（prompts）來防止資料外洩與惡意注入攻擊。
- 過濾生成式 AI 內容來達成法規遵循要求。
- 防範大型語言模型攻擊。
Trend Micro Deepfake Inspector 是一套免費的解決方案，是為提醒使用者注意視訊通話中的潛在深偽內容而設計。這項分析技術會在使用者的裝置上即時執行，確保資料和隱私隨時受到保護。
（首圖來源：趨勢科技）
線