回到首頁
個人.家庭.數位化 - 數位之牆



產業動態 微軟最新《Cyber Signals》研究
頤德國際 本新聞稿發佈於2024/02/20,由發布之企業承擔內容之立場與責任,與本站無關

微軟發布第六期《Cyber Signals》研究報告,揭示攻擊威脅者如何運用AI提升攻擊效率並進行身份欺詐,以及微軟與OpenAI及MITRE 合作,透過 AI 的威脅偵測、行為分析、機器學習模型、零信任原則以及加強驗證,保護自身免受這類網路威脅攻擊侵害。

 
■ 發布/輪播新聞稿 新聞稿直達14萬電子報訂戶刊登新聞稿:按此
 
(2024 年 2 月 20 日,台北)在資安領域,人工智慧(AI) 正引領一場巨大變革,AI 可協助企業組織以高速擊敗網路攻擊、解決資安人才短缺問題,並推動資安的創新和效率;攻擊威脅者也可利用 AI 提升攻擊效率及範圍。微軟發布第六期《Cyber Signals》研究報告,揭示攻擊威脅者如何運用AI提升攻擊效率並進行身份欺詐,以及微軟與OpenAI及MITRE 合作,透過 AI 的威脅偵測、行為分析、機器學習模型、零信任原則以及加強驗證,保護自身免受這類網路威脅攻擊侵害。

微軟與 OpenAI 及MITRE 合作 揭示國家級攻擊威脅行為的手法與路徑

為了確保安全、負責任地使用 ChatGPT 等 AI 技術,應堅持道德應用的最高標準,以保護社群免受潛在的AI濫用。微軟與 OpenAI 合作,揭露有關追蹤國家型攻擊者的手法與路徑,包括來自:俄羅斯的Forest Blizzard、北韓的Emerald Sleet、伊朗的Crimson Sandstorm、以及中國的Charcoal Typhoon 和 Salmon Typhoon。這些攻擊者試圖使用大型語言模型(LLMs)來增強其正在進行的網路攻擊行動。這項重要的研究揭示微軟觀察到這些攻擊者在 AI 方面採取的早期行動,並記錄微軟如何阻止他們的活動,以保護 AI 平台和用戶。

微軟亦公布指導及採取行動的原則,以減輕因為國家型持久攻擊威脅者、持久操縱者和使用 AI 平台和 API 的網絡犯罪集團帶來的風險。這些原則包括:識別和對惡意威脅行為者的行動、通知其他AI服務供應商的使用、與其他利害關係者合作以及提升透明度。

此外,微軟與 MITRE 合作,將這些 LLMs 主題的戰術、技術和程序(TTPs)整合到 MITRE ATT&CK® 框架或 MITRE ATLAS™(人工智慧系統對抗性威脅情境)知識庫中,以幫助更廣泛的資安社群了解和偵測大型語言模型 LLMs 在攻擊活動中的新藍圖。

AI 技術引發詐欺事件 身份驗證系統面臨挑戰

AI 引發的詐欺事件也是另一重要議題;語音合成技術的濫用就是一個例子,三秒的語音樣本可以訓練模型使其聽起來像任何人。必須了解惡意行為者如何利用 AI 破壞長期存在的身份驗證系統,以便應對複雜的詐欺案件和其他掩蓋身份的新興威脅。

然而,AI 可以用來幫助公司阻止詐欺企圖。舉例來說,微軟過去停止了與巴西一家公司的合作,但微軟的 AI 系統偵測到該公司仍試圖改變身份以重新進入微軟的生態系統,微軟的 AI 偵測便使用了十幾個風險訊號來標記詐欺公司,並將其與先前識別的可疑行為聯結起來,從而阻止其非法嘗試。

此外,微軟也建議企業組織加強員工網路風險教育:

1. 採用條件式存取原則,以強化組織安全態勢。

2. 進行社交工程 (Social Engineering) 教育訓練,以識別威脅並即時做出反應。

3. 嚴格保護資料的機密和可控性。

4. 利用生成式 AI 資安工具,如Microsoft Copilot for Security。

5. 啟用多重身份驗證。

因應網路攻擊者利用 AI 提高攻擊效率 微軟提四大應對建議

網絡犯罪分子和國家支持的攻擊行為者正在尋求利用AI(包括LLMs)來提高攻擊的速度及範圍,並利用可以進一步實現其目標和攻擊及技術的平台。儘管攻擊威脅行為者的動機和複雜程度各有不同,但在佈署攻擊時,他們的共同任務包括偵察、編碼和協助學習及使用人類和機器語言。微軟採用了多種方法來保護自身免受這類網絡攻擊威脅的侵害,包括人工智慧的威脅偵測、行為分析、機器學習模型、零信任原則以及加強驗證等。

針對企業組織,微軟也提出四大建議應對網路威脅:

1. 限制 AI 存取的範圍並持續評估應用的合適與合規性。

2. 防範指令提示造成的風險:企業應實施嚴格的輸入驗證和清理,以降低指令產生的風險。

3. 要求整個 AI 供應鏈保持透明度:企業應評估 AI 可與組織數據接觸的所有領域,包括透過第三方合作夥伴和供應商,並透過零信任和數據治理計劃來降低風險。

4. 明確與員工溝通企業的 AI 使用和風險政策。

此外,生成式 AI 可以高速幫助資安防禦者保護其組織,AI在資訊安全的作用是推動多面向的創新並提高防禦效率,從強化攻擊威脅的偵測到簡化資安事件回應,AI的能力正在重塑資安。LLMs在資安的應用證明了AI的潛力,這些模型可以分析大量數據,揭示網路攻擊威脅的模式和趨勢,為攻擊威脅情報提供有價值的背景資訊。使用Microsoft Copilot for Security的用戶在所有任務上的準確性提高了44%、速度提升了26%,皆突顯了將AI整合到資安防禦中的重要性與效益。

AI賦予我們適應並防禦不斷變化的威脅,能夠即時偵測異常、快速回應以阻絕風險,並根據組織的需求量身定制防禦策略。此外,AI還有助於解決全球400萬名資安專業人才的缺口,並幫助防禦者提高防禦的速度與效率。

AI帶來新的能力,也帶來了新的風險。AI不僅是一個工具,而是資安領域的典範轉移。它使我們能夠抵禦複雜的網路攻擊威脅,並適應動態的攻擊威脅環境。完整報告請參考 Cyber Signals 網站及第六期《Cyber Signals》研究報告,並可從部落格文章中閱讀更多內容。欲進一步了解網路犯罪經濟以及企業如何保護自己,請參考微軟安全部落格。

- 新聞稿有效日期,至2024/03/22為止


聯絡人 :鄧文勤
聯絡電話:02-27043024 #168
電子郵件:peter@veda.com.tw

上一篇:Orient Star東方之星Skeleton系列上市十周年
下一篇:珠寶雙展下周隆重舉行 疫後首復「兩展兩地」



 
搜尋本站


最新科技評論

我在中國工作的日子(十四)阿里巴巴敢給股票 - 2023/07/02

我在中國工作的日子(十三)上億會員怎麼管理 - 2023/06/25

我在中國工作的日子(十二)最好的公司支付寶 - 2023/06/18

我在中國工作的日子(十一)兩個女人一個男人 - 2023/06/11

我在中國工作的日子(十)千團大戰影音帶貨 - 2023/06/04

我在中國工作的日子(九)電視購物轉型電商 - 2023/05/28

我在中國工作的日子(八)那些從台灣來的人 - 2023/05/21

我在中國工作的日子(七)嘉丰資本擦身而過 - 2023/05/14

我在中國工作的日子(六)跟阿福有關的人們 - 2023/05/07

■ 訂閱每日更新產業動態
RSS
RSS

當月產業動態

Information

 

 


個人.家庭.數位化 - 數位之牆

欲引用本站圖文,請先取得授權。本站保留一切權利 ©Copyright 2023, DigitalWall.COM. All Rights Reserved.
Question ? Please mail to service@digitalwall.com

歡迎與本站連結!