由亞馬遜支持的初創公司Anthropic稱，中共政府黑客劫持其AI模型Claude進行網絡攻擊，幾乎無需“實質”人類參與。
You might also like
在周四（11月13日）的博客帖子中，這家初創公司表示，Claude處理了針對約30個全球目標的網絡攻擊的約“80-90%”，並“高度自信”中共政府贊助的團體是幕後黑手。
攻擊目標包括大型科技公司、金融機構、化工製造公司和政府機構。Anthropic表示，其滲透這些公司和機構的努力在“小量案例”中成功。
AI代理——能夠自主執行任務的程序——正日益被公司採用處理重複工作，如客戶支持。它們可以提高白領工人的生產力，但也可以被挪用於非法任務。8月，Anthropic表示它檢測並挫敗了網絡犯罪分子使用Claude進行小型團隊黑客行動。
雖然AI多年來在某種程度上已被用於黑客攻擊，但Anthropic表示，它相信這一新行動是第一個記錄的“大規模”網絡攻擊，主要由AI進行。
Anthropic表示，Claude有防範濫用的保障措施。然而，黑客通過將請求分解成不觸發警報的小塊成功越獄Claude。Anthropic補充說，黑客假裝為合法網絡安全公司進行防禦測試。
攻擊者隨後使用Claude Code對目標公司的數字基礎設施進行偵察，並編寫代碼破壞其防禦並提取數據，如用戶名和密碼。
Anthropic表示，它公開分享發現是為了幫助網絡安全行業改善對AI黑客的防禦。
“AI執行的工作量之大，將需要人類團隊大量時間，”Anthropic在博客帖子中表示。“AI每秒發出數千個請求——這種攻擊速度對人類黑客來說，簡直不可能匹敵。”
OpenAI和微軟也分享了國家使用AI進行網絡攻擊的報告——但那些案例主要利用技術生成內容和調試代碼，而不是自主執行任務。
互聯網安全公司ESET全球網絡安全顧問傑克·摩爾（Jake Moore）告訴商業內幕，這一事件並不令人意外。
“自動化網絡攻擊可以比人類主導的操作更快擴展，並能壓倒傳統防禦，”他說。“這不僅僅是我們許多人擔心的，而且更廣泛的影響是這些攻擊如何讓低技能行為者以相對低成本發起複雜入侵。”
雖然AI讓網絡犯罪分子和政府更容易進行攻擊，但它也被視為防禦解決方案的一部分。
“AI既用於防禦也用於進攻，因此安全同樣取決於自動化和速度，而非組織內部的人類專業知識，”摩爾表示。
中共統治人民的最重要手段就是欺騙。維持大面積的對華廣播不斷傳遞真相，就是持續地給中國注入希望。希望之聲誠邀您和我們一起攜手努力。歡迎點擊了解詳情。
