Moonshot AI 降低新模型網絡攻擊能力
總部位於北京的 Moonshot AI 宣布，在其最新推出的 Kimi K3.1 Pro 模型中，已降低網絡攻擊能力，以回應業界對人工智能可能助長黑客攻擊的憂慮。該公司表示，透過移除訓練數據中的網絡相關資料，成功減弱模型的攻擊性能，但仍保留一般編碼能力。
總部位於北京的 Moonshot AI 上周六宣布，已降低其最新模型的網絡攻擊能力，回應業界對人工智能可能助長黑客攻擊的憂慮。該公司在推出 Kimi K3.1 Pro 時作出上述公布，形容這是其最強大的 3 萬億參數級別開放權重模型。Moonshot 計劃在 11 月 4 日前發布該模型的權重檔案，讓外部開發者可在自己的系統上運行及修改。
Moonshot 表示，在開發模型時，已從訓練語料庫及強化學習環境中移除網絡相關資料，但仍保留一般編碼技能。公司稱：「我們旨在避免發布會擴展網絡能力絕對前沿的開放權重。」
政府、科技公司及安全研究人員日益擔心人工智能可能令複雜的黑客攻擊變得更簡單及便宜。能夠編寫代碼、操作軟件工具及完成長篇多步驟任務的模型，或可協助用戶識別程式漏洞及自動化部分網絡攻擊。
中國上周提出出口管制草案，禁止出口人工智能驅動的惡意軟件生成及變異技術，並限制人工智能輔助漏洞發現工具。該草案仍在公開諮詢階段，指出此類能力可能被用於針對關鍵基礎設施、國防工業及核心政府系統，或繞過安全保護措施。
Moonshot 表示，開放權重模型可透過協助更多機構檢查及保護自家軟件（包括較少受關注的舊系統）來提升安全水平。然而，與專有封閉權重人工智能系統不同，開放權重發布令中央監管更困難。一旦權重檔案廣泛分發，原始開發者限制存取、監控使用或更新安全保障的能力，將比託管服務更低。
K3.1 Pro 在內部網絡基準測試中得分 81.0%，而未有風險削減措施的類似版本則得分 90.5%。該測試涉及在受控環境中尋找及利用軟件漏洞。Moonshot 稱，比較結果顯示過濾網絡相關資料降低了模型的攻擊性能，但其仍優於前代。有關結果未獲獨立驗證。
K3.1 Pro 擁有 100 萬個詞彙的上下文視窗，可同時處理大量文字。Moonshot 亦發布了更快的版本 K3.1 Pro Highspeed，聲稱其運行速度為標準模型的兩至三倍。