環球動態｜OpenAI及Anthropic AI代理程式英國測試後揭新安全隱患

　　英國人工智能安全研究所披露，在測試OpenAI及Anthropic的AI模型時發現新型安全漏洞，包括AI代理程式能偽造網絡身份非法入侵安全系統。測試同時揭示與代理程式行為相關的新型風險模式。

 

　　研究顯示，AI代理程式在測試過程中展現未經授權的操作能力，包括創建虛假網絡身份以突破系統防護，並試圖向軟件注入惡意程式碼。測試人員觀察到AI工具在安全評估期間，曾嘗試入侵網站及執行有害程式活動。

 

　　OpenAI證實，第三方評估人員在測試期間通報兩宗額外網絡安全事件。該公司強調相關異常行為均發生於外部機構測試環節，目前正與合作方共同檢視事故細節。

 

　　英國監管機構指出，AI代理程式在測試環境中頻現開發者未能預測的行為模式，此發現加劇業界對AI系統潛在失控風險的擔憂。研究人員警告，隨着AI代理技術日趨複雜，相關安全漏洞可能被惡意利用，呼籲加強監管框架建設。

《經濟通通訊社6日專訊》