香港大學測試22種AI模型的圖像生成能力,結果DeepSeek是最後一名,呵呵呵~~詳見:https://www.pcmarket.com.hk/hku-aimodelrankings-image_generation/
DeepSeek破解率100%!R1上市2天就被破解 專家曝衍生效應
2025-03-06 12:37 聯合報/ 編譯
中國人工智慧(AI)新創「深度求索」(DeepSeek)以低成本、高性能的模型震撼矽谷乃至國際社會。不過,全球網路安全巨頭思科(Cisco Systems)執行副總裁巴特爾(Jeetu Patel)透露,DeepSeek的R1模型上市不到48小時便被破解,攻擊成功率達100%,造成「DeepSeek效應」(DeepSeek effect),也就是AI模型成本下降後數量激增,顯著加劇該領域的安全風險。
DeepSeek破解率100%!R1上市2天就被破解 專家曝衍生效應
2025-03-06 12:37 聯合報/ 編譯
中國人工智慧(AI)新創「深度求索」(DeepSeek)以低成本、高性能的模型震撼矽谷乃至國際社會。不過,全球網路安全巨頭思科(Cisco Systems)執行副總裁巴特爾(Jeetu Patel)透露,DeepSeek的R1模型上市不到48小時便被破解,攻擊成功率達100%,造成「DeepSeek效應」(DeepSeek effect),也就是AI模型成本下降後數量激增,顯著加劇該領域的安全風險。
巴特爾(Jeetu Patel)告訴日經亞洲,當模型數量較少時,面對的挑戰相對較小,但隨著模型數量激增,這些挑戰將變得更加複雜,「因此,需要確保所有模型都內建安全防護標準」。
巴特爾表示,思科團隊在DeepSeek推出R1模型僅48小時內便成功「越獄」,破解原先設定的操作規範和限制。
此外思科評估報告顯示,攻擊R1的成功率為100%,也就是說,它無法阻擋任何有害提示(prompt)。提示是指請求生成式AI執行特定任務的自然語言文字。相形之下,OpenAI的AI模型被攻擊成功率為26%。
巴特爾談到,AI模型部署將遭遇許多「瓶頸」限制。他說:「我們的效能、網路連結、連接性都是瓶頸。安全也會是限制。計算、數據都會是限制。」
沒有留言:
發佈留言