1. 程式人生 > 資訊 >中國科學院院士張鈸:人工智慧安全問題比資訊系統更難克服

中國科學院院士張鈸:人工智慧安全問題比資訊系統更難克服

8 月 3 日晚間訊息,全球數字經濟大會期間,中國科學院院士、清華大學人工智慧研究院院長張鈸指出,人工智慧安全問題比資訊系統更難克服,人工智慧治理不僅要從法律法規、倫理規範等層面去“治標”,同時還應從技術創新層面發力去“治本”。

人工智慧在純技術層面是價值中立的,但在實際應用中則往往兼具創造性和破壞性。資料隱私、演算法偏見、技術濫用等安全問題,正給社會公共治理與產業智慧化轉型帶來嚴峻挑戰。

在張鈸看來,“人工智慧與資訊系統在安全性上有著顯著區別。資訊系統安全性問題主要是軟體設計中的漏洞,容易被解決。而第二代人工智慧的安全性問題主要來自深度學習演算法本身的不安全,更加本質、更難克服。”張鈸指出,為防止人工智慧被誤用、濫用,人工智慧的治理首先需要從法律法規、倫理規範、行業共識等不同層面去“治標”,同時還應從技術創新層面發力去“治本”。