AI治理刻不容緩，安全應貫穿開發全流程

時間：2025-10-17 18:42:55 標簽: 254 0

在2025年可持續全球領導者大會上，牛津大學計算機科學系導師、艾倫·圖靈研究所研究員佩塔爾·拉達尼列夫發表了主題演講，聚焦人工智能的快速發展與潛在挑戰。作為《AI智能體的崛起》一書的作者，他結合自身研究經驗，為全球AI治理提供了前瞻性見解。

佩塔爾指出，人工智能技術正以驚人速度滲透各行各業，它既是推動創新的引擎，也潛藏著不容忽視的風險。一方面，AI在醫療、交通和教育領域取得突破性進展；另一方面，安全漏洞和倫理問題若處理不當，可能引發系統性危機。他強調，構建可靠的安全框架應從研發初期著手，而非事后補救。

自2018年GPT模型問世以來，公開可用的AI模型數量已超過1600個，這些工具在癌癥藥物研發、自動駕駛技術優化等方面展現出巨大潛力。然而，佩塔爾提醒，技術濫用同樣值得警惕：例如，年輕黑客利用暗網中的生成式AI實施詐騙，或AI系統因“幻覺”問題輸出錯誤信息，這些都可能對社會穩定構成威脅。

當前許多企業過于追求開發速度，而忽視了安全標準的重要性。佩塔爾以“睡眠智能體”為例，說明惡意程序可能長期潛伏于關鍵基礎設施（如醫療系統或導航網絡），且傳統檢測手段難以識別。這種隱蔽性威脅一旦爆發，將嚴重損害用戶信任，最終反噬業務發展。

為解決這一問題，佩塔爾主張將安全邏輯嵌入AI設計全流程。無論是量子AI還是下一代操作系統，都需建立類似“防護欄”的機制，并通過“AI物料清單”追溯數據來源，提升透明度。只有將安全作為技術發展的基石，才能最大限度釋放AI的正面價值，避免其淪為雙刃劍。

本次可持續全球領導者大會由世界綠色設計組織與新浪集團聯合主辦，國際財務報告準則基金會北京辦公室協辦，上海市黃浦區人民政府提供支持。大會以“攜手應對挑戰：全球行動、創新與可持續增長”為主題，匯聚全球各界領袖，共同探索可持續發展新路徑。

作為往屆ESG全球領導者大會的升級版，本屆活動邀請了約500位中外嘉賓，包括政要、國際組織代表、諾貝爾獎與圖靈獎得主，以及全球500強企業負責人。議題覆蓋能源轉型、綠色金融、可持續消費與科技創新等領域，旨在通過多元對話推動全球治理進程。

點贊()

配查查作為開放的資訊分享平臺，本內容由DeepSeek潤色后改寫，與配查查平臺立場無關，且不構成任何投資理財建議。如若轉載請標注文章來源：配查查。

熱門專題