【文匯網訊】當地時間3月10日上午，一架從埃塞俄比亞飛往肯尼亞的飛機墜毀，機組人員及乘客共157人全部遇難。失事飛機為波音「737MAX-8」型客機，這已是該型飛機繼印尼獅航2018年10月29日墜毀事故後，在5個月內的第2次失事。
初步分析，事故緣於空速管對飛機飛行狀態探測錯誤，機載「防失速系統」(MCAS)自動控制飛機完成了俯衝，暴露出智能化軟件設計存在的缺陷。
未來智能化作戰中，人類會賦予作戰系統一定權限，允許智能化系統在特定作戰背景、作戰條件下，滿足規定的範圍、條件或規則即可自主決策，實施機動、攻擊、防護等戰鬥行動。但是波音「737MAX-8」事故警示我們，無論計算機系統的智能決策系統如何先進，它的權限賦值應該始終低於人。
首先，建立人機互信，要增強智能化系統對操作人員通過腦波意識、語音指令、手動操作等多途徑傳達的意圖的理解，使得機器與人類形成目標的相同認知，在此基礎上才能賦予智能化作戰的相關賦權。其次，允許行動終止。一旦出現人與機器的衝突，或智能系統之間的相互衝突，必須允許人能及時進行干預、糾正或終止智能系統的行動。最後，突出人的最高賦權。系統邏輯中，如果多個智能系統相互衝突，必須將對人的信任度置於最頂層，必須交由人而非單個系統裁決衝突、解決矛盾；如果人與智能系統發生衝突，智能系統必須無條件服從人發出的指令。這樣，才能保證智能化系統的可信、可靠、可用，避免悲劇的發生。
（來源： 解放軍報）
責任編輯：喬一