· 可靠安全性(Safety)是指軟件具有設計要求的功能,在運行時不引起危險、災難的能力。
· 保密安全性(Security)是指軟件具有對數據和信息提供保密性、完整性、可用性、真實性的保障能力。
程序的正確性是指程序具有用戶所期望的性質,既具備可靠安全性又具備保密安全性。一般軟件的可靠和安全是通過測試來保障的,而高可信軟件可以通過使用分析和驗證工具來獲得更高保障。
計算機軟件故障給全球經濟每年都會帶來重大損失:
軟件測試等手段可以在一定程度上可以提高軟件質量,但是無法從根本上保證產品的安全可靠性。因此,高可信軟件技術具備廣闊的應用前景和巨大的經濟效益。各領域特別是安全攸關的關鍵領域將受益于高可信軟件的產品和技術。
1985 年到 1987 年期間,Therac-25 醫療放射治療裝置基于輸入數據的順序, 治療計劃軟件計算并提供了雙倍劑量的輻射,讓成百上千的患者暴露在大量過量的輻射之中,少數患 者接受了高達預期 100 倍的放射劑量。最終導致4人死亡,2人重傷。
1991年2月25日,一個愛國者導彈連在作戰4天后,由于跟蹤軟件出現0.36秒的 累積時間誤差而未能成功地攔截飛向沙特宰赫蘭兵營的飛毛腿導彈,致使美軍28名士兵喪生,98名士兵受 傷。這次攔截失敗是因為愛國者導彈系統的跟蹤門由于軟件的時間誤差未對準來襲的飛毛腿導彈。
波音 737 MAX 8 半年內出現兩起嚴重墜機事故, 最終導致346人罹難。原因均為飛機的迎角傳感器“數據錯誤”觸發“防失速”自動操作, 導致機頭不斷下壓,飛行員多次手動拉升無效,最終飛機墜落。