[轉載]美DIB設5大原則樹立AI武器道德－阿步的部落格

編譯江昱蓁／綜合外電報導

有鑑於「人工智慧」（AI）領域的革命已然來到，為說服世人相信美軍以負責任的態度使用這項技術，五角大廈國防創新委員會（DIB）日前針對戰鬥與非戰鬥AI技術於戰場的應用，設立5大道德原則。不過，該委員會決議不具拘束力，端視五角大廈是否採用。

DIB為一獨立委員會，由學界與業界人士共同組成，以提供國防部政策建議。該委員會歷經15個月的研究，從輿論的收集、公聽會的舉行，到邀請AI專家進行圓桌論壇，終於針對AI設定使用的5大原則。此外，國防部也成立原則與倫理工作小組協助DIB。

DIB通過的5大原則，包括：責任性、合理可預期性、透明性、可靠性，以及可控制性。

針對責任性，DIB認為人類應對AI系統的研發、部署、使用與結果負責，而整個過程，人類需行使適當的判斷力。至於合理可預期性，國防部應採取措施，避免戰鬥與非戰鬥AI系統在研發與部署過程中，出現不可意料的偏差，因而造成人類的傷害。

在透明性方面，國防部的AI科技在研發、操作過程，或是數據源、研發文件等，都應透明且可驗證。此外，國防部應明確界定AI系統的使用範圍，並在該系統的生命週期內予以測試，以確保安全性及可靠性。至於可控制性，除應確保AI系統能實現預期功能，也須檢測與避免該系統意外傷害；在該系統行為脫序時，也能人為介入停止其行為。

DIB並呼籲五角大廈投入更多資源至AI研發、培訓、倫理與相關評估。