強化學習中機率安全邊界與風險累積分析( I );Probabilistic Safety Bounds and Risk Accumulation Analysis in Reinforcement Learning( I )

NCUIR > College of Electrical Engineering & Computer Science > Department of Communication Engineering > Research Project > Item 987654321/99007

Please use this identifier to cite or link to this item: https://ir.lib.ncu.edu.tw/handle/987654321/99007

Title:	強化學習中機率安全邊界與風險累積分析( I );Probabilistic Safety Bounds and Risk Accumulation Analysis in Reinforcement Learning( I )
Authors:	陳昱嘉
Contributors:	國立中央大學通訊工程學系
Keywords:	強化學習;安全邊界;馬可夫決策過程;拉格朗日對偶方法;安全探索策略;Reinforcement Learning;Safety Bound;Markov Decision Process;Lagrangian Dual Method;Safe Exploration Strategy
Date:	2026-01-22
Issue Date:	2026-01-23 16:25:13 (UTC+8)
Publisher:	國家科學及技術委員會(本會)
Abstract:	本研究計畫的核心目的在於創建一個基於鞅理論（Martingale Theory）的可驗證 AI安全框架，目標解決當前強化學習應用於真實世界時，無法對其學習與適應過程本身提供可靠安全保證的關鍵難題。計畫將從理論層面出發，為AI的累計決策風險建立嚴謹的數學邊界，並進一步設計能即時監測與主動控制自身風險的自適應演算法，最終實現能在偵測到災難性風險時立即中止的硬性安全保障，將AI安全從經驗性的事後驗證，提升至可預測、可控制、可認證的科學領域。此研究的成功，預期將產生深遠的影響。在社會層面，它將透過提供透明且可信賴的安全證明，建立公眾對AI在自駕車、智慧醫療等關鍵領域應用的信任，並為相關監管法規的制定奠定科學基礎。在經濟層面，這將大幅降低企業部署AI的風險與成本，解鎖過去因安全疑慮而無法進入的高價值市場，並催生AI安全認證與審計等新興產業。對於產業發展而言，本計畫將突破工業4.0、6G通訊與自主系統等前瞻領域的技術瓶頸，提供從模擬走向現實應用的關鍵賦能技術，進而強化我國在可信賴AI此一全球戰略領域的技術話語權與國際競爭力。
Relation:	財團法人國家實驗研究院科技政策研究與資訊中心
Appears in Collections:	[Department of Communication Engineering] Research Project

Files in This Item:

File	Description	Size	Format
index.html		0Kb	HTML	5	View/Open

社群 sharing

Loading...