全球 AI 資安挑戰與應對

隨著人工智慧（AI）技術的快速發展，全球各地都在積極尋找有效的監管方式，以確保 AI 的安全與穩定。最近，全球數位產業聯盟協進會（GDDA）舉辦了「國際 AI 資安論壇」，邀請了多位專家和學者，共同探討 AI 帶來的資安挑戰。

從國際監管來看，歐盟（EU）的腳步無疑是最快的，今年 5 月，歐盟（EU）率先推出了全球首部 AI 監管法，而台灣方面，國科會也於今年7月推出了「AI 基本法」草案，目前正在積極籌備制定法案內容，以確保 AI 技術在台灣健康發展的同時，也能最大程度保障資安問題。

台灣資安產值與風險挑戰

從數據來看，行政院上週通過新一期 4 年國家發展計畫，其中 AI 產業部分，目標設定半導體新增產值新台幣 2 兆 6578 億元、AI 產值則會在 115 年突破兆元。

然而，隨著 AI 技術的進步，各種潛在風險也隨之而來。例如，大型語言模型（LLM）可能面臨提示詞注入（Prompt Injection）攻擊的風險，意即有心人士能夠透過特定的文字提示，引導 AI 系統揭露機密資訊。

數位發展部長黃彥男在 19 日的論壇上指出，有時 AI 在面對不合道德的問題時會拒絕回答，但若換成別的提問方式，AI 卻可能會如實回答。

此外，目前已經有不少駭客透過 AI 幫助開發惡意軟體、社交工程或利用自然語言生成技術加強網路釣魚，犯罪手法伴隨 AI 的發展日新月異，是當下政府必須著重規範和監管的課題。

黃彥男指出，國科會推出的「AI 基本法」草案將重點放在隱私保護和人權保障上，而數發部則將重點放在制定「AI 風險分級框架」，參考國際標準，根據風險級別將 AI 應用劃分為高、中、低風險三類，預計將於年底前推出。

黃彥男強調，數發部正在研擬的 AI 風險分級框架，預計將涵蓋所有 AI 和資安相關的潛在風險，提供給各主管機關根據不同的風險級別，制定相應的應對措施和法規規範。

隨著「AI 基本法」草案和「AI 風險分級框架」的推出，未來台灣的監管框架將有望為 AI 技術的發展提供更加完善的保障，力求在確保 AI 技術的安全性和穩定性的同時，也提高 AI 技術的可信度，增強台灣在國際市場上的競爭力。