法學期刊.
  • 社群分享
論著名稱: 刑事程序中人工智慧於風險評估上的應用(AI Risk Assessment in Criminal Justice)
編著譯者: 李榮耕
出版日期: 2022.03
刊登出處: 台灣/政大法學評論第 168 期 /117-186 頁
頁  數: 42 點閱次數: 329
下載點數: 168 點 銷售明細: 權利金查詢 變更售價
授 權 者: 李榮耕
關 鍵 詞: 人工智慧風險風險評估系統透明當責自動化依賴
中文摘要: 由於人工智慧技術日趨成熟,部分國家(如美國)已經開始在刑事程序中使用風險評估系統,預測特定人可能存有的風險,決定是否拘禁其人身自由或釋放條件。不過,建置風險評估系統的每一個環節中都有著人的主觀及價值判斷。再者,因為人工智慧技術的本質,風險評估系統會有黑盒運作的疑慮。是故,我們建議,若是要在刑事程序中使用風險評估系統,應該要遵循透明性的要求。此外,系統的使用也必須要具備其當責性,以確保系統達到其所設定的目標、結果的正確性及保障人民的人身自由等權益。再者,系統的評估結果不應作為刑事程序中決定的決定性因素,且應審視系統的建置目的與程序的規範目的是否一致。最後,風險評估系統的使用必須要避免自動化依賴的情形發生。
英文關鍵詞: Artificial IntelligenceRiskRisk Assessment SystemTransparencyAccountabilityAutomation Complacency
英文摘要: Due to the increasing maturity of artificial intelligence (AI), several countries (e.g., the United States) have applied such technology to construct risk assessment system as a way to predict certain people's risk of committing crimes and decide whether they should be detained or released. After thorough analysis, however, it is clear that the construction of risk assessment is not as just or objective as people might think. People's subjective decisions and value judgment exist in every stage of the construction of system. In addition, due to the nature of AI, the decision-making processes of the risk assessment system is often unclear, meaning that the system lacks transparency. Therefore, we suggest that such risk assessment system must comply with the transparency requirement, and the use of system should be in line with the accountability requirement to ensure the system meets the set goal, the accuracy of the of its outcome, and people's rights. Furthermore, the outcome of the risk assessment system should not be the determinative factor of the decisions in criminal procedure, and whether the function of the system is consistent with the purpose of the process should be verified. Finally, there should be effective mechanism to avoid automation complacency.
目  次: 壹、前言
貳、人工智慧及再犯風險評估
一、人工智慧的簡述
二、科技於刑事程序中的應用
三、人工智慧於司法中的應用
四、風險評估系統於刑事司法中的應用
五、刑事程序中的風險評(預)估(及其問題)
參、風險評估系統的建置
一、風險評估系統的概述
二、系統建置上的問題:「客觀」的風險評估系統
(一)資料的選擇及蒐集
(二)「再犯」概念的界定
(三)資料中影響再犯的因素為何
(四)資料的取捨及修改
(五)建構預測模型
(六)風險因子是否及如何加權
(七)個案數據的取得及輸入
(八)建構風險評估工具
(九)風險群組的建立
(十)正確性(accuracy)的審查
肆、運作上不透明/黑盒的疑慮
一、現象及其成因
二、相關疑慮及知悉原因的需要
(一)錯誤或是不合理之處的即時發現
(二)透明性及訴訟上的防禦權
伍、風險評估系統在使用上應依循的原則
一、透明性的要求
(一)相關資訊及事項的公開
(二)應對外揭露採用風險評估系統的標準及程序
(三)系統建置者易傾向於不公開相關資料
(四)透明化便足以正當化風險評估系統的使用(?)
二、當責性
(一)概念
(二)外部及民主參與
(三)使用時的應告知事項
(四)獨立的查核機制及事後的評估程序
三、不應作為唯一或決定性因素
四、刑罰的目的及再犯風險的評估
五、自動化依賴的預防
陸、結論
相關法條:
相關判解:
    相關函釋:
      相關論著:
      返回功能列