AI評測指引草案預告 風險分4級企業可評估送測
請同意我們的隱私權規範,才能啟用聽新聞的功能。 請同意我們的隱私權規範,才能啟用聽新聞的功能。 (中央社記者蘇思云台北29日電)數位部數產署今天預告人工智慧(AI)產品與系統評測參考指引草案,參考歐盟作法,AI產品與系統可分成4種風險等級,企業可以先自我檢核評估風險,建議高風險的產品與系統可送AI評測中心,力拚今年上半年發布指引。 數位部去年底舉行AI產品與系統評測中心啟動儀式,初步規劃以語言模型作為評測對象。數位部數位產業署今天表示,參考美國國家標準暨技術研究院(NIST)的框架與歐盟人工智慧法草案等,訂定指引草案,希望讓產業在開發、使用AI產品與系統時可以有所依循,確保產品是可信任且安全的。 數產署說明,根據草案內容,可分成2大部分,第1是基本規範,第2是基本檢測基準。基本規範部分,參考歐盟人工智慧法草案,AI產品與系統可分成4個風險等級,包含無法接受的風險、高風險、有限風險與低風險,企業可先行自我檢核評估風險,建議高風險的AI產品與系統可送AI評測中心;基本檢測基準主要是AI評測的流程。 根據草案內容,如果AI產品與系統屬於無法接受的風險等級時,將禁止使用。若屬高風險,業者可視應用領域進行評測,目前規劃10大評測項目,主要包含安全性、可解釋性、彈性、公平性、準確性、透明性、當責性、可靠性、隱私、資安等項目。 參照歐盟法規,屬於高風險的AI產品與系統包含關鍵基礎設施、遠距生物特徵識別辨識系統、就業相關的自動招募或履歷篩選軟體、執法系統的測謊與預防犯罪等評估、旅行證件真實性查核或簽證處理等。 如果AI產品與系統屬於有限風險時,可由企業判定是否需進行評測,相關應用包含聊天機器人、生成深偽電玩遊戲的系統等,應該在民眾使用前,明確告知與系統互動所可能產生的負面影響。若屬低風險者,由企業自行管理,相關應用包含電玩遊戲、垃圾郵件分類等系統。 訂閱《早安世界》電子報 每天3分鐘掌握10件天下事 請輸入正確的電子信箱格式 請輸入正確的電子信箱格式 訂閱 感謝您的訂閱! 數產署官員說明,AI評測指引是先針對數位部所屬產業為基礎,像是資訊、電信、傳播、資安、網際網路等產業,提出一般性AI評測的框架指引,其他產業也可參考。不過,像是醫療、金融、自駕車等產業涉及其他領域的專業知識,其他主管機關也可以參考這份草案架構,再訂出相關指引。 數產署官員表示,指引並沒有強制性,也未強制企業產品必須送AI評測,草案預告後會蒐集外界意見看是否需要修正調整,並送到AI評測中心制度推動委員會審議,力拚今年上半年發布指引。最後執行評測工作時,也會邀其他產業主管機關討論適合的AI評測機制與標準。(編輯:潘羿菁)1130329