算法影響評估制度的實踐路徑分析
網(wǎng)絡(luò)安全與數(shù)據(jù)治理
王宇曉1,2，吳少卿2，張靜怡1,2
1.中國信息通信研究院； 2.移動應(yīng)用創(chuàng)新與治理技術(shù)工業(yè)和信息化部重點實驗室
摘要： 算法影響評估制度作為國內(nèi)外算法治理的基礎(chǔ)性制度，是當(dāng)前階段算法治理的主要方案，但在應(yīng)用實施過程中仍存在評估對象泛化、評估方法透明性不足的問題，需進一步細(xì)化。聚焦分析算法影響評估制度在應(yīng)用實施過程中應(yīng)關(guān)注的評估對象、評估內(nèi)容和評估方法，提出在實際評估過程中應(yīng)根據(jù)初步風(fēng)險對算法評估對象分類分級，加強對以機器學(xué)習(xí)為基礎(chǔ)的復(fù)雜算法的評估，重點關(guān)注算法的應(yīng)用環(huán)節(jié)，重點評估算法輸入的數(shù)據(jù)與特征、輸出的目標(biāo)與結(jié)果、干預(yù)與保障措施以及個人權(quán)利響應(yīng)。
中圖分類號：TN919;D922.16文獻標(biāo)識碼：ADOI:10.19358/j.issn.2097-1788.2024.10.009
引用格式：王宇曉，吳少卿，張靜怡.算法影響評估制度的實踐路徑分析［J］.網(wǎng)絡(luò)安全與數(shù)據(jù)治理，2024，43（10）：57-61.
引用格式：王宇曉，吳少卿，張靜怡.算法影響評估制度的實踐路徑分析［J］.網(wǎng)絡(luò)安全與數(shù)據(jù)治理，2024，43（10）：57-61.
Practical solutions of algorithm impact assessment system
Wang Yuxiao1,2,Wu Shaoqing2, Zhang Jingyi1,2
1.China Academy of Information and Communications Technology；2.Key Laboratory of Mobile Application Innovation and Governance Technology, MIIT
Abstract： As the basic system proposed in the first stage of algorithm governance, the algorithm impact assessment system is the main solution for algorithm governance at the current stage. However, during the application and implementation process, there are still problems of generalization of assessment objects and insufficient transparency of assessment methods, which need to be further elaborated. This article focuses on analyzing the objects, assessment content and assessment methods that should be assessed during the application and implementation of the adjustment impact assessment system. During the actual assessment process, it is proposed to initially classify and grade the adjustment assessment objects based on risks, and strengthen the use of machine learning-based algorithms. Evaluation focuses on the application stage of the algorithm, focusing on the input data and feature complexity of the algorithm, the output goals and results, intervention and safeguard measures, and individual rights responses.
Key words : algorithmic impact assessment;algorithmic risk;algorithmic governance;classification and grading
引言
隨著人工智能技術(shù)的迅速發(fā)展，算法廣泛應(yīng)用于社會生活的方方面面，與此同時，算法帶來的安全風(fēng)險引起了廣泛關(guān)注［1］。面對日益攀升的算法治理壓力，算法影響評估制度（Algorithm Impact Assessment）作為重要的治理方法被提上中外立法議程，成為當(dāng)下算法治理實踐中矚目的焦點［2］。算法影響評估制度是指依據(jù)系統(tǒng)制定的衡量標(biāo)準(zhǔn)對算法自動化決策系統(tǒng)的系統(tǒng)設(shè)計、應(yīng)用流程和數(shù)據(jù)使用等內(nèi)容進行全面評估，以明確該系統(tǒng)的風(fēng)險等級和影響范圍的一種算法治理實踐［3］。本文主要剖析在算法實際應(yīng)用過程中，算法影響評估制度應(yīng)重點關(guān)注的評估對象與范圍、評估內(nèi)容中的要點和細(xì)化方法，以及對推動算法影響評估制度落地提出相關(guān)建議。
本文詳細(xì)內(nèi)容請下載：
http://www.rjjo.cn/resource/share/2000006197
作者信息：
王宇曉1,2，吳少卿2，張靜怡1,2
（1.中國信息通信研究院，北京100010；
2.移動應(yīng)用創(chuàng)新與治理技術(shù)工業(yè)和信息化部重點實驗室，北京100010）
此內(nèi)容為AET網(wǎng)站原創(chuàng)，未經(jīng)授權(quán)禁止轉(zhuǎn)載。