陈玲:将算法治理的“可接受公平”框架落到实处

IT业界 5个月前 admin
29 0

中新经纬12月21日电 (张燕征)近日,清华大学社会科学学院社会学系、中国科学院学部-清华大学科学与社会协同发展研究中心主办了“伦理立场、算法设计与企业社会责任”研讨会。清华大学公共管理学院副教授陈玲在研讨会上指出,可从数据、算法、人类行为三个层面入手,建立一个“可接受公平”的整体框架,关注算法治理的起点、过程和结果公平,促进AI的创新发展和善治。

陈玲:将算法治理的“可接受公平”框架落到实处

清华大学公共管理学院副教授陈玲。来源:主办方供图

“不管哪个国家、经济体或产业部门,各方都把公平作为算法治理的一个起点性要求,但实际上关于什么是算法公平,大家却没有共同可接受的内容。”陈玲认为,公平有不同的定义,至少应先建立一个基础框架,从共识的角度去理解“可接受公平”。

公平可分为起点公平、过程公平、结果公平,陈玲建议针对不同阶段的公平来制定相应的公平准则。“例如,我们将数据作为起点公平的对象,首先我们希望用于训练算法模型的数据集本身是完整的,数据集不偏向于男性或女性、白人或黑人等。其次,数据集应当是开放的、用户可以自己选择进入或退出数据集。若数据集完整且开放,至少可以在最低限度上保证算法的起点公平。”陈玲称。

在陈玲看来,算法程序的透明、可追溯、可问责,有利于促进算法的过程公平。例如通过企业内设的算法伦理委员会或外部监管机构,可以核查、追溯到算法任意模块或环节的问题,进而确定每一个模块或环节的可问责对象,这可以在最低限度上确保算法的过程公平。

“结果公平是人们最直观、最朴素的公平诉求。人们看到的算法推荐或AI决策,希望这些是可计算、可预期和可解释的。”陈玲举例称,很多时候人们可以接受一些歧视定价或者专门推荐,比如保险的差别定价,本质上是因为它符合人们的预期,而不是结果均等。“所以,算法推荐结果的可计算、可预期、可解释,而不是决策结果的均等化,是结果公平的最低起点。”

那么如何建立一个可接受公平的整体框架?在陈玲看来,可从数据、算法、人类行为三个层面入手。“数据的完整性、准确性、开放性,算法的透明、可追溯和可问责,结果的可计算、可预期、可解释,这是大家可接受的公平底线;那些尚存争议或技术上有待解决的部分,可以作为算法公平的调适区间,随着调适水平提高,算法公平的共识底线也可以逐步提高。”

那么,算法公平的规则体系具体该如何落地?陈玲表示,法律提供了一个最低限度的公平底线,算法伦理的要求往往高于法律。可以从私法、公法、全球秩序三个层面来研究现有法律体系的规制现状,找到可接受公平的共识起点。

“全球立法或治理规定,对我们有两点启示:一是在中国国内现有的法律和行政法规体系下,建议推出不同层面的策略,包括算法公平政策、虚假信息准则、可信的透明度准则等;二是兼顾创新和数字经济的发展,尊重客观的现实条件,吸引更多的工程师和不同领域的专家参与到规则制定过程中。”陈玲称。(中新经纬APP)

(责任编辑:王治强 HF013)
版权声明:admin 发表于 2021-12-21 14:58:37。
转载请注明:陈玲:将算法治理的“可接受公平”框架落到实处 | 1号视角

暂无评论

暂无评论...