陈昌凤:应在善用算法的同时警惕数据主义

IT业界 5个月前 admin
29 0

中新经纬12月21日电 (薛宇飞)近日,清华大学社会科学学院社会学系、中国科学院学部-清华大学科学与社会协同发展研究中心主办了“伦理立场、算法设计与企业社会责任”研讨会。在研讨会上,清华大学新闻与传播学院常务副院长、教授陈昌凤指出,算法技术不再是一个简单的工具,已经开始影响社会形态,并产生了结构性的影响,这种社会形态被称为“平台社会”。

陈昌凤:应在善用算法的同时警惕数据主义

清华大学新闻与传播学院常务副院长、教授陈昌凤。主办方供图

她解释道,“平台社会”并不是把信息聚集在平台上,而是组织和用户之间交互的、可编织的结构,它带来的是数据驱动,通过算法应用、商业模型变革等产生影响。

另一方面,算法还影响着交往性质,也就是社会结构,因为信息平台最重要的用途是交往与传播,而交往与传播的性质在新的形态下已发生属性变革。

她表示,如今的信息传播已经与过去不一样,人们会运用算法技术,将过去发生的事情、现象进行总结,做成结构性模型,用模型去预测未来。例如,外媒的一篇报道中,模拟了一个公司不同性别、群体员工的晋升路线,最后会发现,在犯错误时,女性受到的惩罚比男性更严厉,男性的升职会更快。“算法和数据技术,给了我们透过现象洞察事物本质的机会与能力,这在过去是难以做到的。”

就算法伦理方面,陈昌凤分析了个性化与公共性、价值偏向、透明度、数据主义等几个热门问题。她称,价值偏向的问题各式各样,例如,ProPublica(注:美国一个在线新闻组织)曾做过机器偏向的系列调查报道,其中一篇关于种族偏向问题,一位持械抢劫的41岁白人,在算法系统中认定其危险系数为3(低危险),而一位偷窃自行车的18岁的黑人女孩,危险系数却被认定为8(高危险),引发大家对数据和算法模型的深层反思。

陈昌凤还提到,在使用数据服务于人类时,要警惕数据主义。她总结说,数据主义有三个倾向,一是无条件相信数据;二是算法决定一切,人类权利全部让步给算法;三是信息自由是最高的“善”,人类不要阻挡信息流的流通。

她指出,算法和数据技术正在不断提升人类的认识能力、助益人类的社会生活,但是新技术确实也带来了各种风险,引发人们的担忧,这如同过去所有新技术到来之时一样,人们都会有疑惑,这是必然的。人们应该学会如何善用新技术,把最核心的有益的部分使用起来,而不是因噎废食。

她最后表示,开发和使用算法时要有价值观的指导,从当前看,中国在使用算法方面具有优势的企业,是很重视算法善用的问题。(中新经纬APP)

(责任编辑:王治强 HF013)
版权声明:admin 发表于 2021-12-21 16:00:33。
转载请注明:陈昌凤:应在善用算法的同时警惕数据主义 | 1号视角

暂无评论

暂无评论...