白婷：用量化不公平的方式来界定可接受算法公平的阈值

　　中新经纬3月24日电 (王玉玲)近日，由中国人民大学高瓴人工智能学院、智能社会治理跨学科交叉平台和基于大数据文科综合训练国家级虚拟仿真实验教学中心联合主办的算法公平性与内容生态建设研讨会在线上举行。北京邮电大学计算机学院助理教授白婷表示，以往不管是工业界还是学界，都更侧重于个性化推荐算法的精度，但是，这几年大家慢慢开始关注社会伦理、价值观的需求，兼顾公平性。

　　白婷表示，公平性很难界定，“虽然我们并不知道什么样的东西是公平的，但是我们能够很明确感觉到什么东西是不公平的，比如说大数据杀熟，或者是性别歧视等，我们对于公平性的思考是源于对不公平性现象的体会。”白婷说道。

　　由此，白婷认为，或许可以换个角度，不去界定公平性，而是去量化不公平性的后果，来界定可接受公平性的阈值，其中包括：第一，量化不公平性的后果。我们可以明确不公平会导致哪些后果，这些后果是否是可接受的，用一个量化标准去评价，如果发生不公平现象的话，它会有什么样的后果。第二，明确评价不公平的指标。比如说不公平体现在哪些方面，制定一些明确的指标去衡量它的不公平性。第三，考虑模型层面的通用性。我们需要对推荐系统的推荐结果进行分析，在模型层面上，我们现阶段可以用白盒去模拟，但很多平台是用黑盒的方式，如果我们不能接触到该平台的推荐算法，就需要有一个通用的模型。第四，针对推荐算法公平性的预警。当发生过度不公平推荐结果的时候，我们会采取算法评估层面的警示以及干预措施，从而出台相应的监管机制，达成对算法的监管。(中新经纬APP)

　　中新经纬版权所有，未经书面授权，任何单位及个人不得转载、摘编或以其它方式使用。

原文链接： http://www.zdm5.com/article-206017.html

本站声明:网站内容来源于网络,本站只提供存储，如有侵权,请联系我们,我们将及时处理。