CVPR 2022：微笑识别也带同性恋？浙大武大联合蚂蚁Adobe做框架

作者：董小威

华东师范大学

AI假设不存在性取向怎么办？

近年来，AI在多个领域展现出超卓的性能，给有机体家庭造成了便捷和改善。

与此同时，不少AI管理系统被发现不存在对特定小团体的性取向或者歧视现象。

暴力犯罪得出管理系统COMPAS在美国被广泛使用，通过得出再一暴力犯罪的不太可能来指导判处。

深入研究发现，相比于白人，白人被得出为高暴力暴力犯罪高风险的不太可能竟然高77%。这里就不存在一个荒谬的问题：暴力犯罪与否难道能由肤色来决定？

我们经常使用的跟踪引擎也普遍不存在性取向。如果跟踪“护理人员”的图片，返回的结果之中大其余部分都是年长者。

亚马逊的管理层招聘管理系统，被曝出偏好于给年长者打高分，给年长者打打分。

为什么AI管理系统不存在性取向？它是如何学就会的？一般而言是数据集教就会了它。

例如，在亚马逊的雇员数据集之中，年长者更远可有年长者，造成了AI传授给了年长者和拔擢时有的虚假关联，误以为年长者更有资格被拔擢。

针对这一问题，深入研究提出异议了多种应有性增强提议，但它们本质上都要删减已布署的深度努力学习假设。

“如果已布署上线的深度努力学习假设不存在性取向，如何在不删减假设的情况下增强应有性呢？”浙江大学王志波大学教授提出异议了这个问题。

针对该问题，东南大学王志波和任奎团队倡议华东师范大学、蚂蚁集团与Adobe公司，提出异议了一种基于强而有力西移动的深度努力学习假设应有性增强提议，在须扭曲异已布署假设的情况下增强管理系统的应有性。

该提议的也就是说思维是：通过渐进地对读取数据集填充强而有力西移动，阻扰假设提取出脆弱本体管理系统性讯息，保留更远距离特殊任务管理系统性讯息，从而使得假设应有地对待多种不同脆弱本体的小团体，得出应有的得出结果。

FAAP框架构成已布署的假设、西移动生成内置和推论内置三个其余部分：

首先，用西移动生成内置对图表填充强而有力西移动，西移动后的图表就会读取到布署假设的多种不同之处提取内置，获取图表的凝生活空时有暗示，并分别读取到附加得出内置和推论内置。

接着衡量西移动后的图表之中构成的脆弱本体的讯息，训练推论内置从凝生活空时有暗示之中得出脆弱本体，并对推论内置完成更新。

在此之后对西移动生成内置完成更新，欺骗推论内置，使西移动后的图表在凝生活空时有暗示之中不构成脆弱本体的讯息，同时使附加得出内置的得出结果准确。

对以上迭代完成迭代，获取事与愿违的西移动生成内置，作为数据集预解决问题单元，为已有的AI管理系统增强应有性。

通过观察注意力显着图可以发现，有年长者性取向的微笑识别假设，就会非议于完整图表的毛发区外，随之而来地使用年长者管理系统性多种不同之处完成得出。正因如此，该提议可以让假设更非议于图表嘴部区外，从而不受脆弱本体的影响，做出应有的得出：

使用T-SNE解决问题假设多种不同之处生活空时有的控制器，可以发现，带有年长者性取向的假设，在多种不同之处生活空时有能分辨出完整图表之中多种不同年长者的采样，因而总括多种不同年长者的老年人。正因如此，该提议让带有多种不同脆弱本体的采样在多种不同之处生活空时有引发误解，使得它们被假设应有对待：

该项研究首次考虑到在不扭曲异深度努力学习假设的前提下增强应有性，提出异议的提议更贴合单纯管理系统设计场景。

对于一般的布署假设，在也就是说不影响准确率的情况下，该提议可以大幅增强应有性，例如，在应有性指标DP和DEO上平均能够获取27.5%和66.1%的增强。

目前，该研究成果的管理系统性学术论文“Fairness-aware Adversarial Perturbation Towards Bias Mitigation for Deployed Deep Models”已被CVPR 2022拔擢。

学术论文地址：

— 完 —

量子位 QbitAI · 头条号买断