“严重问题” –面部识别软件存在性别问题

面部分析如何看待您。

只需看一眼就可以看到，新兴的面部识别软件现在可以非常精确地对许多男人和女人的性别进行分类。但是，根据CU Boulder的最新研究，如果该面孔属于变性人，则此类系统有超过三分之一的时间会犯错。

“我们发现面部分析服务在变性人中的表现一直较差，并且普遍无法对非二元性别进行分类，”主要作者，信息科学系博士生Morgan Klaus Scheuerman说。“尽管外面有许多不同类型的人，但是这些系统对性别的看法极为有限。”

这项研究是在人脸分析技术（使用隐藏的摄像头评估和表征某人的某些特征）正变得越来越普遍的时候嵌入到从智能手机约会应用程序和购物中心的数字信息亭到机场安全和执法监视系统的所有内容中的。

先前的研究表明，当评估白人男性时，他们往往最准确，但是有色女性最多有三分之一的时间会误认。

信息科学助理教授杰德·布鲁贝克（Jed Brubaker）说：“我们知道这些系统在种族和种族方面存在固有的偏见，我们怀疑在性别方面也会存在问题。”“我们着手在现实世界中对此进行测试。”

对于某些性别认同，准确性是不可能的

研究人员从Instagram收集了2,450张面部图像，每张图像都被其拥有者标记了一个标签，表明他们的性别身份。然后将图片分为350组图像的七个组（＃women，＃man，＃transwoman，＃transman，＃agender，＃agenderqueer，＃nonbinary），并由最大的四个面部分析服务提供商（IBM，Amazon， Microsoft和Clarifai）。

当研究员摩根·克劳斯·舒尔曼（Morgan Klaus Scheuerman）将自己的照片提交给多个面部分析服务部门时，一半人的性别有误。

值得注意的是，未包含Google是因为它不提供性别识别服务。

平均而言，该系统使用顺性别妇女（出生的女性并确定为女性）的照片最为准确，在98.3％的时间内使其性别正确。他们准确地将顺滑男人分类为97.6％的时间。

但是，高达38％的时间中，跨性别男人被错误地识别为女性。那些被标识为性别，性别同性恋或非二元身份的人（表明他们既不是男性也不是女性）被错误地识别为100％。

布鲁贝克说：“这些系统除了男性或女性外都不懂其他语言，因此对于许多性别身份来说，它们不可能是正确的。”

过时的刻板印象仍然存在

该研究还表明，此类服务根据过时的刻板印象来识别性别。

当Scheuerman是男性并且长发的时候，他提交了自己的照片，一半将他归类为女性。

研究人员无法访问训练数据或用于“教”系统男女形象的图像输入，但先前的研究表明他们评估了诸如眼位，嘴唇丰满度，头发长度甚至衣服之类的东西。

这些系统冒着强化刻板印象的风险，如果您想被公认为是男人或女人。这影响到每个人。 Scheuerman说。

到2024年，随着技术开发人员致力于改善人机交互并更仔细地将广告定向到购物者，面部识别服务市场预计将翻一番。

Scheuerman解释说：“他们想指出您的性别，以便向您出售更适合您的性别的商品。”他指的是加拿大一家购物中心发生的一桩广为人知的事件，该事件是在售货亭中使用隐藏的摄像头来完成的。

布鲁贝克指出，人们每天都在使用面部识别技术来访问智能手机或登录计算机。如果它倾向于将已经易受伤害的某些人群性别歧视，那么可能会造成严重后果。

例如，一个配对应用程序可能将某人设置为性别错误的约会对象，从而导致潜在的危险情况。Scheuerman说，或者面部识别程序看到的性别与一个人携带的文件不匹配，可能会导致通过机场安全方面的问题。他最担心的是，这样的系统会重申跨性别者不适合的观念。

他说：“人们认为计算机视觉是未来的，但很多人可能会被排除在所谓的未来之外。”

两种面部分析系统对研究人员摩根·克劳斯·舒尔曼（Morgan Klaus Scheuerman）的性别有所不同。

作者说，他们希望看到科技公司完全摆脱性别分类，并在评估图像时坚持使用更具体的标签，例如“长发”或“化妆”。

“当您走在街上时，您可能会看到一个人，并假设您知道他们的性别，但这从90年代开始就已经是一个非常古朴的想法了，世界不再是这个样子了，”布鲁贝克说。“随着我们对性别的看法和文化理解的发展，驱动我们技术未来的算法还没有。那是个严重的问题。”

###

参考：“计算机如何看待性别：《对商业面部分析服务中的性别分类进行评估》，作者：Morgan Klaus Scheuerman，Jacob M. Paul和Jed R. Brubaker，ACM数字图书馆，CSCW，第3卷，2019年11月，第144条。DOI：
10.1145/3359246

这项研究将在11月于德克萨斯州奥斯汀举行的ACM计算机支持合作工作会议上进行介绍。