机器学习有一个巨大的缺陷：它很容易

时间：2022-04-24 11:25:04 来源：

研究表明，人类如何屏蔽机器的操纵。

人工智能和机器学习技术准备在知识经济中提高高额加强生产力，转变工作的未来。

但他们远非完美。

机器学习（ML） - 从数据中的现有模式中“学习”的算法“学习”进行统计驱动的预测和促进决策的技术 - 已经发现了多种上下文，以揭示偏见。请记住，当Amazon.com为揭示性别和种族偏见的招聘算法而被火灾时？这种偏差通常由倾斜的训练数据或偏斜算法产生。

在其他业务环境中，还有另一个潜在的偏见来源。它来到外部杀戮才能从偏见预测中受益，并努力改变输入。换句话说，他们正在游戏ML系统。

它发生了。几个最常见的背景也是求职者和人们对他们的保险索赔。

ML算法是为这些上下文而构建的。他们可以根据任何招聘人员审查恢复方式，并且可以比任何人为处理器更快地梳理保险。

但提交简历和保险索赔的人对获得积极成果的战略兴趣 - 以及其中一些人知道如何促进算法。

这是马里兰大学的研究人员，罗伯特H.史密斯商业学院想知道，“可以对这种战略行为进行正确？”

在新的研究中，马里兰州史密斯的拉吉斯·艾尔沃尔沃尔威尔武尔威尔和埃文·斯塔尔以及哈佛·普罗维拉·奇德鲁安探讨了限制ML过程技术的有效性以及人资本范围在减少这种偏见的互补性的潜在偏见。在所谓的“逆势”ML中的先前研究仔细观察了“欺骗”ML技术的尝试，并且通常得出结论，准备ML技术以考虑所有可能的投入和操纵是非常挑战性的。换句话说，ml是棘手的。

公司应该做些什么？它们可以限制ml预测偏见吗？而且，人类是否有一个角色与ml一起工作？

斯塔尔，阿加尔武尔和奇德·赫德·尊重他们对专利审查的关注，一种背景谋区的背景。

“专利审查员面临着准确地确定专利申请的新颖性和不影响的挑战，通过筛分通过以前的”现有技术“或之前的发明，或者在研究人员解释之前。这是一项挑战性的工作。

复合挑战：法律允许的专利申请人创建连字符的单词并为现有的单词分配新的含义来描述他们的发明。这是一个机会，研究人员解释说，申请人在战略上以战略性地撰写其申请，以战略性的ML定位方式编写。

美国专利和商标局一般都明智。它邀请了ML技术“读取”申请的文本，目标是更快地发现最相关的现有技术并导致更准确的决定。“虽然ML算法是理论上可行的，但是对于专利申请人试图操纵算法的方式，虽然ML算法是不断学习和纠正，但专利申请人动态更新他们的写作策略的可能性使其实际上不可能对ML算法进行对抗才能纠正这一点行为，“研究人员写道。

在其研究中，团队进行了观测和实验研究。他们发现专利语言随着时间的推移而变化，使任何ML工具都完美地运行的任何ML工具都是非常具有挑战性的。他们发现，从人类合作中发现，强烈受益。

研究人员发现，通过先前学习的技能和知识通过先前学习累计累积的技能和知识，因为域专家将相关的外部信息带来相关的外部信息，以纠正战略改变的投入。并且签到具有复古特定技能的 - 通过先前熟悉的技术熟悉的技能和知识 - 更好地能够处理ML技术接口中的复杂性。

他们谨慎，尽管提供专家咨询和复古的人力资本提高了初始生产力，但仍然不清楚工作人员是否会导致群体之间的不断接触和学习，仍将导致群体之间的相对差异随着时间而增长或缩小。他们鼓励进一步研究所有ML技术的生产力的演变，以及他们的意外。

###

参考：“机器学习和人力资本互补性：关于偏见缓解的实验证据“由Prithwiraj Choudhury，Evan Starr和Rajshree Agarwal，2020年3月26日，.DO：
10.1002 / smj.3152

研究论文是2019年战略管理协会的2019年最佳会议案例奖的赢家，2019年战略管理协会战略人力资本利益集团最佳跨学科奖。

“机器学习和人力资本互补性：哈佛商学院Prithwiraj Choudhury的偏见缓解实验证据，以及马里兰大学罗伯特H.史密斯商学院的埃文斯塔尔和Rajshree Agarwal，在战略管理期刊中即将举行。

郑重声明：文章仅代表原作者观点，不代表本站立场；如有侵权、违规，可直接反馈本站，我们将会作修改或删除处理。