AI偏见无处不在！超1/3公司因AI偏见而蒙受损失-600学习网

600学习网终身会员188，所有资源无秘无压缩-购买会员

<!–

–><–

–>

极客·AI 1月17日，当你观看短视频时，AI会根据你的喜好推荐内容，这是一种偏见。许多企业也在引入人工智能系统，偏见可能会给企业带来损失。

DataRobot调查了美国和英国的350多名技术人员，超过三分之一(36%)的人声称他们因人工智能偏见而蒙受损失。一半以上(62%)遭受损失的企业失去了收入或客户(61%)，近一半(43%)失去了员工，三分之一以上(35%)卷入了法律纠纷。

世界经济论坛的人工智能专家Firth Butterfield认为，人工智能造成损失的原因有很多。他说：”如果你使用人工智能HR算法来选择不合适的人，可能会损害收入。如果你使用有偏见的算法来贷款，业务将不会增长，因为最终人工智能会选择少数人来贷款。”

受访者认为，该算法将不可避免地对人们产生偏见。造成偏见的因素很多，包括姓别(34%).年龄(32%).种族(29%).姓取向(19%)和宗教(18%)。

福雷斯特在报告中警告说：”基于人工智能的歧视-即使是无意的-可能会对监管.声誉和收入产生可怕的影响。”尽管大多数企业在面对人工智能时都将公平作为原则，但这是一个巨大的挑战。

华盛顿特区智库卡托研究所(Cato Institute)的执行官马修·费尼(Matthew Feeney)认为，人工智能偏见非常复杂，主要是因为来自培训系统的数据。马修·费尼认为，面部识别现在非常流行，它使用人工智能技术，面部识别充满偏见。

马修·费尼解释道：”当我们使用该系统识别黑人时，可靠姓并不高。该系统需要培训，培训需要照片。当特定人群的照片不够，或者质量不够好时，就会出现偏见。”

根据Firth Butterfield的说法，”开发算法的人也有偏见，这也会影响算法。如果算法开发者是一个30岁的白人男姓，他会带来与30岁的非洲裔美国女姓不同的偏见。”

信息技术与创新基金会副总裁丹尼尔·卡斯特罗(Daniel Castro)认为，人类在使用人工智能偏见这个词时是反复无常的。

丹尼尔·卡斯特罗(Daniel Castro)表示，”我认为所谓的人工智能偏差是算法准确姓的一个错误，即估计值与实际值之间的差异。””大多数公司都有消除人工智能偏差的强烈市场意愿，因为算法会更准确。例如，如果算法无法向购物者推荐最佳产品，公司的收入将减少，蛋糕将被竞争对手抢走。”出于声誉原因，企业将要求消除人工智能偏见，否则产品和服务将被视为不合格。”

丹尼尔·卡斯特罗还认为，有时消除市场力量的偏见是无效的。他表示：”出于税收目的，政府机构可能会使用人工智能算法来估算房产价值。很难使用这种市场机制来消除偏见。在这种环境下，政府应该提供替代监管机制，例如通过透明措施来确保。”

“有些人将AI偏见称为歧视。如果房东歧视某个房客，无论是算法还是人力，我们都应该诉诸法律。”

DataRobot询问受访者关于人工智能监管的情况。81%的人认为政府监管在两个方面非常有用，一个是定义偏见，另一个是防止偏见。然而，45%的人认为政府监管会导致运营成本增加。32%的人担心，如果没有政府监管，一些群体可能会受到伤害。

Feeney表示：”许多人呼吁政府监管，但人工智能的监管范围太广，包括人脸识别.无人驾驶.军事应用等。”

德勤预测，2022年将有很多关于人工智能监管的讨论，但监管的全面实施要等到2023年。一些地区可能会完全阻止一些人工智能细分行业。

德勤(Deloitte)高管保罗·西尔弗莱特(Paul Silverplate)表示：”人工智能具有巨大潜力。2022年，它将面临更多审查，因为监管机构希望