联邦贸易委员会警告正计划打击有偏见的人工智能技术

美国联邦贸易委员会警告各公司不要使用有偏见的人工智能技术,因为它们可能违反消费者保护法。一篇新的博客文章指出,人工智能工具可以反映出
“令人不安的”种族和性别偏见。如果这些工具被应用于住房或就业等领域,虚假宣传为无偏见,或以欺骗性方式收集的数据进行训练,该机构表示它可以进行干预。

访问购买:

爱奇艺周年庆 – 京东联名年卡5.5折仅138元

联邦贸易委员会律师Elisa Jillson写道:”在急于拥抱新技术的时候,要小心不要过度承诺你的算法可以提供什么,”特别是在承诺不反映种族或性别偏见的决定时。”结果可能是欺骗、歧视,当然还会有FTC的执法行动”。

正如议定书指出的那样,联邦贸易委员会主席丽贝卡·斯洛特最近称基于算法的偏见是 “一个经济正义问题”。Slaughter和Jillson都提到,公司可以根据《平等信贷机会法》或《公平信贷报告法》对有偏见和不公平的人工智能驱动的决策进行起诉,不公平和欺骗性的做法也可能属于《联邦贸易委员会法》第5条。

“对你的算法的表现负责是很重要的。我们关于透明度和独立性的建议可以帮助你做到这一点。但请记住,如果你不对自己负责,联邦贸易委员会可能会帮助你负责,”Jillson写道。

人工智能有可能减轻人类在招聘等过程中的偏见,但它也可能重现或夸大这种偏见,特别是如果它被训练成反映这种偏见的数据。例如,面部识别对黑人对象产生的结果不太准确,当警察使用它时,有可能鼓励虚假识别和逮捕。2019年,研究人员发现,一种流行的医疗保健算法使黑人患者不太可能得到重要的医疗护理,反映了系统中预先存在的差异。自动性别识别技术可以使用简单的方法,对变性人或非二元人进行错误分类。而自动程序,通常是专有的和秘密的这可能会产生 “黑箱”,难以理解或质疑错误的结果。

欧盟最近表示,它可能会对一些人工智能应用采取更强硬的立场,可能会禁止将其用于 “不加区分的大规模监视”和社会信用评分。通过这些最新的声明,联邦贸易委员会已经表明,它对打击特定的、有害的用途感兴趣。

当然,FTC此举仍然处于这样做的早期阶段,批评者质疑它是否能对主要的科技公司有意义地执行其规则。在今天的参议院听证会上,联邦贸易委员会委员Rohit Chopra抱怨说,”一次又一次,当大公司公然违反法律时,联邦贸易委员会不愿意采取有意义的问责措施”,敦促国会和其他委员 “翻过联邦贸易委员会被认为无能为力的一页”。在人工智能领域,这可能意味着对Facebook、亚马逊、微软和谷歌等公司进行审查–这些公司都在强大的系统中投入了大量资源。

外卖省钱大联盟

未经允许不得转载:网络信息台 » 联邦贸易委员会警告正计划打击有偏见的人工智能技术

赞 (0) 打赏

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏