JAMA:医疗保健系统AI应用中的偏倚及应对策略
2019-11-26 JAMA JAMA
最近对AI面部识别软件的审查使人们开始重新关注AI对社会偏倚和不平等的意外影响。学术界和政府官员对几种AI技术中的种族和性别偏倚提出了担忧,包括互联网搜索引擎和算法可预测犯罪行为的风险。IBM和Microsoft等公司已公开承诺对其技术进行“去偏倚”(“de-bias”),而亚马逊发起了一项批评这种研究的公开活动。 图片来自Data Driven Investor :Facia
最近对AI面部识别软件的审查使人们开始重新关注AI对社会偏倚和不平等的意外影响。学术界和政府官员对几种AI技术中的种族和性别偏倚提出了担忧,包括互联网搜索引擎和算法可预测犯罪行为的风险。IBM和Microsoft等公司已公开承诺对其技术进行“去偏倚”(“de-bias”),而亚马逊发起了一项批评这种研究的公开活动。 图片来自Data Driven Investor :Facial Recognition, and Bias 随着AI在医学界的广泛应用,引起了临床医生和医学界人士的广泛关注,卫生系统的领导者对自动化和传播现有偏倚也提出了类似的担忧。但是,AI是问题的关键吗,还是AI可以作为解决方案的一部分?虽然AI以其潜在的方式助长偏倚,但以负责任的态度使用AI技术还可能有助于消除独特偏倚的风险。使用AI识别医疗保健中的偏倚可能有助于采取干预措施,这些干预措施可能有助于纠正临床医生决策中的偏见,并可能减少健康差异。 AI应用中的统计偏倚和社会偏倚 (1)统计偏倚(Statistical Bias):是指在统计过程中,统计资料与实际情况的差异。由于许多原因,统计偏倚在预测算法中很常见,
作者:JAMA
版权声明:
本网站所有注明“来源:梅斯医学”或“来源:MedSci原创”的文字、图片和音视频资料,版权均属于梅斯医学所有。非经授权,任何媒体、网站或个人不得转载,授权转载时须注明“来源:梅斯医学”。其它来源的文章系转载文章,本网所有转载文章系出于传递更多信息之目的,转载内容不代表本站立场。不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。
在此留言
#应对策略#
36
#医疗保健#
35
学习啦~
75
学习了很有用不錯
84
学习了
93