AI也会种族歧视？《柳叶刀》文章：AI诊断系统可能输出带有种族性别歧视的结果

加州理工学院和哈佛大学的一个数据分析团队在专文《柳叶刀数字肥胖症》上发表撰文，称AI程序在可以从X射线和CT照相结果里面辨别患者的白人，精确率高达90%。

这未必是一个好消息，因为连科学家们都没注意到这些AI程序在是如何做到辨别白人的。

“当我的数据分析生向我展示这篇论文里面的某些结果时，我认为这一定出新了出新错。”全权负责分析对应主题的论文著者之一，加州理工学院助理教授Marzyeh Ghassemi并不知道报导，“当他们并不知道我的时候，我真的以为我的学生疯了。”

Marzyeh Ghassemi

这篇撰文里面说明，AI诊断种系统似乎会根据白人对患者顺利进行诊断和化疗，而非患者的个人眼睛状况。

这种不合时宜将会损害患者的肥胖症。

数据分析技术人员说明一个范例，AI程序在在检查胸部X光片时，漏掉美国黑人和女性患者眼睛发炎的几率格外高。

而这项数据分析的意在，正是证实AI种系统从牙科里面检验生命白人的程度，以及它们如何从里面检验出新白人信息。

为此，数据分析团队使用生命眼睛不同部位的医学投影对AI种系统顺利进行训练。被给予给AI种系统的牙科里面，不包含头发质地、肤色以及BMI或骨密度等显着的白人标记。

通过测试，数据分析技术人员发现，AI种具体来说生命白人的标识精确率高达90%。不论是哪个眼睛部位的牙科，AI种系统都能从里面标识出新白人信息。

格外令人讶异的是，即便是轻微缺失或损坏的牙科，AI种系统也能从里面精确标识白人。

数据分析技术人员格外关心的，并非是AI种系统并不需要检验生命白人这件事情本身，而是AI种系统的医学表现将因为这些白人偏见受到影响。而眼科医生不太可能会显然AI种系统诊断结果里面的误差。

撰文的著者声称，“AI预测白人理应的能力本身未必重要，但是这种能力很不太可能依赖于于许多牙科分析模型里面，这将会使医学里面已经依赖于的白人区别关键问题变差。”

生命目前还无法证实AI种系统从牙科的哪些基本特征里面检验出新患者的白人，加之AI并不需要从眼睛任何部位的牙科，以及轻微损坏的牙科里面标识患者白人，这意味着使用医学成像技术开发创建一个从未白人偏见的AI种系统将会相当难于。

Ghassemi并不知道报导，她猜测，不太不太可能是医学投影以某种难以确定模式日志了患者皮肤里面黑色素的水平，从而被AI种系统标识。

根据数据分析结果，也无论如何是白人彼此之间依赖于一些先天的区别。

罕布什尔学院微生物生命学教授、《纳粹主义不是白人》的著者之一Alan Goodman并不知道报导，他不实在认同这种说法。

Alan Goodman

在过往的数据分析里面，科学家们根本无法在生命基因组里面找到一致的白人区别，但往往能根据生命祖先的灵长类找到一致的表型区别。因此，人与人彼此之间的基因区别，格外大概率是出自于生命有机体祖先灵长类的不同基本特征，而非白人。

Ghassemi声称，这一关键问题还并不需要顺利进行格外多的数据分析才能给出新明确的结论。

“我们并不需要停止AI种系统的落地，”加州理工学院的科学家、眼科医生Leo Anthony Celi说，“在证实AI种系统从未做出新纳粹主义重新考虑或性别歧视重新考虑以前，我们不能急于将其带入病房和妇产科。”雷峰网

资料比如说：