lswcap
通过Google搜索，购物，数据分析和欺诈检测，人工智能正在为生活的各种场景提供帮助。 AI通过使用人类设置的数据重复机器学习来提高数据分析的准确性，但是如果用于机器学习的数据不足或数据中存在偏见，则存在通过多次学习加深偏见的问题。 AI研究机构渐变研究所的首席执行官Bill Simpson-Young正在提出识别这种算法偏差的原因并改善该问题的方法。
他们认为造成算法偏差的原因之一是系统设计不佳。例如，银行通常使用银行前贷款决策数据集来训练银行用于确定向何处借款的AI。认可机构是新的贷款申请人融资人，负责检查职业和工作经历，并试图预测申请人是否能够根据历史数据还清贷款。但是，如果过去的数据包含银行家基于自己的偏见拒绝贷款的模式，则AI可能会学会做出错误的决定而不会意识到这是有偏见的。这里提到的偏见是指年龄，性别和种族，并且存在这样的担忧，即现在很少见的偏见会影响AI。
这种算法上的偏差给银行带来了很大的风险。此外，存在由同一AI重复做出决定的风险，并且偏见模式会暴露给政府和消费者，从而导致诉讼。根据Bill Simpson-Young等人的说法，有五种方法可以纠正算法偏差。
首先是获取更好的数据。获取到目前为止尚未带来的信息。提供有关少数群体和可能产生不正确结果的群体的新数据。其次，修改数据集。请勿删除或显示具有歧视性的信息，例如年龄，性别和种族。
第三是使模型更加复杂。一个简单的AI模型可以使分析和决策更加容易，但是它的准确性较低，并且可能基于多数而不是少数。第四，制度变迁。 AI系统可以预先更改控制模式。通过为素数组设置不同的阈值，可以将其调整为忽略算法偏差。最后，更改了预测模型。建立适当的预测模型有助于减少算法偏差。
Bill Simpson-Young教授认为，寻求采用AI驱动的决策的政府和公司应考虑公平和人权的一般原则，并认为系统应仔细设计和监控，以免因算法偏差而导致错误结果。据透露，随着AI决策的普及，有必要建立一个更加公平的社会并提高生产率。相关信息可以在这里找到。
Add comment