人工智能Fairness在金融行业的研究：基于Pipeline的方法

案例背景:
人工智能在金融领域的应用越来越多，很多系统的自动判断，比如各种打分和预测，影响了金融系统中的很多决策工作（比如信贷，营销等）。同时由于很多决策涉及到个人的敏感数据（比如年龄和种族），其中的歧视和不公平由此成为一个显著的问题. 由此,很多国家和地区对此展开了一系列的研究以及规则制定. 比如欧盟，美国和新加坡。我会讲述关于人工智能公正/公平性的具体表现形式，基于机器学习Pipeline的各类可能和判别的指标，以及在金融系统中的具体事例. （演讲中使用公开数据；不涉及项目本身的数据和事例）。

解决思路:
1．合理的制定业务项目的目标，深入了解可能的偏见情况，并将该目标和机器学习的性能指标以及Fairness评价指标联系起来。
2．规划机器学习的pipeline，系统性的分析各个步骤中可能产生的偏差，并及时更正，避免进入下个阶段
3．制定适合本企业的监管制度保证后台决策人和机器输出更好地协同工作


成果：
我们结合一系列Fairness评价指标和模型的，可以确保机器学习模型性能满足要求的同时，也可以保证一定的Fairness。Fairness模型对于金融领域的健康发展有着巨大的帮助，也是在当前金融监管,隐私和人工智能道德受到广泛关注的背景下，有效解决数据和模型的黑箱模式的一条途径。