世界智能大会

在金融服务中负责任并公平地使用人工智能

2021-01-14 17:43:35

人工智能的潜在应用范围很广。例如,研究人员正转向人工智能来帮助分析气候变化,这是我们这个时代的核心挑战之一。由于存在非线性和临界点,气候变化非常复杂,风险评估的量化需要对大量数据进行分析,人工智能尤其适合这项任务。《自然》杂志最近报道了人工智能网络的发展,该网络可以大大加快通过从蛋白质的氨基酸序列中准确预测蛋白质的三维形状,了解细胞的组成成分,从而更快地发现药物。

人工智能在金融服务中的应用

2018年以来,人工智能技术发展迅速,其潜在影响受到了更大的关注。金融公司正在或开始将人工智能用于操作风险管理以及面向客户的应用程序。人们对人工智能越来越感兴趣,以防止欺诈和提高安全性。每年,消费者都会因身份盗窃和冒名顶替骗局等欺诈行为而蒙受重大损失。根据联邦贸易委员会(Federal Trade Commission)的数据,仅在2019年,人们报告因欺诈而损失超过19亿美元,这只是银行遇到的所有欺诈活动的一小部分。基于人工智能的工具可能在监控、检测和预防此类欺诈方面发挥重要作用,特别是在金融服务变得更加数字化并转向网络平台的情况下。基于机器学习的欺诈检测工具有可能通过结构化和非结构化的大量数据进行解析,从而以更高的准确性和速度识别可疑活动,并有可能使金融机构能够实时做出响应。

机器学习模型被用来分析信用决策和信用风险分析领域的传统数据和替代数据,以便获得传统信用评估方法无法获得的见解,并评估可能缺乏传统信用记录的消费者的信用情况。消费者金融保护局发现,大约有2600万美国人没有信用记录,另有1940万人没有足够的最新信用数据来生成信用评分。美联储的联邦咨询委员会(Federal Reserve's Federal Advisory Council)最近指出,非传统数据和人工智能的应用有可能改善信贷决策的准确性和公平性,同时也提高了总体信贷可得性。

为了利用机器学习的前景来扩大获得信贷的机会,特别是对于服务不足的消费者和可能缺乏传统信贷记录的企业,必须对围绕偏见和不公平结果的潜在风险保持高度警惕。例如,如果人工智能模型建立在反映种族偏见的历史数据上,或者经过优化以复制可能反映偏见的过去决策,那么这些模型可能会扩大而不是改善获得信贷方面的种族差距。同样的道理,人工智能所依赖的不透明和复杂的数据交互可能会导致种族歧视,甚至产生数字鸿沟。我们的责任是确保在创新的过程中,建立适当的护栏和保护措施,以防止这种偏见,并确保人工智能能够促进实现公平的结果。正如Rayid Ghani所说,“……任何正在影响人们生活的人工智能(或其他发达的)系统必须明确地建立起来,以注重增加公平,而不仅仅是优化效率……我们需要确保我们制定指导方针,以最大限度地发挥积极影响,同时保护那些传统上被社会边缘化的人,他们可能会受到人工智能系统的负面影响。”

黑箱问题

认识到人工智能的潜力和缺陷,让我们转向在金融服务中使用人工智能的核心挑战之一,即缺乏透明度。一些更复杂的机器学习模型,例如某些神经网络,运行非常复杂,对模型的工作原理提供了有限的或没有深入解释。这通常被称为“黑箱问题”,因为我们可以观察模型接受的输入,并检查模型基于这些输入做出的预测或分类,但从输入到输出的过程被模糊化或很难理解。

通常有两个原因机器学习模型倾向于不透明。首先是算法而不是一个人建立模型。开发人员编写初始算法并向其提供相关数据,但没有指定如何解决手头的问题。该算法使用输入数据来估计一个潜在的复杂模型,进而进行预测或分类。正如迈克尔·蒂卡所说,“问题是知识被灌输到网络中,而不是灌输到我们身上。我们真的明白了什么吗?这与传统的计量经济学或其他统计模型有些不同,后者是由人类设计和指定的。”

第二,一些机器学习模型可以考虑到比大多数传统模型更复杂的非线性交互作用,人类可能无法自行识别。识别微妙和复杂模式的能力使机器学习成为一种强大的工具,但这种复杂性常常使模型变得难以理解和不直观。霍德·利普森把它比作“遇到一个聪明的物种,他们的眼睛不仅有红、绿、蓝三原色的感受器,还有第四种颜色的感受器。人类很难理解外星人是如何看待世界的,外星人也很难向我们解释。”

对银行的期望

认识到人工智能带来了希望和隐患,作为银行监管机构,美联储致力于支持银行努力开发和使用人工智能,以促进安全、公平和透明的金融服务市场。作为监管者,我们也在探索和理解人工智能和机器学习在监管中的应用。为了确保社会从人工智能应用于金融服务中受益,我们必须了解潜在的利益和风险,并明确我们对银行如何有效管理风险的期望。监管机构必须提供适当的预期,并随着人工智能在金融服务中的使用以及我们对其潜力和风险的理解的发展而调整这些预期。

为此,我们正在探讨是否需要额外的监管透明度,以促进负责任地采用人工智能。重要的是,我们要听取广泛的利益相关者的意见,包括金融服务公司、科技公司、消费者权益倡导者、民权团体、商人和其他企业以及公众。美联储一直在与其他银行机构合作,就金融服务业人工智能应用的风险管理信息提出可能的跨部门请求。

来源:腾讯网

联系我们

世界智能大会组委会秘书处

大会官网:www.wicongress.org

咨询热线:86-400-019-0516

邮 箱:wic@wicongress.org

订阅

如果您非常迫切的想了解智能行业的最新发展动态,产品和行业新闻以及大会相关赛事信息,那么订阅世界智能大会邮件是您的最佳途径之一。

关注大会

世界智能大会 WORLD INTELLIGENCE CONGRESS

津ICP备17008349号津ICP备17008349号津公网安备 12010302001153号 官方声明