人工智能与风险管理报告 创新与信心偕行每日免费阅读行业报告1、每日星球内分享10+精品报告；2、不定时分享国际投行报告，脱水研报等；3、行业报告均为公开内容，版权归原作者所有，星球仅分享内部学习。扫描右侧二维码即刻加入【行业报告（免费） 】星球（此页只为更多需要行业报告的朋友提供便利，希望不会影响您的阅读，谢谢理解！）目录1. 概要 012. AI的简要概述 033. 当金融服务企业大规模采用AI技术时可能会遇到的挑战 044. 在风险管理体系中嵌入AI 075. 监管者所看重的具体是什么呢？ 186. 监管AI中的一些反思 227. 结语 24后记：中国AI风险管理和监管现状 25译者 26作者 261. 概要说起人工智能（AI），虽然它并不是一个全新的概念，但在近些年金融服务企业开始逐渐意识到它的巨大潜力。AI可以提高运营效率、降低成本，同时还有助于企业实现战略转型，更多、更好地融入用户参与。。然而，一些客观限制条件，都在或多或少地阻碍着金融服务企业大范围的推广使用AI技术，包括数据量和数据质量上的局限、对于AI潜在风险的认知不足以及公司文化和现行规章制度的限制。欧盟以及其他国际组织同样对于AI技术有着极大的兴趣。尽管他们认识到AI可以为金融市场、客户以及他们的内部工作带来诸多益处，但也认识到那些受监管公司当采用AI时可能会产生的潜在风险以及意料之外的后果。近些年来，值得注意的是，金融服务业因对客户和市场的失当行为，从而受到众多经济上及其他形式上的制裁。由此产生的对于公平对待客户和保证市场诚信问题，以及AI技术在监管领域中未经测试与未经检验的特性的关注，都意味着金融服务企业对于采用AI解决方案应该时刻保持谨慎。“有效的风险管理已经不再是抑制创新的因素，而是公司成功使用AI技术的关键。” 为了能解决这些困难，从而实现充分利用AI技术的优势，并且避免未来可能出现的问题，董事会和高级管理人员必须充分理解这项技术，包括它在企业中现有或潜在的用途，并从风险的角度出发来仔细考虑AI的影响。在这种环境下，有效的风险管理已经不再是抑制创新的因素，而是公司成功使用AI技术的关键。 “我们认为企业面临的重大挑战不是在处理全新类型的风险，而更多应该是关注那些难以用有效且及时的方式去分辨的风险，或它们已经以不同以往的出现方式而显现的风险。”关于刚刚提到的后一点，这将是本文之后所讨论的重点。我们认为企业面临的重大挑战不是在处理全新类型的风险，而更多应该是关注那些难以用有效且及时的方式去分辨的风险，或它们已经以不同以往的出现方式而显现的风险。在这篇文章中，我们将讨论企业应该如何重新审核并调整现有的风险管理框架，以反映在当部署复杂AI应用时企业需要关注的一些重要差异。1人工智能与风险管理报告 | 创新与信心偕行比如说，AI可以不断的从新数据中学习，并通过建立复杂统计模型，而后得出结论。但这种结果并不是基于那些明确且预先定义好的规则，这就让企业难以理解这其中支撑最终结论的决策机制。在许多方面上，这种挑战与面对管理人力资源时所面临的挑战非常相似。然而，不断发展的AI技术使其可审计性以及可溯源性变得异常困难，并且这种技术发展的速度可能会导致在极短的时间内产生大规模的错误。 企业需要重新审核并且更新他们的风险管理方式，从而在不同的风险管理框架全生命周期（识别，评估，管控，监督）阶段中管理风险。不断发展的AI技术要求这些风险管理方式必须在更短更频繁的时间间隔内得以应用。现有的风险偏好声明也同样需要重新审核，并且需要添加一系列新的内容，比如说公平性原则等，以便为风险管理框架的各个阶段提供信息支持。“不断发展的AI技术使其可审计性以及可溯源性变得异常困难，并且这种技术发展的速度可能会导致在极短的时间内产生大规模的错误。”在本篇文章中，我们将会用简单的理论性的风险管理框架来描绘出一些AI所带来的挑战。例如，一个保险公司如何在产品定价过程中，使用AI来做到风险模型管理。最后，我们将总结当监管者监管AI时会遇到的挑战与选择。 本篇文章旨在成为一个理解AI对于现有风险管理方式和更为广泛的监管环境的影响的起步点。通过强调这些需要关注的领域，我们希望帮助企业能够在制定AI政策时，或者更具体来讲，在制定AI风险管理框架的时候，为它们提供更加高效的解决方案和监管机制。 2人工智能与风险管理报告 | 创新与信心偕行2. AI的简要概述人工智能的概念最早可以追溯到20世纪50年代，那时候的研究人员开始考虑使用机器模拟人类智能的可能性。然而，AI技术却是在20世纪后期才得以真正蓬勃发展。当时有几个技术因素发展达到顶峰：强大且价格低廉的计算资源、数据总量和种类的增加、访问数据速度的提高以及能够凭借最新且先进的算法来以更加“智能”的方式分析数据。对于AI技术其实并没有一个单一解释，但从广义的层面来讲，AI是一种计算机系统的理论与发展方式，它能够执行通常需要人类智能才能操作的任务。这一类的任务包括有视觉感知，语音识别，以及在不确定性下的决策和学习。 关于缺乏对于AI定义的共识的原因，可能是因为AI并不是技术，而是集合了模仿人类行为的各种技术这一事实。其中，一些与金融服务企业有关并且将会在本文中提到的关键技术有： 提高金融服务企业的客户体验“行为情感分析工具（BEAT）”是德勤的语音分析平台，它使用了深度学习技术和各种机器学习算法来监测并分析语音交互。这其中有三个最核心的功能：1. 监测客户语音交互2. 通过自然语言处理（NLP）来识别高风险交互3. 将语音交互映射到潜在的负面结果上（比如投诉或操作行为上的问题），并且提供出现这种问题的可能原因。BEAT会去分析顾客所说的词语和他们所用的语气，然后使用机器学习技术来不间断的开发并且加强这些分析语音交互的分析能力。而且当可学习的素材越多的时候，最终的风险评估准确度就越高。BEAT的使用，相较于传统解决方案，可以让企业从评估准确率的角度看到显著的提升。BEAT已经发展到可以分析超过30种不同语言以及30种不同的行为表征。它可以为特定的风险要求和用户需求来进行定制服务。机器学习Machine Learning只需直接提供数据而无须遵循明确的程序指令，提高了计算机系统运行的性能。机器学习的核心就是自动发现数据中隐藏的模式并使用它们来进行预测的这样一个过程。深度学习Deep Learning深度学习算法是一系列的机器学习算法。由于它们在与语音和计算机视觉相关的任务中表现的十分有效而变得越来越受欢迎。但这是一种很复杂的技术，大家难以准确地解释每个输入在最后是如何驱动模型结果的，所以通常导致它们被定性为“黑匣子”。语音识别和自然语言处理Speech Recognition and Natural Language Processing拥有能够以人类的方式来理解并自动生成出人类语言的能力。比如说从文本中提取语义信息，或者生成出语义自然、语法正确的可读文本。视觉识别Visual Recognition拥有能够识别图像中的对象，场景和活动的能力。计算机视觉技术使用成像处理中操作和技术的序列来将分析图像的任务拆解成许多可管理的部分。3人工智能与风险管理报告 | 创新与信心偕行3. 当金融服务企业大规模采用AI技术时可能会遇到的挑战自从2008年的金融海啸之后，金融服务企业一直致力于提高自身成本效益，并在利润压力下保持竞争力。为实现这一目标，他们所关注的其中一个领域就是技术，并在过去几年中开始更多地去使用AI技术。然而，采用AI技术的方式并不是唯一的，有很多原因导致出现了这种情况。关于AI应该应用于何处的不同观点德勤最近对与欧洲财务管理协会（EFMA）合作的3,000多名企业高管调查后显示，AI能对其公司产生最大影响的活动和功能因行业而异。图1：您认为您公司所开发的人工智能技术在哪一部分的价值链上产生了最大的影响？ 银行 保险顾客服务65%后台与日常运营78%后台与日常运营52%风险管理56%财务顾问42%欺诈检测56%欺诈检测31%顾客服务44%风险管理29%合规22%总的来说，从这份调查我们可以看到，在金融服务企业中采用AI技术还仍处于起步阶段。在接受调查的公司中，有40%的企业还仍在学习如何在他们的公司中部署AI，11%的企业还没有开展任何这方面的活动。只有32%的企业已经开始参与开发AI解决方案。 4人工智能与风险管理报告 | 创新与信心偕行数据数量与质量AI与传统技术解决方案的一个最重要的区别是，后者常常在那些需要用预先设定清楚的规则框架完成任务。然而，AI应用可以自行分析数据来进行模式识别，并以此为基础来制定决策。此外，AI还可根据给出的数据进行一次性或不间断性的学习来完善决策制定机制。 这意味着每一条AI系统所给出的建议都对于所处理的数据的数量和质量十分依赖。总的来说，AI解决方案所遇到的最棘手的困难就是缺少大量高质量数据。对于金融服务企业，因为受到普遍使用的传统系统和组织架构的限制，阻碍了数据之间的无缝流动，并在某种程度上影响了数据质量，导致问题愈发加剧。 透明性，可审计性与合规性一些AI解决方案拥有许多有关决策制定的隐藏层，都影响着最后生成的结果。在一些复杂AI应用案例中，就比如那些使用了深度学习技术的AI应用，可能在：维护系统，论证其中需要理解的部分，并且对于那些以AI为基础生成的决策拥有控制权等方面上阻碍了金融服务企业的使用。具体来讲，应判断其决策是否包含有适用性、公允性，是否与公司价值观和风险偏好相符合等。 “那些不断学习，不断进化，并且拥有许多有关决策制定的隐藏层的AI解决方案会使可审计性和可溯源性变得异常困难”这与公司在面临人力资源上的挑战无异。然而，可以说，那些不断学习，不断进化，并且拥有许多有关决策制定的隐藏层的AI解决方案会使可审计性和可溯源性变得更加困难。此外，AI自我学习及进化的速度可能还会导致在极短的时间内产生大规模的错误。 一些AI解决方案的不透明性还会与现有的法律法规产生冲突，就比如说欧盟的“通用数据保护法案”（GDPR），它规定了在特定情形下企业需要能够向客户解释他们的个人数据是如何被使用的，并且能够给出那些假设性结论的合理解释，和那些会对顾客会产生重大影响且完全自动生成的结论的内部机制。 5人工智能与风险管理报告 | 创新与信心偕行理解AI及其隐藏含义 AI是一个既复杂但又快速发展的领域，在一些非专业人士的眼中，它被认为是一项难以控制的技术。此外，AI的使用会加剧企业的现有风险，改变风险出现的方式，甚至会为公司带来新的风险。 金融服务企业属于严格管控产业，这其中包含了复杂多样的经营范围和产品，并且当公司处理业务时必须使用严格的审查原则。可以说历史上对于金融服务企业因违规而产生的行政处罚，造成了这些企业在采用相对不了解的技术以用于受监管的业务时非常保守，这也就为创新增加了另一重阻碍。因为对于这项技术和其所带来的风险，相对而言，不熟悉也不了解，这就造成了过度谨慎的现象。那些重要的利益相关方，比如风险部门、合规部门，以及各业务部门主管，董事会成员和公司高层，除非他们对于这项技术充分了解，否则就可能会在批准使用AI上迟疑，并且对企业内受监管业务AI技术的使用保留解释权。要理解这项技术，就要不止了解它会带来的风险，同时也要知道这些风险可以如何降低，管理并监控。如何让利益相关方有一个对于AI独立且整体的认知是对公司而言非常困难的。可以使用一些实际的用户案例，使利益相关方知道相关的客户经历可以帮助了解AI能提供的潜在益处，同时也可以认识到哪些方面会出错，以及如何有效的规避或管理风险。对于人才的影响对于采用AI的公司，尤其是那些大规模的企业，必须充分了解这种转变对其企业文化和人才战略的影响，并采取必要措施来应对任何不利影响。企业很可能需要额外的良好技术资源来帮助设计、测试和管理AI应用程序。目前这方面人才的稀缺，以及众多金融服务企业在创新上所面临的困境都使得AI的应用充满挑战性。因此金融服务企业需要升级它们的招聘方式和渠道，技术人员需要选择有利于职业发展的职业道路，同时需要在发展过程中制定继续留任、融合新技能或者是改变职...
发表评论取消回复