如何通过风险预测获取人工智能洞察

《如何通过风险预测获取人工智能洞察》由会员分享，可在线阅读，更多相关《如何通过风险预测获取人工智能洞察（16页珍藏版）》请在金锄头文库上搜索。

1、如何通过风险 预测获取人工 智能洞察 成功创造出高效的人工智能可能是人类文明史上最重 大的事件 也可能是最糟糕的事件 除非我们知道如何准备应对和避免潜在风险 否则人 工智能就可能成为人类文明史上最糟糕的发明 它会 带来威胁 如造就威力巨大的自动化武器 或被少数 人利用 来压迫多数人 人工智能能给我们的经济造 成严重的破坏 我是一个乐观主义者 我相信我们能够创造出造福世 界的人工智能 我相信人工智能能够与人类和谐共 处 我们只是需要警惕危险的存在并找出危险 在实 践和管理方面尽可能做到最好 并事先做好充分准 备 应对可能出现的任何结果 史蒂芬 霍金 Stephen Hawking 2 如何通过风

2、险预测获取人工智能洞察 vYyUeVgYqUrRsPaQ8Q9PnPpPpNoOlOnNsRlOoMrP7NmNqPMYmMuMuOmMuN 如果企业从一开始就将 信任设计 信任设计 理念注入人工智能系统 就能利用风险预测风险预测加速获取 人工智能洞察 当一个错误 或仅仅是感知到的错误 就足以当一个错误 或仅仅是感知到的错误 就足以 毁掉用户对人工智能的信任时 要如何获得并毁掉用户对人工智能的信任时 要如何获得并 维系用户信任维系用户信任 经营中的每项挑战都是人工智能的机遇 所在 但企业对人工智能缺乏信任 因 此并未积极主动地去抓住机遇 且慎之 又慎地选择使用人工智能的领域 安永与微软欧洲近期

3、联合开展的一项调 查显示 71 的受访者将人工智能视为 高管的一项重要考虑事项 而只有4 的受访者在多个流程中用到了人工智能 并执行高级任务 任何技术的开发都会存在风险 而仍处 初期创新阶段的人工智能的潜在的开发 风险则更多 另外 人工智能涉及技 术丰富 潜在应用范围广泛 因此 维 系用户对人工智能的信任不是 一蹴而 就 的事 而是一个长期的过程 需要 一流的治理和控制 并随着人工智能功 能的创新而不断更新 信任是企业建立利益相关方信心和鼓励 利益相关方积极接纳人工智能系统的基 础 但是 在这个信息实时共享的时 代 错误的代价可能会很高 一旦失 败 很难获得重来的机会 信任设计 Trust b

4、y Design 能帮 助企业将风险优化的思维嵌入人工智能 的整个生命周期 通过将风险职能从被 动的风险应对升级为强大的 动态的 面向未来的工具来建立信任 的受访企业将人工智能视为 高管的 重要考虑事项 的企业在 多个流程中积极使用 人工智能 为复杂任务提供支持 将 信任设计 注入人工智能1 71 仅4 如何通过风险预测获取人工智能洞察 3 建立用户对人工智能的信任2 人工智能带来了新的风险和影响 已超出人工智能带来了新的风险和影响 已超出 人工决策范畴 涉及技术发展 人工决策范畴 涉及技术发展 人工智能给技术 道德和社会领域带来 了风险和影响 我们需要建立新的框架 来识别 计量和应对人工智能

5、风险 该框架需以现有的治理和控制结构为基 础 同时加入新的机制以应对人工智能 特有风险 人工智能四大关键风险领域 人工智能四大关键风险领域 与企业战略不符 未知系统限制 和边界条件 破坏人的能动性 数据质量低 数据隐私 和保护 偏见数据 低代表性的训练数据 模式和特征选择不充分 结果有偏见 黑盒 算法 经营超出技术能力 性能漂移 对抗式攻击 设计风险 数据风险 算法风险 绩效风险 4 如何通过风险预测获取人工智能洞察 人工智能应该是安全 公平 可解释并 以人为中心的 几乎已成为所有人的共 识 但如何实现这几点 尚无定论 应对人工智能风险 我们不能依赖传统 的风险管理方式被动响应 而需加入创 新

6、的管理方式 包括 人工智能风险管理不仅仅是为了防范声 誉 法律和监管影响 也是为了提高人 工智能的可信任度 一谈到人工智能 公众首先想到的就是 其带来的风险 所以建立人们对人工智 能系统的信任需要一个过程 也需要与 利益相关方进行积极对话 基于数据的风险 分析 针对用户反馈和模 型验证进行适应性 学习 持续监控和受监督的响 应机制 在风险指标和一览表中 使用数据科学 人工智能开 发人员和风 险专业人士 密切合作 如何通过风险预测获取人工智能洞察 5 Design risks 主张 问责制 诚信 精通 一致 开放 利益相关方是否了解人工智能 的优势 以及人工智能将如何 改善他们获得的产品和服务

7、人工智能是否会升级和优化企业 的品牌 产品 服务和利益相关 方体验 人工智能的使用是否符合企业的既定目 标并随着时间的推移支持其达成目标 企业是否就人工智能的使用和 潜在风险与核心利益相关方集 团进行了有效沟通和互动 企业设计和运行可信任 人工智能的方法是否符合 其利益相关方的期望 建立人们对人工智能的信任需要各方协作 以安永信任模型贯穿五大信任支柱 在建立五大信任支柱时 能将这些支柱串联起来的总体要素是问责制 在建立五大信任支柱时 能将这些支柱串联起来的总体要素是问责制 6 如何通过风险预测获取人工智能洞察 问责制是建立信任的基础 也是企业将 想法转化为行为的关键点 无论人工智 能系统的自主

8、性程度如何 对算法的最 终责任必须由个人或企业来承担 企业可以通过将风险管理嵌入到人工智 能设计工具和监控机制中 展示其对 责任的承诺 承担对人工智能系统的预 测 决策和行为的责任 由于企业对人工智能的运行方式以及人 工智能风险会在何时以何种方式发展仍 需深化理解 许多人工智能系统仍被默 认存在高风险 因此用户小心翼翼 为了改变这一现状 安永开发了 Trusted AI Platform 受信任人工智能 平台 帮助企业量化其人工智能系统 的影响和可信任度 随着对每个人工智 能系统的风险概况和风险驱动因素的了 解更加深入 人工智能设计人员和操作 人员可以更好地应对其利益相关方提出 的问题 颠覆性

9、的快速发展要求我们必须建立新的风险管理 架构 在人工智能带来的机遇和风险间达到平衡 我们要将 哪里可能会出问题 的思维模式转变 为 哪里必须按预期运行 领先的人工智能企 业认识到信任是赢得竞争优势的关键因素 并从一 开始就将 信任设计 构建到人工智能系统中 Amy Brachio 安永全球风险和绩效改善咨询主管 如何通过风险预测获取人工智能洞察 7 欲使人工智能充分发挥潜力 企业需要有能力预测和衡量会放大欲使人工智能充分发挥潜力 企业需要有能力预测和衡量会放大 风险和破坏信任的情况 风险和破坏信任的情况 了解与人工智能相关的风险驱动 因素需要考虑一系列广泛的影响 要素 包括其技术设计 利益相

10、关方影响和控制成熟度 每个因 素的设计和操作都可能影响人工 智能系统的风险水平 企业在制定风险缓释措施时 应 该了解每个风险驱动因素对风险 的产生或缓释的一般影响 能够 量化每个驱动因素的相对重要 性 第三个考虑事项是 了解风 险驱动因素之间的相互关系 以 及这种关系如何增加风险 了解人工智能系统的风险驱动因 素是一项复杂的工作 需要仔细 考虑人工智能系统全生命周期中 潜在的利益相关方影响 考虑事 项包括 88 的受访企业不知道其正在使用 人工智能 却正在其核心流程 中使用人工智能 可能面临 未知风险 Narrative Science 量化人工智能风险3 人工智能系统设计的目标是什么 例如

11、预测 人工智能操作将对利益相关方带来 何种影响以及影响程度如何 人工智能系统的预测错误会对利益 相关方产生何种影响 人工智能系统进行预测时需要哪些 数据 使用的数据来源可靠性如何 人工智能系统的技术能力复杂程度 如何 人工智能系统运行环境的稳定程度 如何 操作人员在决策过程中扮演何种角 色 人工监测对人工智能系统决策框架 的了解程度如何 对于人工智能系统控制的成熟度如 何 8 如何通过风险预测获取人工智能洞察 在开发Trusted AI Platform时 安永将 这些考虑事项归纳为管理人工智能系统 风险的三个重要组成部分 安永开发Trusted AI Platform的目的是 提供一种评估

12、量化和监控人工智能影 响和可信任度的综合方法 Trusted AI Platform使用交互式的 基 于网页的示意图和评估工具来构建人工 智能系统的风险状况 然后使用先进的 分析模型 将用户反馈转化为包含人 工智能系统技术风险 利益相关方影响 和控制有效性的综合评分 技术风险评 分包含一个复杂的乘数 该乘数以技术 风险对利益相关方的影响为基础 同时 考虑意料之外的后果 如社会影响和道 德影响 对治理和控制成熟度的评估是 降低人工智能系统剩余风险的一个缓释 因素 建立和维持人们对人工智能的信任 将需要进行全新 的创新风险管理技术投资 包括综合的人机监控和快 速响应机制 只是了解潜在风险和影响还不

13、够 还需 要制定更深入的风险驱动因素计量系统 Cathy Cobey 安永全球受信任人工智能咨询主管 控制有效性 考虑是否存在降低 人工智能风险的控制及其运行有效性 技术风险 评估基础技术 技术 操作环境和自主性水平 利益相关方影响 考虑 人工智能代理的目标和目 的 以及对外部和内部用 户经济 情感和物理方面 的影响 以及声誉 监管 和法律风险 如何通过风险预测获取人工智能洞察 9 凭借这三类评分的组合 安永Trusted AI Platform可以计算出人工智能系统设计 的剩余风险 计算公式如下 人工智能剩余风险 技术风险 利益相关方 影响 控制有效性 对人工智能系统的剩余风险进行定量评 分

14、的优势在于 剩余风险可映射到整个 人工智能风险组合 并与企业的风险承 受能力相匹配 该类模型的另一个关键优势是能够深入 了解三个组成部分中每个组成部分的风 险驱动因素 在制定风险缓释策略时 了解风险的来源是至关重要的 例如 风险的出现是因为决定完全依赖 自动化决策而无需人为监督 还是因 为使用敏感数据属性而缺乏对偏见的有 效控制 第三个关键优势是 通过预测人工智能 设计变更 例如人工智能代理的功能性 或自主性级别 对风险的影响 能够执 行动态风险管理 这有助于更好地了解 人工智能系统的风险状况 并有助于根 据企业风险指标对系统进行基于事实的 评估 企业在进行稳健桌面设计时可利用 Trusted

15、 AI Platform进行风险量化 并 在人工智能项目开始时对功能进行检 验 从一开始就在人工智能系统的设计 中嵌入信任需求 将有助于提高人工 智能培训效率并增强用户信任度及采 纳度 X 1 3 2 4 7 8 5 9 6 固 有 技 术 风 险 影 响 部分有效 无效 人工智能代理剩余风险 控制有效性 有效 监控 优化 应对 接受 100 80 60 40 20 0 10 如何通过风险预测获取人工智能洞察 应对人工智能的风险需要使用能够跟上人工智能高速适应性学习能力的应对人工智能的风险需要使用能够跟上人工智能高速适应性学习能力的 创新控制方法 创新控制方法 由于目前对什么是良好风险状况尚无

16、定 论 而且利益相关方的期望也在不断变 化 制定一个适当的人工智能风险缓释 计划可能会很困难 传统的风险管理方 法和工具需要有新的方法加以补充 但 目前这方面的投资却相对滞后 在制定风险缓释策略时 企业必须采用 综合方法 要兼顾人工智能系统的目 标 对利益相关方的潜在 正面和负 面 影响 技术的可行性和控制机制的 成熟度以及人工智能运营商的风险承受 能力 除此之外 还应考虑策略是否符合现有 的法律法规以及是否自愿遵循人工智能 道德准则 在决定如何应对各项风险时 企业可以 采用以下四种策略 这些策略可以单独 部署 也可以结合使用 应对人工智能风险4 人工智能风险应对策略人工智能风险应对策略 规避规避 降低降低 转移转移 接受接受 优化人工智能系统设计 规避风险 通过有效控制 缓释风险 接受风险 不采取 进一步行动 将风险转移给第三方外包商或 保险公司 如何通过风险预测获取人工智能洞察 11 这些策略各有利弊 在开发可信任的人 工智能系统方面都有其价值 在安永的Trusted AI Platform提供的机 制下 企业可以精选风险缓释策略来应 对每项已识别风险 如果选择使用风险 降低策略