Tic商业评论

关注微信公众号【站长自定义模块】，定时推送前沿、专业、深度的商业资讯。

 找回密码
 立即注册
搜索
  • QQ空间
  • 回复
  • 收藏

澳大利亚证券和投资委员会发布AI治理调查报告

珀斯君 澳洲新鲜事 2024-11-5 07:00 235人围观

2024年10月29日，澳大利亚证券和投资委员会（ASIC）发布的一份名为《当心差距：面对 AI 创新的治理安排》的报告，主要探讨了澳大利亚金融服务和信贷持牌机构（licensees）在人工智能（AI）创新方面的治理安排，以及这些安排如何影响消费者风险。为了完成该报告，ASIC审查了 23 家 AFS 被许可方和信用被许可方如何使用和计划使用人工智能，他们如何识别和减轻相关的消费者风险，以及他们的治理安排。以下是报告的核心内容：

  1. AI的使用现状：

    • 广泛采用：ASIC审查了23家持牌机构，发现它们正在使用或计划使用AI，涵盖了银行、信贷、保险和财务咨询等领域。

    • 快速增长：57%的AI用例是在过去两年内开发或仍在开发中，显示了AI技术的快速增长和采纳。

    • 技术转变：虽然当前大多数用例使用成熟技术，但向更复杂、不透明的技术（如生成式AI）的转变正在加速。

  2. AI使用中的谨慎态度：

    • 辅助决策：AI主要用于辅助而非替代人类决策，大多数用例不直接与消费者互动。

    • 内部应用：AI在提升内部效率和流程优化方面应用广泛，但在直接面向消费者的应用中较为有限。

  3. 消费者风险与治理差距：

    • 治理不足：部分持牌机构在扩大AI使用时，其治理和风险管理安排并未同步更新，存在治理差距。

    • 消费者风险：治理不足可能导致消费者面临不公平歧视、信息误导、行为偏见利用和数据隐私泄露等风险。

  4. 风险管理与治理安排：

    • 风险评估不足：部分持牌机构从业务而非消费者角度评估AI风险，未充分识别AI特有的风险，如算法偏见。

    • 治理成熟度不一：持牌机构的AI治理成熟度差异显著，从几乎没有正式安排到战略性集中治理不等。

  5. 第三方模型依赖：

    • 高度依赖：30%的AI用例依赖第三方开发的模型，这可能带来透明度、控制和安全隐私方面的挑战。

    • 治理挑战：部分持牌机构在管理第三方模型方面存在不足，缺乏适当的验证、监测和审查程序。

  6. 未来展望与监管建议：

    • 平衡创新与安全：ASIC鼓励持牌机构在推动AI创新的同时，确保适当的消费者保护和市场诚信保障。

    • 监管框架发展：澳大利亚政府正在考虑制定高风险AI的强制性监管框架，ASIC支持这一举措，并将继续监测持牌机构的AI使用。

  7. 对持牌机构的建议：

    • 审视治理安排：持牌机构应定期审视和更新其AI治理和风险管理安排，确保与AI使用的规模和复杂性相匹配。

    • 遵守现有义务：持牌机构需考虑其现有监管义务，特别是与提供金融服务和信贷的“高效、诚实和公平”原则相关的义务。

报告强调了随着AI在金融服务和信贷领域的广泛应用，持牌机构需要更加重视其治理和风险管理安排，以确保在创新的同时保护消费者免受潜在风险的影响。同时，监管机构也在密切关注这一领域的发展，并考虑制定更具体的监管要求。

路过
雷人
握手
鲜花
鸡蛋
我有话说......
珀斯君关注作者

TA还没有介绍自己。

总积分0
Copyright @ 2024 澳洲|移民|留学 苏ICP备2023027125号
电话咨询: 61-426873209
关注微信