📰 中国农业银行董事长谷澍：不追求大模型风险的绝对消除 建立共生治理体系
6月17日至18日，陆家嘴论坛在上海举行，聚焦全球治理倡议下的金融发展与合作。中国农业银行董事长谷澍在“科技创新赋能金融高质量发展”分会上就大模型在金融领域的应用风险提出对策。他指出大模型存在模型黑箱、幻觉以及自主思考带来的不确定性等新型风险，但风险是客观存在，需建立能够与风险共生的治理体系，避免盲目消除风险。结合农业银行实践，提出四方面防范思路：一是按场景分级管控，依据金融场景风险等级与监管要求，制定可解释性和技术路线的差异化方案；二是设定标尺约束，结合业务流程确定参数界限，强化人机互补，压缩“自由编造”空间；三是以AI手段构筑纵深防御体系，实现早发现、快处置、自愈提升自动化应对能力；四是健全内部AI治理，确保AI“用得好、管得好”。此外，针对智能体应用，行业尚缺乏统一定义与规范，谷澍呼吁尽快明确标准，推动行业水平提升，并将功能单一、流程固定的智能体作为“标准件”，聚焦于具备自主规划与决策能力的智能体开发，以提升整体应用水平。
🏷️ #大模型 #金融科技 #AI治理 #智能体 #风险防控
🔗 原文链接
📰 中国农业银行董事长谷澍：不追求大模型风险的绝对消除 建立共生治理体系
6月17日至18日，陆家嘴论坛在上海举行，聚焦全球治理倡议下的金融发展与合作。中国农业银行董事长谷澍在“科技创新赋能金融高质量发展”分会上就大模型在金融领域的应用风险提出对策。他指出大模型存在模型黑箱、幻觉以及自主思考带来的不确定性等新型风险，但风险是客观存在，需建立能够与风险共生的治理体系，避免盲目消除风险。结合农业银行实践，提出四方面防范思路：一是按场景分级管控，依据金融场景风险等级与监管要求，制定可解释性和技术路线的差异化方案；二是设定标尺约束，结合业务流程确定参数界限，强化人机互补，压缩“自由编造”空间；三是以AI手段构筑纵深防御体系，实现早发现、快处置、自愈提升自动化应对能力；四是健全内部AI治理，确保AI“用得好、管得好”。此外，针对智能体应用，行业尚缺乏统一定义与规范，谷澍呼吁尽快明确标准，推动行业水平提升，并将功能单一、流程固定的智能体作为“标准件”，聚焦于具备自主规划与决策能力的智能体开发，以提升整体应用水平。
🏷️ #大模型 #金融科技 #AI治理 #智能体 #风险防控
🔗 原文链接
