AI 대형 모델, 수금 QR 코드로 결제 오류
전문가 해설
최근 AI 대형 모델로 인한 '우발적 결제' 사건이 온라인에서 큰 논란을 일으켰습니다. 한 엔지니어링 회사의 책임자가 AI 대형 모델을 사용하여 직원들을 위해 단체 상해 보험을 구매할 때, 네티즌의 개인 수금 QR 코드를 결제 코드로 잘못 사용하여 QR 코드를 스캔하여 1618위안을 결제했습니다. 상황을 알게 된 후, 해당 네티즌은 돈을 환불했습니다.
《매일경제신문》 기자는 네 가지 AI 도구인 두바오, 퉁이첸원 두 가지 일반 대형 모델과 앤트샤오바오, 스마트 샤오마 두 가지 보험 플랫폼의 대형 모델을 실측하여 두 가지 대형 모델의 보험 구매 시 차이를 탐구했습니다. 테스트 결과, 일반 대형 모델은 상세한 제품 과학 보급과 추천 정보를 제공하지만, 최종 보험 가입은 제3자 플랫폼으로 이동해야 합니다. 반면 보험 플랫폼 대형 모델은 자사 제품을 직접 추천하고 사용자가 정식 보험 가입 절차에 들어가도록 안내합니다.
업계 전문가들은 소비자들이 전문 보험 플랫폼에서 AI 스마트 보험 컨설턴트를 선택하여 상담할 것을 권장합니다. 기본 지식을 이해하고 다양한 상품의 보장 범위를 비교한 후, 해당 플랫폼에서 계속 보험 가입을 완료할 수 있습니다. 동시에 강조하기를, AI가 의사 결정 참고 및 학습 도구를 제공할 수 있지만, 결제 단계 및 주요 의사 결정과 관련된 경우에는 여전히 전문가와 상담하거나 보험 회사에 직접 연락하여 확인을 받아야 하며, 이는 구매한 보험이 법적 효력을 가지도록 보장해야 한다고 했습니다.
《매일경제신문》 기자는 네 가지 AI 도구인 두바오, 퉁이첸원 두 가지 일반 대형 모델과 앤트샤오바오, 스마트 샤오마 두 가지 보험 플랫폼의 대형 모델을 실측하여 두 가지 대형 모델의 보험 구매 시 차이를 탐구했습니다. 테스트 결과, 일반 대형 모델은 상세한 제품 과학 보급과 추천 정보를 제공하지만, 최종 보험 가입은 제3자 플랫폼으로 이동해야 합니다. 반면 보험 플랫폼 대형 모델은 자사 제품을 직접 추천하고 사용자가 정식 보험 가입 절차에 들어가도록 안내합니다.
업계 전문가들은 소비자들이 전문 보험 플랫폼에서 AI 스마트 보험 컨설턴트를 선택하여 상담할 것을 권장합니다. 기본 지식을 이해하고 다양한 상품의 보장 범위를 비교한 후, 해당 플랫폼에서 계속 보험 가입을 완료할 수 있습니다. 동시에 강조하기를, AI가 의사 결정 참고 및 학습 도구를 제공할 수 있지만, 결제 단계 및 주요 의사 결정과 관련된 경우에는 여전히 전문가와 상담하거나 보험 회사에 직접 연락하여 확인을 받아야 하며, 이는 구매한 보험이 법적 효력을 가지도록 보장해야 한다고 했습니다.
💡 AI 대화모델을 이용해 보험을 가입할 때, 일반 AI와 전문 보험 AI의 차이를 확인해야 합니다. 일반 AI는 상품 정보 제공과 추천은 잘 하지만 실제 보험 가입은 제3자 플랫폼으로 이동해야 하며, 반면에 보험 전문 AI는 직접 해당 회사의 상품을 추천하고 정식 가입 절차를 안내합니다.
近日,一起由AI(人工智能)大模型引发的“乌龙付款”事件在网络引起热议。有网友发帖称,自己的收款二维码被某AI大模型拿去,成了一位用户购买保险的付款二维码。
根据央广网报道,付款方为一家工程公司的负责人,他在用AI大模型为员工挑选团体人身意外伤害保险时,轻信了AI大模型给出的所谓“保单付款二维码”,扫码支付了1618元。而这个二维码正是发帖网友的个人二维码。得知情况后,该网友将钱款退还。
如今,随手点开一款AI应用,解答疑惑、咨询问题已成为我们生活中的常态。当金融支付这类敏感信息竟被AI“顺手解决”,我们不禁要重新思考,在严肃金融领域,我们能否继续依赖通用大模型给出的答案。
为此,《每日经济新闻》记者(以下简称每经记者)近日实测用四款AI工具购买保险,包括豆包、千问两款通用大模型和蚁小保、智能小马两款保险平台大模型,探究两类大模型的差异。
实测:通用大模型PK保险垂直大模型
用AI购买保险,两类大模型有何不同?
每经记者首先输入实际的购买需求,豆包、通义千问两款通用大模型对此进行了较为详细的科普,在初步了解产品环节提供了必要的信息支持,在回答内容中包含了多款具体保险产品的推荐信息,回应了该问题背后的需求点。
具体而言,对于“我想买意外险”的问题,豆包给出的答案包括怎么选、避坑指南、热门产品参考、理赔小贴士四个方面;通义千问给出的答案包括了解意外险保什么、如何为自己和家人挑选两大部分,其中也针对不同人群给出了对应的推荐产品。
对于“我想买意外险”这一询问,两款保险平台大模型则多了一个交互的过程:智能小马的回复要点包括意外险的选购要点、不同年龄意外险配置逻辑变化、旅行意外险补充建议,同时继续询问了年龄信息;蚁小保自动梳理了用户的信息,并明确需求,给出“先给自己配”“也看看父母的”“全家一起配”三个选项。在补充了年龄、为谁购买等信息后,两款保险平台大模型分别给出推荐理由和产品链接。
不过,两类大模型最大区别在于:保险平台大模型推荐的产品仅限为平台旗下保险,用户点击链接可进入正常投保流程;通用大模型则是全网搜索后推荐产品,但投保存在卡点。
如记者选择豆包推荐的一款产品后,豆包询问:“你现在是要我们发官方投保入口,还是先确认具体工作以确保职业能投保?”记者确认发送投保入口后,豆包提供了产品链接。在第一次链接有误的情况下,豆包重新给出的链接显示为一家第三方中介平台的投保入口。通义千问则给出可能搜索到该产品的几大平台。当记者就保险付款进一步提问,两款通用大模型均强调需到官方/正规平台投保。
针对投保需求,业内建议选择专业保险平台上的AI智能保险顾问进行咨询,在咨询完成后,也可以进行后续的投保,该类平台比较专业、可信任。
消费者能否完全依赖AI给出的答案?业内认为,AI可作为有力助手,帮助用户了解保险基础知识(比如重疾险和医疗险有什么区别)、对比不同产品的保障范围(需核实信息是否最新)、熟悉投保流程、明白健康告知的重要性。同时,AI也存在明显局限性:它无法替代保险公司的核保结论,个人健康状况是否符合投保条件最终由核保决定;AI不能承诺理赔,所有理赔均以保险合同条款为准;AI提供的“投保建议”仅为参考,最终决策需由消费者自行负责。
因此,业内建议消费者将AI视为学习工具和流程助手。在选产品、填写健康告知、申请理赔等关键决策节点,务必咨询保险顾问、经纪人等专业人士,或直接拨打保险公司客服热线确认。毕竟,保险购买的是具有法律效力的合同,而非简单的对话记录。
业内:AI不碰支付环节,仅提供决策参考
对于AI大模型引发的“乌龙付款”事件,保险业内人士如何看?
慧择相关负责人在受访时对每经记者表示,公司在大模型部署初期已专项重点讨论过保险金融支付问题。为了合规和风控,凡是提及支付、下单、付款等敏感词时,AI只做引导,不直接完成交易。具体有两种方式:一是引导用户到对应的产品详情页,按正常流程投保;二是引导用户至顾问预约入口,由顾问完成后续确认和指导。
据了解,目前保险平台基本都采用此类模式。如蚁小保在为用户推荐保险时,并不会直接给出支付链接,需要用户点击链接跳转到具体保险产品页面,在详细看完产品介绍进行选择后,还要经过健康告知等一系列合法合规的流程,最终才能完成支付和投保。
对于不让AI直接辅助完成交易,慧择相关负责人进一步解释称,一是考虑到交易安全问题,二是考虑到该步骤的用户需求量问题。“慧择平台多数是长险业务,用户决策周期长,就算自主操作到下单这一步,也通常需要人工顾问二次确认。所以AI从一开始就不碰支付环节,只是完成它作为信息咨询助手的角色,供用户决策参考。”
星火保产品研发负责人罗方舟认为,金融行业尤其是支付环节,直接涉及资金安全、信息安全和隐私安全,这三个方面的安全合规要求是不可逾越的红线。
在资金层面,支付链路通常由持牌机构(如银行、第三方支付公司)负责,公司自身不设立资金池。所有扣款指令通过支付网关转发,资金流由持牌机构进行清算,公司仅负责记录订单及状态流转信息。
在信息安全层面,用户的身份证、银行账户、保单等信息属于高度敏感数据。行业通行的做法包括:对敏感字段进行加密存储(即使数据库被窃取也无法解读);遵循最小权限原则分配访问权限,运营人员无法查看完整的身份证号或银行卡号;对操作日志进行脱敏处理,严禁打印完整敏感信息;数据传输全程采用HTTPS(超文本传输安全协议)以防止中间人攻击。
在合规层面,保险销售涉及保险中介许可证、双录(录音录像)、KYC(投保人身份核验)等要求,这些要求在系统设计阶段就必须嵌入业务流程。支付环节还需符合反洗钱(AML)和反欺诈的风控规则。
险企:已有保险垂直大模型落地
对于普通消费者来说,关于购险的需求,不同类型大模型给出的回答专业度似乎很难区分,那么保险专业大模型到底有何不同?
业内人士在受访时表示,基于大模型技术的智能保险顾问与业务广泛的通用大模型不同,它只专注服务保险行业。一般而言,智能保险顾问可提供保险产品解读、保险方案配置和陪伴式理赔服务,全流程解决用户在保前、保中和保后的保险疑问和需求。
罗方舟在受访时提到,通用大模型与保险垂直大模型的本质区别在于知识密度和可控性。通用大模型的优势在于知识覆盖面广、对话流畅,但在保险领域存在明显短板:保险产品条款极其精细,不同险种、条款版本、除外责任、核保规则等信息动态变化,通用模型容易产生“幻觉”,可能输出与事实不符的错误信息。他认为,保险业务涉及合规,错误回复可能导致误导销售,这是监管红线。此外,通用大模型在结构化险种对比、核保结论推理等方面能力不足。
保险专业大模型的真正价值体现在:基于保险知识库(RAG)进行检索增强,减少“幻觉”;对接核保规则引擎,实现健康告知的初步判断和风险筛查;在合规边界内生成话术,明确区分“产品介绍”与“销售误导”;能够对接保单管理、理赔进度等业务数据。
罗方舟还表示,“保险大模型”真正的技术壁垒在于拥有足够丰富、及时更新的保险产品数据,以及将技术与业务流程深度融合。
记者注意到,一些头部险企已布局垂直领域大模型。如中国人保在2025年年报中称,公司通过自研方式打造保险领域垂直大模型“人保宸灵”,场景意图理解准确率超过99%。中国人保党委委员、人保财险党委书记张道明在业绩发布会上介绍,公司在建设一流AI底座方面取得初步成效:建立国产化异构算力平台,上线保险垂直大模型,建立200余项原子化AI能力,持续建设高质量训练数据集超30类。
众安在线在年报中提及,持续加大AI领域的研发与资源投入,深化大模型与保险垂直场景的融合创新,持续夯实AI技术底座。
根据央广网报道,付款方为一家工程公司的负责人,他在用AI大模型为员工挑选团体人身意外伤害保险时,轻信了AI大模型给出的所谓“保单付款二维码”,扫码支付了1618元。而这个二维码正是发帖网友的个人二维码。得知情况后,该网友将钱款退还。
如今,随手点开一款AI应用,解答疑惑、咨询问题已成为我们生活中的常态。当金融支付这类敏感信息竟被AI“顺手解决”,我们不禁要重新思考,在严肃金融领域,我们能否继续依赖通用大模型给出的答案。
为此,《每日经济新闻》记者(以下简称每经记者)近日实测用四款AI工具购买保险,包括豆包、千问两款通用大模型和蚁小保、智能小马两款保险平台大模型,探究两类大模型的差异。
实测:通用大模型PK保险垂直大模型
用AI购买保险,两类大模型有何不同?
每经记者首先输入实际的购买需求,豆包、通义千问两款通用大模型对此进行了较为详细的科普,在初步了解产品环节提供了必要的信息支持,在回答内容中包含了多款具体保险产品的推荐信息,回应了该问题背后的需求点。
具体而言,对于“我想买意外险”的问题,豆包给出的答案包括怎么选、避坑指南、热门产品参考、理赔小贴士四个方面;通义千问给出的答案包括了解意外险保什么、如何为自己和家人挑选两大部分,其中也针对不同人群给出了对应的推荐产品。
对于“我想买意外险”这一询问,两款保险平台大模型则多了一个交互的过程:智能小马的回复要点包括意外险的选购要点、不同年龄意外险配置逻辑变化、旅行意外险补充建议,同时继续询问了年龄信息;蚁小保自动梳理了用户的信息,并明确需求,给出“先给自己配”“也看看父母的”“全家一起配”三个选项。在补充了年龄、为谁购买等信息后,两款保险平台大模型分别给出推荐理由和产品链接。
不过,两类大模型最大区别在于:保险平台大模型推荐的产品仅限为平台旗下保险,用户点击链接可进入正常投保流程;通用大模型则是全网搜索后推荐产品,但投保存在卡点。
如记者选择豆包推荐的一款产品后,豆包询问:“你现在是要我们发官方投保入口,还是先确认具体工作以确保职业能投保?”记者确认发送投保入口后,豆包提供了产品链接。在第一次链接有误的情况下,豆包重新给出的链接显示为一家第三方中介平台的投保入口。通义千问则给出可能搜索到该产品的几大平台。当记者就保险付款进一步提问,两款通用大模型均强调需到官方/正规平台投保。
针对投保需求,业内建议选择专业保险平台上的AI智能保险顾问进行咨询,在咨询完成后,也可以进行后续的投保,该类平台比较专业、可信任。
消费者能否完全依赖AI给出的答案?业内认为,AI可作为有力助手,帮助用户了解保险基础知识(比如重疾险和医疗险有什么区别)、对比不同产品的保障范围(需核实信息是否最新)、熟悉投保流程、明白健康告知的重要性。同时,AI也存在明显局限性:它无法替代保险公司的核保结论,个人健康状况是否符合投保条件最终由核保决定;AI不能承诺理赔,所有理赔均以保险合同条款为准;AI提供的“投保建议”仅为参考,最终决策需由消费者自行负责。
因此,业内建议消费者将AI视为学习工具和流程助手。在选产品、填写健康告知、申请理赔等关键决策节点,务必咨询保险顾问、经纪人等专业人士,或直接拨打保险公司客服热线确认。毕竟,保险购买的是具有法律效力的合同,而非简单的对话记录。
业内:AI不碰支付环节,仅提供决策参考
对于AI大模型引发的“乌龙付款”事件,保险业内人士如何看?
慧择相关负责人在受访时对每经记者表示,公司在大模型部署初期已专项重点讨论过保险金融支付问题。为了合规和风控,凡是提及支付、下单、付款等敏感词时,AI只做引导,不直接完成交易。具体有两种方式:一是引导用户到对应的产品详情页,按正常流程投保;二是引导用户至顾问预约入口,由顾问完成后续确认和指导。
据了解,目前保险平台基本都采用此类模式。如蚁小保在为用户推荐保险时,并不会直接给出支付链接,需要用户点击链接跳转到具体保险产品页面,在详细看完产品介绍进行选择后,还要经过健康告知等一系列合法合规的流程,最终才能完成支付和投保。
对于不让AI直接辅助完成交易,慧择相关负责人进一步解释称,一是考虑到交易安全问题,二是考虑到该步骤的用户需求量问题。“慧择平台多数是长险业务,用户决策周期长,就算自主操作到下单这一步,也通常需要人工顾问二次确认。所以AI从一开始就不碰支付环节,只是完成它作为信息咨询助手的角色,供用户决策参考。”
星火保产品研发负责人罗方舟认为,金融行业尤其是支付环节,直接涉及资金安全、信息安全和隐私安全,这三个方面的安全合规要求是不可逾越的红线。
在资金层面,支付链路通常由持牌机构(如银行、第三方支付公司)负责,公司自身不设立资金池。所有扣款指令通过支付网关转发,资金流由持牌机构进行清算,公司仅负责记录订单及状态流转信息。
在信息安全层面,用户的身份证、银行账户、保单等信息属于高度敏感数据。行业通行的做法包括:对敏感字段进行加密存储(即使数据库被窃取也无法解读);遵循最小权限原则分配访问权限,运营人员无法查看完整的身份证号或银行卡号;对操作日志进行脱敏处理,严禁打印完整敏感信息;数据传输全程采用HTTPS(超文本传输安全协议)以防止中间人攻击。
在合规层面,保险销售涉及保险中介许可证、双录(录音录像)、KYC(投保人身份核验)等要求,这些要求在系统设计阶段就必须嵌入业务流程。支付环节还需符合反洗钱(AML)和反欺诈的风控规则。
险企:已有保险垂直大模型落地
对于普通消费者来说,关于购险的需求,不同类型大模型给出的回答专业度似乎很难区分,那么保险专业大模型到底有何不同?
业内人士在受访时表示,基于大模型技术的智能保险顾问与业务广泛的通用大模型不同,它只专注服务保险行业。一般而言,智能保险顾问可提供保险产品解读、保险方案配置和陪伴式理赔服务,全流程解决用户在保前、保中和保后的保险疑问和需求。
罗方舟在受访时提到,通用大模型与保险垂直大模型的本质区别在于知识密度和可控性。通用大模型的优势在于知识覆盖面广、对话流畅,但在保险领域存在明显短板:保险产品条款极其精细,不同险种、条款版本、除外责任、核保规则等信息动态变化,通用模型容易产生“幻觉”,可能输出与事实不符的错误信息。他认为,保险业务涉及合规,错误回复可能导致误导销售,这是监管红线。此外,通用大模型在结构化险种对比、核保结论推理等方面能力不足。
保险专业大模型的真正价值体现在:基于保险知识库(RAG)进行检索增强,减少“幻觉”;对接核保规则引擎,实现健康告知的初步判断和风险筛查;在合规边界内生成话术,明确区分“产品介绍”与“销售误导”;能够对接保单管理、理赔进度等业务数据。
罗方舟还表示,“保险大模型”真正的技术壁垒在于拥有足够丰富、及时更新的保险产品数据,以及将技术与业务流程深度融合。
记者注意到,一些头部险企已布局垂直领域大模型。如中国人保在2025年年报中称,公司通过自研方式打造保险领域垂直大模型“人保宸灵”,场景意图理解准确率超过99%。中国人保党委委员、人保财险党委书记张道明在业绩发布会上介绍,公司在建设一流AI底座方面取得初步成效:建立国产化异构算力平台,上线保险垂直大模型,建立200余项原子化AI能力,持续建设高质量训练数据集超30类。
众安在线在年报中提及,持续加大AI领域的研发与资源投入,深化大模型与保险垂直场景的融合创新,持续夯实AI技术底座。