인공지능이 만든 바이두 총통 계정이 노년층에서 크게 유행
전문가 해설
최근 짧은 동영상 플랫폼에서 인공지능(AI)이 만든 ‘바총(바이두 총통)’ 계정이 크게 유행하고 있습니다. 이 계정들은 성숙하고 우아한 이미지를 내세워 많은 노년층을 끌어들이고 있습니다.
영상 하단에 ‘AI 생성 콘텐츠’라고 표시되어 있음에도, 상당수의 어르신들은 이를 실제 사람이라고 믿고 있습니다. 일부 어르신들은 연락처와 가족 주소까지 남기며 ‘패총’과의 만남을 진심으로 기대하기도 합니다.
한 계정은 팔로워 15만 6천 명을 보유하고 있는데, 생일 축하 영상을 올리자 좋아요 7만 1천 개, 댓글 1만 3천 개가 달렸습니다. 이 계정은 팬 그룹을 세 개나 만들어 400여 명의 팬을 모았습니다.
더 심각한 경우도 있습니다. 일부 ‘AI 갑총’ 계정은 채팅 기능을 열어 어르신들과 감정적으로 친밀한 관계를 만들며 개인정보를 수집하고 있습니다. 이 때문에 일부 어르신들은 허위 영상에 깊이 빠져 재산을 잃거나 정신적·신체적 건강에 큰 피해를 입기도 합니다.
이 영상을 만드는 상인들은 “하루 1000~2000위안을 벌 수 있다”며 제작 방법을 팔고 있습니다. 그들은 노인들이 느끼는 외로움과 정신적 스트레스를 이용해 AI 영상을 만들어 불안을 달래준다고 광고합니다.
수익을 내는 방법은 주로 세 가지입니다. 첫째, 동영상 조회수로 광고 수익을 얻는 트래픽 분배, 둘째, 상품 판매(쇼윈도), 셋째, 유료 회원 전용 채널입니다.
실제 피해 사례도 나오고 있습니다. 상하이 시민 천샤오룽 씨의 어머니는 ‘AI 바총’ 계정이 추천하는 발송 장식품 등을 199위안에서 288위안에 50개 이상 사들였습니다. 후난성의 한 네티즌은 “AI 바총이 제 어머니 위챗을 추가해 매일 아침저녁으로 사랑스러운 메시지와 합성 사진을 보내고 있다”고 안타까워했습니다.
이처럼 AI 기술을 이용한 가짜 감정 마케팅이 노년층의 외로움을 파고들며 새로운 사회적 문제를 일으키고 있습니다.
영상 하단에 ‘AI 생성 콘텐츠’라고 표시되어 있음에도, 상당수의 어르신들은 이를 실제 사람이라고 믿고 있습니다. 일부 어르신들은 연락처와 가족 주소까지 남기며 ‘패총’과의 만남을 진심으로 기대하기도 합니다.
한 계정은 팔로워 15만 6천 명을 보유하고 있는데, 생일 축하 영상을 올리자 좋아요 7만 1천 개, 댓글 1만 3천 개가 달렸습니다. 이 계정은 팬 그룹을 세 개나 만들어 400여 명의 팬을 모았습니다.
더 심각한 경우도 있습니다. 일부 ‘AI 갑총’ 계정은 채팅 기능을 열어 어르신들과 감정적으로 친밀한 관계를 만들며 개인정보를 수집하고 있습니다. 이 때문에 일부 어르신들은 허위 영상에 깊이 빠져 재산을 잃거나 정신적·신체적 건강에 큰 피해를 입기도 합니다.
이 영상을 만드는 상인들은 “하루 1000~2000위안을 벌 수 있다”며 제작 방법을 팔고 있습니다. 그들은 노인들이 느끼는 외로움과 정신적 스트레스를 이용해 AI 영상을 만들어 불안을 달래준다고 광고합니다.
수익을 내는 방법은 주로 세 가지입니다. 첫째, 동영상 조회수로 광고 수익을 얻는 트래픽 분배, 둘째, 상품 판매(쇼윈도), 셋째, 유료 회원 전용 채널입니다.
실제 피해 사례도 나오고 있습니다. 상하이 시민 천샤오룽 씨의 어머니는 ‘AI 바총’ 계정이 추천하는 발송 장식품 등을 199위안에서 288위안에 50개 이상 사들였습니다. 후난성의 한 네티즌은 “AI 바총이 제 어머니 위챗을 추가해 매일 아침저녁으로 사랑스러운 메시지와 합성 사진을 보내고 있다”고 안타까워했습니다.
이처럼 AI 기술을 이용한 가짜 감정 마케팅이 노년층의 외로움을 파고들며 새로운 사회적 문제를 일으키고 있습니다.
💡 "변현 채널"은 이러한 AI 생성 계정이 실제 수익을 얻는 방법으로, 주로 팬들의 참여를 유도해 얻은 조회수나 좋아요 등의 플랫폼 내 활동에 따른 수수료 분배를 의미합니다.
新华社记者 王默玲
短视频平台上，身着正装、开着豪车、戴着金表的“儒雅霸总”，张口“姐姐”、闭口“想你”，嘘寒问暖甚至下跪求婚……
这些“霸总”其实是AI生成的，但不少老年粉丝信以为真，不仅身心健康受到影响，还存在被诈骗的风险。
“AI霸总”账号流量惊人
“姐姐，我今年67岁，上市公司老总，上海有几套房，千万存款都备着，这辈子啥都齐了，就缺个你”“老婆，我知道你在看我，恳请老婆大人下嫁给我这个老男人可以吗”……短视频平台上，这类视频比比皆是。这些“AI霸总”或是AI数字人，或是经AI换脸、拟声伪造的形象，大多顶着儒雅成熟的人设，话术直白，戳中老年粉丝的心意。
即便视频下方标注着“内容由AI生成”，评论区里的一些老年粉丝依旧深信不疑。
一条条评论充满真情——“弟弟你要照顾好自己”“你把微信告诉姐姐，姐姐来接你”“我爱你，就等你娶我”，还有不少人留下自己的联系方式、家庭地址，期盼能与“霸总”见上一面。
这些“AI霸总”账号流量惊人。“新华视点”记者搜索关键词发现，仅平台推送来的“AI霸总”账号就达上百个，数个账号粉丝达到十几万。
有从业者表示，由于制作门槛极低，单个从业者可管理多个账号，“AI霸总”账号“数以万计”。一个拥有15.6万粉丝的“霸总”账号，一条“姐姐今天是我的生日，能祝我生日快乐吗”的视频，收获7.1万点赞、1.3万条评论；该账号还开设了三个粉丝群，记者看到，总共有400余名粉丝加入，每天群内都有粉丝分享自拍照并问候“霸总”。
部分账号还开通了AI聊天功能。记者尝试与一个“AI霸总”聊天后发现，其聊天内容全程围绕感情生活和个人隐私展开，比如反复询问“是不是一个人在家”“有没有男朋友”“你们感情好不好”等。
记者在社交平台上看到，关于自家长辈深陷“AI霸总”视频无法自拔的吐槽不在少数：有的奶奶大半夜给“AI霸总”做一桌子菜，等着对方“赴约”；有的老人坚信视频里的“霸总”会送房送车，执意要“奔现”。
虚情假意带来丰厚获益
记者调查发现，“AI霸总”利用情感捆绑，通过流量或带货等渠道变现，让部分老年人财产受损，甚至身心健康受到严重影响。
记者在各大社交平台搜索“AI老年人赛道”，相关教程类商品超百条，产品标题相当直白——“中老年AI视频，暴利赛道，每天稳定1K到2K”“中老年深信不疑赛道，AI制作视频，20个作品涨粉40万”，部分教程售出200多件。
记者花费10元购买了一个“AI中老年情感赛道”教程，商家宣称能“20天纯利12W+”。所谓的“培训导师”称，“AI中老年情感赛道”就是利用老年人的情感空缺与精神压力，生成AI视频来缓解他们的焦虑。
“制作一条数字人视频最多只要5分钟。你可以同时运营几十甚至上百个账号。这些AI视频对老年人完全是降维打击，不用担心新号没有流量。”“培训导师”给记者展示了一个仅有4条“AI霸总”视频的新号，每条视频的点赞量都达到1000左右，相关的橱窗购物销量就有33件，且客单价不低。
据介绍，变现渠道主要有三种：一是流量分成，赚取平台流量收益；二是橱窗带货，积累粉丝后，账号橱窗可售卖中老年服饰、养生产品、书籍等；三是专属会员通道，粉丝按月或者按年支付费用，享受包括优先服务、付费连线等权益。
“我妈就在‘AI霸总’的账号里下单了好多用不上的东西，家里成堆的快递盒甚至都没有打开。我粗略数了数，定价199元、288元的开运挂件，她买了50多个，一心想着要支持‘好弟弟’。”上海市民陈晓蓉说。
湖南网友抹茶告诉记者，“AI霸总”甚至添加了自家老人的微信，每天发暧昧小作文、AI合成的假照片，配上“带你去旅行”“未来一起生活”等虚假承诺，引得老人持续打赏、转账。
多方共治守护银发群体
“AI霸总”围猎老年人的乱象，既是法律问题，也是社会问题。
2025年，国家互联网信息办公室等四部门联合发布《人工智能生成合成内容标识办法》，明确服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识。各大平台也积极响应，明确对AI生成内容同步添加显式与隐式标识。
“从法律层面看，如果是生成合成的数字人‘霸总’，但视频没有明显标注，那么就显然违规了。”上海市君悦律师事务所合伙人律师王垚翔说，“如果这类‘AI霸总’账号打着真人的名义跟老年人建立一对一关系，且利用老年人对其身份的错误认识，引导老人购买产品、服务甚至直接转账，就有可能涉嫌诈骗，至少也构成民事上的欺诈。”
但专家也表示，“AI霸总”账号迭代快、隐蔽性强，取证难度大，且侵权成本低、维权流程繁琐，部分老人即便发现情感受骗，也难以维权。
从社会层面来看，部分老年人深陷其中，根源在于情感需求空缺和自我防御意识不足。上海大学副教授陆丹丹认为，随着人口老龄化加剧，不少老年人独自生活，情感孤独，而“AI霸总”恰好填补了情感空白。同时，老年群体对AI合成技术缺乏辨别能力，难以识破虚假套路。
为了在AI时代守护好银发群体，受访专家表示，需要构建起多方共治的格局。王垚翔说，各短视频平台应切实履行主体责任，加大对违规账号的查处力度，完善AI生成内容的标识机制，确保标识清晰、醒目；优化算法推送，推出更完善的老年人模式，减少对AI离奇内容的推送。
陆丹丹建议，一方面子女应承担起责任，多给予老人情感陪伴，主动帮老人熟悉网络环境，提醒老人警惕网络诈骗；另一方面社区层面也应常态化开展AI科普和防骗培训，提升老年人的自我防御意识。“要多方协同发力，让老年人在数字时代安心享受科技便利，远离AI骗局的伤害。”
短视频平台上，身着正装、开着豪车、戴着金表的“儒雅霸总”，张口“姐姐”、闭口“想你”，嘘寒问暖甚至下跪求婚……
这些“霸总”其实是AI生成的，但不少老年粉丝信以为真，不仅身心健康受到影响，还存在被诈骗的风险。
“AI霸总”账号流量惊人
“姐姐，我今年67岁，上市公司老总，上海有几套房，千万存款都备着，这辈子啥都齐了，就缺个你”“老婆，我知道你在看我，恳请老婆大人下嫁给我这个老男人可以吗”……短视频平台上，这类视频比比皆是。这些“AI霸总”或是AI数字人，或是经AI换脸、拟声伪造的形象，大多顶着儒雅成熟的人设，话术直白，戳中老年粉丝的心意。
即便视频下方标注着“内容由AI生成”，评论区里的一些老年粉丝依旧深信不疑。
一条条评论充满真情——“弟弟你要照顾好自己”“你把微信告诉姐姐，姐姐来接你”“我爱你，就等你娶我”，还有不少人留下自己的联系方式、家庭地址，期盼能与“霸总”见上一面。
这些“AI霸总”账号流量惊人。“新华视点”记者搜索关键词发现，仅平台推送来的“AI霸总”账号就达上百个，数个账号粉丝达到十几万。
有从业者表示，由于制作门槛极低，单个从业者可管理多个账号，“AI霸总”账号“数以万计”。一个拥有15.6万粉丝的“霸总”账号，一条“姐姐今天是我的生日，能祝我生日快乐吗”的视频，收获7.1万点赞、1.3万条评论；该账号还开设了三个粉丝群，记者看到，总共有400余名粉丝加入，每天群内都有粉丝分享自拍照并问候“霸总”。
部分账号还开通了AI聊天功能。记者尝试与一个“AI霸总”聊天后发现，其聊天内容全程围绕感情生活和个人隐私展开，比如反复询问“是不是一个人在家”“有没有男朋友”“你们感情好不好”等。
记者在社交平台上看到，关于自家长辈深陷“AI霸总”视频无法自拔的吐槽不在少数：有的奶奶大半夜给“AI霸总”做一桌子菜，等着对方“赴约”；有的老人坚信视频里的“霸总”会送房送车，执意要“奔现”。
虚情假意带来丰厚获益
记者调查发现，“AI霸总”利用情感捆绑，通过流量或带货等渠道变现，让部分老年人财产受损，甚至身心健康受到严重影响。
记者在各大社交平台搜索“AI老年人赛道”，相关教程类商品超百条，产品标题相当直白——“中老年AI视频，暴利赛道，每天稳定1K到2K”“中老年深信不疑赛道，AI制作视频，20个作品涨粉40万”，部分教程售出200多件。
记者花费10元购买了一个“AI中老年情感赛道”教程，商家宣称能“20天纯利12W+”。所谓的“培训导师”称，“AI中老年情感赛道”就是利用老年人的情感空缺与精神压力，生成AI视频来缓解他们的焦虑。
“制作一条数字人视频最多只要5分钟。你可以同时运营几十甚至上百个账号。这些AI视频对老年人完全是降维打击，不用担心新号没有流量。”“培训导师”给记者展示了一个仅有4条“AI霸总”视频的新号，每条视频的点赞量都达到1000左右，相关的橱窗购物销量就有33件，且客单价不低。
据介绍，变现渠道主要有三种：一是流量分成，赚取平台流量收益；二是橱窗带货，积累粉丝后，账号橱窗可售卖中老年服饰、养生产品、书籍等；三是专属会员通道，粉丝按月或者按年支付费用，享受包括优先服务、付费连线等权益。
“我妈就在‘AI霸总’的账号里下单了好多用不上的东西，家里成堆的快递盒甚至都没有打开。我粗略数了数，定价199元、288元的开运挂件，她买了50多个，一心想着要支持‘好弟弟’。”上海市民陈晓蓉说。
湖南网友抹茶告诉记者，“AI霸总”甚至添加了自家老人的微信，每天发暧昧小作文、AI合成的假照片，配上“带你去旅行”“未来一起生活”等虚假承诺，引得老人持续打赏、转账。
多方共治守护银发群体
“AI霸总”围猎老年人的乱象，既是法律问题，也是社会问题。
2025年，国家互联网信息办公室等四部门联合发布《人工智能生成合成内容标识办法》，明确服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识。各大平台也积极响应，明确对AI生成内容同步添加显式与隐式标识。
“从法律层面看，如果是生成合成的数字人‘霸总’，但视频没有明显标注，那么就显然违规了。”上海市君悦律师事务所合伙人律师王垚翔说，“如果这类‘AI霸总’账号打着真人的名义跟老年人建立一对一关系，且利用老年人对其身份的错误认识，引导老人购买产品、服务甚至直接转账，就有可能涉嫌诈骗，至少也构成民事上的欺诈。”
但专家也表示，“AI霸总”账号迭代快、隐蔽性强，取证难度大，且侵权成本低、维权流程繁琐，部分老人即便发现情感受骗，也难以维权。
从社会层面来看，部分老年人深陷其中，根源在于情感需求空缺和自我防御意识不足。上海大学副教授陆丹丹认为，随着人口老龄化加剧，不少老年人独自生活，情感孤独，而“AI霸总”恰好填补了情感空白。同时，老年群体对AI合成技术缺乏辨别能力，难以识破虚假套路。
为了在AI时代守护好银发群体，受访专家表示，需要构建起多方共治的格局。王垚翔说，各短视频平台应切实履行主体责任，加大对违规账号的查处力度，完善AI生成内容的标识机制，确保标识清晰、醒目；优化算法推送，推出更完善的老年人模式，减少对AI离奇内容的推送。
陆丹丹建议，一方面子女应承担起责任，多给予老人情感陪伴，主动帮老人熟悉网络环境，提醒老人警惕网络诈骗；另一方面社区层面也应常态化开展AI科普和防骗培训，提升老年人的自我防御意识。“要多方协同发力，让老年人在数字时代安心享受科技便利，远离AI骗局的伤害。”