공신부 등 10개 부처, 인공지능 윤리 지침 발표
전문가 해설
청명절 전, 공신부 등 10개 부처는 공동으로 《인공지능 과학기술 윤리 심사 및 서비스 방법(시행)》을 발표하여 인공지능 활동을 수행할 때 과학기술 윤리를 준수해야 한다고 요구했습니다. 인터넷정보판공실은 동시에 두 건의 의견 수렴 초안을 발표했으며, 《소형 개인정보 처리자 개인정보 보호 간소화 조치 규정》과 《디지털 가상 인물 정보 서비스 관리 방법》은 중소기업에 비용 절감을 위한 준법 경로를 제공하고, 후자는 디지털 인물의 이미지 승인, 전 과정 표시 메커니즘 및 미성년자 보호 등의 요구 사항을 명확히 했습니다.
지난주 우한에서 '무콰이파오'에서 거의 백 대의 차량이 집단 정지하는 사고가 발생했다; '개원 프로젝트'의 동료. skill'은 윤리와 법적 논의를 불러일으켰고, AI 단편 드라마가 여러 일반인의 초상권을 침해한 사건이 확산되었습니다. 시장감독총국은 통지를 발표하여 플랫폼 경제와 신에너지 자동차 등 분야의 경쟁 방지를 강조하고, 정당한 이유 없는 불공정 경쟁 행위를 정밀하게 조사하며, 데이터 요소의 각 참여자의 권익을 보호할 것을 강조했습니다.
인터넷정보판공실에서 발표한 《디지털 가상 인물 정보 서비스 관리 방법(의견 수렴 초안)》은 디지털 인물의 윤리적 논란, 초상권 부여 및 미성년자 보호 등의 문제에 대해 응답했습니다. 이 방법은 디지털 가상 인간 서비스를 제공할 때 전 과정에 걸쳐 표시를 해야 하며, 미성년자에게 가상 친밀한 관계 등의 서비스를 제공하는 것을 금지하여 그들의 신체적, 정신적 건강을 보장할 것을 요구합니다.
또한, 《소형 개인 정보 처리자 개인 정보 보호 간소화 조치 규정(의견 수렴 초안)》은 중소기업의 준법 비용을 절감하고, 10만 명 미만의 개인 정보를 처리하는 처리자에게 간소화된 경로를 제공하는 것을 목표로 합니다.
지난주 우한에서 '무콰이파오'에서 거의 백 대의 차량이 집단 정지하는 사고가 발생했다; '개원 프로젝트'의 동료. skill'은 윤리와 법적 논의를 불러일으켰고, AI 단편 드라마가 여러 일반인의 초상권을 침해한 사건이 확산되었습니다. 시장감독총국은 통지를 발표하여 플랫폼 경제와 신에너지 자동차 등 분야의 경쟁 방지를 강조하고, 정당한 이유 없는 불공정 경쟁 행위를 정밀하게 조사하며, 데이터 요소의 각 참여자의 권익을 보호할 것을 강조했습니다.
인터넷정보판공실에서 발표한 《디지털 가상 인물 정보 서비스 관리 방법(의견 수렴 초안)》은 디지털 인물의 윤리적 논란, 초상권 부여 및 미성년자 보호 등의 문제에 대해 응답했습니다. 이 방법은 디지털 가상 인간 서비스를 제공할 때 전 과정에 걸쳐 표시를 해야 하며, 미성년자에게 가상 친밀한 관계 등의 서비스를 제공하는 것을 금지하여 그들의 신체적, 정신적 건강을 보장할 것을 요구합니다.
또한, 《소형 개인 정보 처리자 개인 정보 보호 간소화 조치 규정(의견 수렴 초안)》은 중소기업의 준법 비용을 절감하고, 10만 명 미만의 개인 정보를 처리하는 처리자에게 간소화된 경로를 제공하는 것을 목표로 합니다.
💡 AI 윤리 검토와 디지털 인물 규제 강화는 기술의 사회적 책임을 강조하며, 개인 정보 보호 및 미성년자 권익 보호를 위한 법적 틀을 마련합니다.
요약
清明节前,工信部等十部门联合发布《人工智能科技伦理审查与服务办法(试行)》,要求开展人工智能活动需遵守科技伦理。网信办同时发布了两份征求意见稿,《小型个人信息处理者个人信息保护简化措施规定》和《数字虚拟人信息服务管理办法》,前者为中小企业提供合规路径以降低成本,后者则明确了数字人的形象授权、全程标识机制及未成年人保护等要求。 上周,“萝卜快跑”在武汉发生近百辆车集体停摆事故;开源项目“同事.skill”引发伦理与法律讨论;AI短剧侵犯多位素人肖像权事件发酵。市场监管总局发布通知,强调防治平台经济和新能源汽车等领域内卷式竞争,精准查处无正当理由的不正当竞争行为,并保护数据要素各参与方权益。 网信办发布的《数字虚拟人信息服务管理办法(征求意见稿)》回应了数字人的伦理争议、肖像权授权及未成年人保护等问题。该办法要求提供数字虚拟人服务时需全程显示标识,并禁止向未成年人提供虚拟亲密关系等服务,以保障其身心健康。 此外,《小型个人信息处理者个人信息保护简化措施规定(征求意见稿)》旨在降低中小企业合规成本,为处理不满10万人个人信息的处理者提供了简化路径。
21世纪经济报道记者 王俊
每周,合规周报会盘点上一周国内外人工智能、平台经济监管、个人信息保护等领域值得关注的重要动态。
清明节前,三份重磅文件发布。工信部等十部门联合印发《人工智能科技伦理审查与服务办法(试行)》,要求开展人工智能科技活动应将科技伦理要求贯穿全过程;网信办同时发布
《小型个人信息处理者个人信息保护简化措施规定(征求意见稿)》和《数字虚拟人信息服务管理办法(征求意见稿)》
两份征求意见稿,前者为中小企业量身定制了"减负版"合规路径,后者拟明确数字人形象授权要求、全程标识机制以及未成年人保护机制等。
此外,在上周,百度旗下"萝卜快跑"在武汉发生近百辆车集体停摆事故;开源项目"同事.skill"在社交媒体引发广泛讨论,AI将真人技能"蒸馏"为Skill替代工作的伦理问题与法律问题被推向公众视野;AI短剧“偷脸”多位素人引发连锁反应,红果短剧回应。
平台监管
着力防治平台经济、新能源汽车等领域 “内卷式”竞争
3月30日,市场监管总局发布关于进一步贯彻实施《中华人民共和国反不正当竞争法》的通知。
其中明确,综合运用各类反不正当竞争措施,着力防治平台经济、光伏、锂电池、新能源汽车等重点行业和领域 “内卷式”竞争 。精准辨识和依法查处平台企业无正当理由,
利用搜索排名、 经营评价、算法控制、限制流量、下架商品、增加费用、拖欠账期、中止交易、 内部惩戒等手段
,或在补贴、优惠、红包、折扣、“满减”、“买赠”、 促销等活动中,
强制或者变相强制平台内经营者以低于成本的价格销售商品 ,扰乱市场竞争秩序 。
并且要统筹好活力和秩序的关系, 完善网络竞争规则, 着力提升对网络不正当竞争行为的常态化监管水平。运用好禁止侵害数据权益的专款规定、商业秘密保护规则,准确识别数据不正当竞争行为,平衡好数据保护和数据利用的关系,加大对人工智能等新兴产业的保护力度,有效保护数据要素各参与方的合法权益, 维护数据市场竞争秩序。
网信办拟为数字人划红线
4月3日,网信办发布《数字虚拟人信息服务管理办法(征求意见稿)》并公开征求意见。
数字人此前已陷入“撞脸明星”“AI陪伴”等争议,此份征求意见稿回应了肖像权授权、未成年人保护、伦理争议等痛点,为500亿规模的数字虚拟人赛道划定安全边界。
在形象授权方面,征求意见稿提出,任何组织和个人提供、使用数字虚拟人服务,不得以丑化、污损等形式侵害他人人格权,
未经特定自然人同意,不得提供足以识别特定自然人身份的数字虚拟人服务。
并且,根据征求意见稿,任何组织和个人使用自然人敏感个人信息用于建模、形象生成、场景构建等活动的,
应当取得自然人的单独同意
,并以显著方式、清晰易懂的语言,真实、准确、完整地告知处理目的、必要性、对个人权益的影响等事项。
在未成年人保护方面,禁止诱导未成年人沉迷数字虚拟人服务。
不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系
,诱导过度消费、诱导信教等的数字虚拟人服务,以及含有可能引发或者诱导未成年人模仿不安全行为、实施违反社会公德行为、产生极端情绪、养成不良嗜好等可能影响未成年人身心健康信息的数字虚拟人服务。
并且,征求意见稿要求,提供数字虚拟人服务须全程显示"数字人"标识。
中小企业个人信息保护“减负”
同日,网信办发布关于《小型个人信息处理者个人信息保护简化措施规定(征求意见稿)》公开征求意见的通知。
这是《个人信息保护法》实施以来,
专门为中小企业量身定制的"减负版"合规路径,有助于降低中小企业合规成本。
小型个人信息处理者是指处理不满10万人个人信息的个人信息处理者。
根据该征求意见, 支持园区、产业基地、商业物业等服务管理单位,为其服务管理范围内开展相同线下业务的小型个人信息处理者统一制定并公开个人信息处理规则,同意遵守统一个人信息处理规则且在该规则中被列明的小型个人信息处理者,可以不再制定个人信息处理规则。
这或意味着,一些工业园区、美食城、商场,可以帮商铺做统一的个人信息保护处理规则。
对于小型个人信息处理者,若向境外提供个人信息,符合下列条件之一的,免予申报数据出境安全评估、订立个人信息标准合同、通过个人信息保护认证:
(一)为订立、履行个人作为一方当事人的合同,如跨境购物、跨境寄递、跨境汇款、跨境支付、跨境开户、机票酒店预订、签证办理、考试服务等,确需向境外提供个人信息的;
(二)按照依法制定的劳动规章制度和依法签订的集体合同实施跨境人力资源管理,确需向境外提供员工个人信息的;
(三)紧急情况下为保护自然人的生命健康和财产安全,确需向境外提供个人信息的;
(四)为履行法定职责或者法定义务,确需向境外提供个人信息;
(五)关键信息基础设施运营者以外的个人信息处理者自当年1月1日起累计向境外提供不满10万人个人信息(不含敏感个人信息)的;
(六)法律、行政法规或者国家网信部门规定的其他条件。
AI动态
武汉多辆“萝卜快跑”出现故障
3月31日深夜,有武汉市民经历了一场"无人驾驶惊魂"。多辆"萝卜快跑"自动驾驶出租车,在城市主干道和高架桥上突然集体"趴窝",部分乘客被困车内长达两小时。
4月1日凌晨,武汉市公安局交通管理局发布警情通报称:31日晚8点57分起,报警中心陆续接到群众报警,称自动驾驶出行平台“萝卜快跑”多辆车停在路中间不能移动。
警情通报称,初步判断此次事件为系统故障所致。事故原因正在进一步调查中。而对于为何会产生大规模故障,"萝卜快跑"客服称,系"网络故障和云端通信异常"。
同事.skill争议背后 被AI蒸馏的工作经验属于谁?
近来,技术社区GitHub上爆火的同事.skill引起了广泛讨论,这项skill的技能点是“提供同事的材料加上你的主观描述,生成一个真正能替他工作的AI skill”,并宣称“将冰冷的告别化为温暖的skill,加入赛博永生”。
截至4月4日晚,这个项目在GitHub累积了将近7万的星标。作为参照,在国内被称为龙虾的Openclaw,星标数为25万,并凭借这个数字登顶GitHub星标第一。
社会平台上的梗图层出不穷:“你的同事被优化了,但他的 skill 还在。”“被毕业的同事并没有消失,不过是被蒸馏成了token继续陪着你”......一系列“地狱笑话”背后,我们必须去了解,AI是否真的能将个人的工作经验蒸馏成可调用的Skill?如果能的话,这些know-how归谁所有?AI时代如何保护职场中的个体劳动价值?
如果人的工作经验、协作方式甚至风格特征都能被模块化,那么凝聚其中的劳动价值、知识产权和人格尊严分别应当如何保护?
清华大学公共管理学院长聘副教授,清华大学科技发展与治理研究中心主任助理陈天昊认为,
个体在职场中积累的判断习惯、沟通节奏、问题拆解方式、在不确定情境下的取舍标准等,是打工人真正的“饭碗”。
而AI可能把这些沉淀在聊天记录、文档修改痕迹、代码提交和邮件往来中的经验,系统化提炼、封装并调用。这部分知识到底更偏向属于公司资产,还是更应由劳动者自己掌握,现有知识产权法和个人信息法都只能覆盖一部分,还不能完全解决。
他认为,劳动者在工作中形成的默会的知识,在原则上应由劳动者自己掌握,未来需要修订劳动法及相关法律法规,以及通过劳动合同提前约定,明确谁有权调用这些默会知识以及调用的边界在哪里。(详情见:
“同事.skill”带来的“职场鬼故事”,折射出哪些法律问题
)
AI科技伦理审查办法出炉
4月3日,工业和信息化部、国家发展改革委、教育部、科技部、农业农村部、国家卫生健康委、中国人民银行、国家网信办、中国科学院、中国科协等十部门联合印发《人工智能科技伦理审查与服务办法(试行)》。
《办法》提出,开展人工智能科技活动应将科技伦理要求贯穿全过程,遵循增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明、保护隐私安全、确保可控可信的人工智能科技伦理原则,遵守我国宪法、法律法规和有关规定。
《办法》指出,从事人工智能科技活动的高等学校、科研机构、医疗卫生机构、企业等是本单位人工智能科技伦理审查管理的责任主体,应按照有关要求,设立人工智能科技伦理委员会。委员会应配备必要的工作人员、办公场所和经费等条件,采取有效措施保障委员会独立开展工作。
AI短剧“偷脸”多位素人,你的脸还安全吗?
AI短剧正火热,普通人却发现自己被“偷脸”进了屏幕里。3月31日,汉服妆造师白菜(化名)和商业模特七海(化名)先后在社交媒体发文称,在热播短剧《桃花簪》中,两名AI生成的反派配角色与自己的脸、妆容、服饰高度重合。
4月1日,《桃花簪》仍在红果短剧播放,但相关角色已被悄然替换,多位网友在评论区要求回应“偷脸”侵权问题。白菜告诉21记者,他已提出道歉、下架或调整剧集,并就侵犯肖像权主张赔偿。
纠纷背后,是一个迅速扩张的市场。市场研究机构DataEye统计,去年我国AI真人短剧市场已经突破了120亿元,同比增长超300%;今年一月的短剧百强榜中,AI真人短剧的占比已从去年的7%激增至38%。
多起“偷脸”“盗声”事件也对平台提出一个急迫问题:AI视频的商业化在飞奔,侵权防范措施是不是该跟着升级了?
4月3日晚间消息,红果短剧官方账号发布《关于<桃花簪>违反平台治理规范的处理声明》。声明内容称,近日,平台收到对短剧《桃花簪》的投诉,第一时间展开对出品方相关信息与材料的梳理审核。在72小时全面审核期,出品方未能向平台出具足够证实合规使用素材的证据。经细致比对核查,平台认定出品方违反相关内容合规使用规定,构成违规违约,即全面下架该剧,并暂停该出品方上传所有剧集15天。
工信部提醒苹果用户:尽快升级iOS,修复漏洞
据微信公众号“网络安全威胁和漏洞信息共享平台”消息,4月3日,工业和信息化部网络安全威胁和漏洞信息共享平台(NVDB)近日监测发现,有攻击者利用针对苹果公司终端产品的漏洞利用工具,实施网络攻击活动,可导致用户信息被窃取、设备系统被远程控制等严重危害。受影响的产品范围包括运行iOS 13.0至17.2.1版本的iPhone、iPad等苹果终端设备。
攻击者通过短信、邮件或网页投毒等方式,诱导用户使用Safari浏览器访问包含恶意代码的网页,综合利用终端设备中存在的安全漏洞,向受害终端产品植入远程控制木马,窃取用户敏感信息,获取最高权限并控制。
NVDB建议使用苹果公司终端产品的用户做好风险排查,尽快通过升级版本和安装补丁等方式修复漏洞。留意系统更新通知和苹果公司发布的最新安全更新公告,及时升级最新安全版本,强化使用安全意识,避免点击不明链接,防范网络攻击风险。