중국 연구팀 CATS Net 개발, 개념 추상화·과제 해결 혁신
전문가 해설
중국 연구진이 인공지능이 인간처럼 ‘개념’을 형성하도록 하는 신경망 구조를 제안했다는 뉴스입니다. 중국과학자동화연구소와 베이징대학 연구팀이 공동 개발한 CATS Net(Concept Abstraction and Task Solving Network)은 경험으로부터 추상 개념을 스스로 형성하고, 이를 활용해 과제를 해결하며, 나아가 다른 시스템과 개념을 공유할 수 있도록 설계된 프레임워크입니다. 연구 결과는 Nature Computational Science에 온라인 게재되었습니다.
핵심은 ‘개념 추상화 모듈’과 ‘과제 해결 모듈’을 분리하고, 이 둘을 동적으로 연결한 구조에 있습니다. 시각 정보를 입력받으면 고차원 데이터를 ‘개념 벡터’로 압축하고, 이 개념이 다시 문제 해결 과정의 신경 활동을 조절하는 방식입니다. 이는 인간이 구체적 경험을 통해 개념을 만들고, 다시 그 개념을 활용해 사고와 행동을 조직하는 양방향 인지 과정을 모사하려는 시도로 보입니다.
특히 주목할 부분은 시스템이 환경과의 상호작용을 통해 새로운 개념을 자율적으로 생성하고, 서로 다른 네트워크 간 개념 공간을 정렬하면 별도의 재학습 없이 지식을 전달할 수 있다는 점입니다. 이는 인간이 언어를 통해 개념을 공유하는 방식과 유사한 구조를 계산적으로 구현했다는 의미를 갖습니다.
또한 연구팀은 CATS Net이 형성한 개념 표현을 인간의 뇌 활동 데이터와 비교했습니다. 기능적 자기공명영상(fMRI) 분석 결과, 해당 네트워크의 개념 공간은 인간의 시각·의미 처리와 관련된 복측 후두측두 피질 활동과 유의미한 상관성을 보였다고 합니다. 더 나아가, 네트워크의 동적 게이팅 메커니즘이 인간의 의미 통제 네트워크와도 유사한 패턴을 나타냈다는 점은, 인지과학과 계산모델 사이의 연결 고리를 제시한다는 점에서 학문적 가치가 큽니다.
다만 이러한 성과를 곧바로 ‘인간 수준의 개념 이해’로 확대 해석하는 것은 신중할 필요가 있습니다. 현재 단계는 특정 과제 환경에서의 실험적 검증에 가깝고, 복잡한 사회적·언어적 맥락에서의 일반화 능력은 추가 검증이 필요해 보입니다. 또한 연구진이 언급했듯, 자율적으로 개념을 형성하는 AI가 인간의 가치 체계와 어떻게 정렬될 것인지 역시 중요한 과제로 남아 있습니다.
핵심은 ‘개념 추상화 모듈’과 ‘과제 해결 모듈’을 분리하고, 이 둘을 동적으로 연결한 구조에 있습니다. 시각 정보를 입력받으면 고차원 데이터를 ‘개념 벡터’로 압축하고, 이 개념이 다시 문제 해결 과정의 신경 활동을 조절하는 방식입니다. 이는 인간이 구체적 경험을 통해 개념을 만들고, 다시 그 개념을 활용해 사고와 행동을 조직하는 양방향 인지 과정을 모사하려는 시도로 보입니다.
특히 주목할 부분은 시스템이 환경과의 상호작용을 통해 새로운 개념을 자율적으로 생성하고, 서로 다른 네트워크 간 개념 공간을 정렬하면 별도의 재학습 없이 지식을 전달할 수 있다는 점입니다. 이는 인간이 언어를 통해 개념을 공유하는 방식과 유사한 구조를 계산적으로 구현했다는 의미를 갖습니다.
또한 연구팀은 CATS Net이 형성한 개념 표현을 인간의 뇌 활동 데이터와 비교했습니다. 기능적 자기공명영상(fMRI) 분석 결과, 해당 네트워크의 개념 공간은 인간의 시각·의미 처리와 관련된 복측 후두측두 피질 활동과 유의미한 상관성을 보였다고 합니다. 더 나아가, 네트워크의 동적 게이팅 메커니즘이 인간의 의미 통제 네트워크와도 유사한 패턴을 나타냈다는 점은, 인지과학과 계산모델 사이의 연결 고리를 제시한다는 점에서 학문적 가치가 큽니다.
다만 이러한 성과를 곧바로 ‘인간 수준의 개념 이해’로 확대 해석하는 것은 신중할 필요가 있습니다. 현재 단계는 특정 과제 환경에서의 실험적 검증에 가깝고, 복잡한 사회적·언어적 맥락에서의 일반화 능력은 추가 검증이 필요해 보입니다. 또한 연구진이 언급했듯, 자율적으로 개념을 형성하는 AI가 인간의 가치 체계와 어떻게 정렬될 것인지 역시 중요한 과제로 남아 있습니다.
요약
중국 과학기술원과 베이징 대학이 협력하여 개발한 신형神经네트워크 프레임워크 CATS Net을 사용하여 인공 지능 AI시스템이 인간의 개념 형성, 이해 및 대화를 구현할 수 있습니다.
科技日报记者 陆成宽
人类擅长从具体经验中总结出抽象概念,比如见过几次狗,脑子里就有了“狗”的概念。之后再看到“狗”这个字,又能联想到狗的样子,也能用狗的概念进行进一步的思考。但AI目前还很难自己学会这个。记者27日从中国科学院自动化研究所获悉,该所与北京大学的科研人员合作开发出一种新型神经网络框架CATS Net,成功让AI系统具备了类似人类的概念形成、理解和交流能力。相关研究成果在线发表于《自然-计算科学》杂志。
人类之所以聪明,很大程度上在于能从纷繁复杂的感官世界中提炼出核心概念。“然而,当前主流AI系统要么将知识混杂在海量参数中难以提取,要么高度依赖人类已有的语言数据进行训练,无法像人一样自主形成概念。”论文共同通讯作者、中国科学院自动化研究所副研究员陈阳介绍。
针对这一难题,研究团队提出了CATS Net神经网络框架。它包含概念抽象与任务求解两个核心模块。在处理视觉任务时,概念抽象模块能将高维视觉输入自动压缩成紧凑的“概念向量”,再通过门控机制动态调节任务求解模块的神经活动,指导其完成具体任务。这一过程模拟了人类从经验中总结概念、再用概念指导行动的双向认知机制。
实验显示,该系统可以根据与环境互动自主生成新概念,形成自己的“概念空间”。当不同网络的概念空间实现对齐后,它们可以直接通过概念向量传递知识,无需再从头学习,这模拟了人类通过语言进行交流的过程。
研究团队还将CATS Net形成的概念表征与人类大脑活动数据进行对比。功能性磁共振成像分析表明,该网络形成的概念空间不仅与心理学上的人类语义认知模型高度一致,其表征模式还与人类大脑中负责视觉语义理解的腹侧枕颞皮层活动显著相关。同时,该网络的动态门控机制与大脑中负责概念提取的语义控制网络活动模式吻合,揭示了人脑概念形成与理解的潜在计算原理。
论文共同通讯作者、中国科学院自动化所研究员余山表示,这项研究为理解人类概念认知提供了新的计算模型,也为研发具有类人概念智能的人工智能系统奠定了基础。未来,赋予AI自主形成新概念的能力,有望促进其在更广阔领域发挥作用,如从事科学探索等。同时,如何确保这类系统与人类价值对齐,将是下一步研究的关键问题。
(团队提供概念图,AI生成)
人类擅长从具体经验中总结出抽象概念,比如见过几次狗,脑子里就有了“狗”的概念。之后再看到“狗”这个字,又能联想到狗的样子,也能用狗的概念进行进一步的思考。但AI目前还很难自己学会这个。记者27日从中国科学院自动化研究所获悉,该所与北京大学的科研人员合作开发出一种新型神经网络框架CATS Net,成功让AI系统具备了类似人类的概念形成、理解和交流能力。相关研究成果在线发表于《自然-计算科学》杂志。
人类之所以聪明,很大程度上在于能从纷繁复杂的感官世界中提炼出核心概念。“然而,当前主流AI系统要么将知识混杂在海量参数中难以提取,要么高度依赖人类已有的语言数据进行训练,无法像人一样自主形成概念。”论文共同通讯作者、中国科学院自动化研究所副研究员陈阳介绍。
针对这一难题,研究团队提出了CATS Net神经网络框架。它包含概念抽象与任务求解两个核心模块。在处理视觉任务时,概念抽象模块能将高维视觉输入自动压缩成紧凑的“概念向量”,再通过门控机制动态调节任务求解模块的神经活动,指导其完成具体任务。这一过程模拟了人类从经验中总结概念、再用概念指导行动的双向认知机制。
实验显示,该系统可以根据与环境互动自主生成新概念,形成自己的“概念空间”。当不同网络的概念空间实现对齐后,它们可以直接通过概念向量传递知识,无需再从头学习,这模拟了人类通过语言进行交流的过程。
研究团队还将CATS Net形成的概念表征与人类大脑活动数据进行对比。功能性磁共振成像分析表明,该网络形成的概念空间不仅与心理学上的人类语义认知模型高度一致,其表征模式还与人类大脑中负责视觉语义理解的腹侧枕颞皮层活动显著相关。同时,该网络的动态门控机制与大脑中负责概念提取的语义控制网络活动模式吻合,揭示了人脑概念形成与理解的潜在计算原理。
论文共同通讯作者、中国科学院自动化所研究员余山表示,这项研究为理解人类概念认知提供了新的计算模型,也为研发具有类人概念智能的人工智能系统奠定了基础。未来,赋予AI自主形成新概念的能力,有望促进其在更广阔领域发挥作用,如从事科学探索等。同时,如何确保这类系统与人类价值对齐,将是下一步研究的关键问题。
(团队提供概念图,AI生成)