고려대 인공지능학과 이성환 교수
Network of evolvable neural units can learn synaptic learning rules and spiking dynamics
고려대학교(총장 정진택) 인공지능학과 이성환 교수와 Paul Bertens 박사과정 학생의 연구 논문이 인공지능 분야의 세계적인 과학저널 ‘네이처 머신 인텔리전스(Nature Machine Intelligence)’ 12월 10일자(영국 현지시간 기준) 표지 논문으로 게재됐다.
연구팀은 ‘Network of evolvable neural units can learn synaptic learning rules and spiking dynamics’ 논문에서 실제 생물학적인 뉴런과 시냅스의 작동원리를 모방하고 진화 알고리즘을 통해 학습할 수 있는 진화 가능한 신경망 단위 (Evolvable Neural Unit)를 제안하여 뇌에서 영감을 받은 인공지능을 향한 새로운 길을 제시했다.
기존의 인공신경망 모델은 다양한 분야에서 성공을 거두고 있으나, 이는 인간 뇌의 아주 일부분인 뉴런과 시냅스의 원리를 수학적으로 모델링하는 것에 그쳐, 스스로 학습하고 자가 진화하는 능력은 부족했다.
이번에 발표한 진화 가능한 신경망 모델은 실제 인간의 뇌에서 뉴런과 시냅스가 복잡하고 긴 진화의 과정을 통해 학습하는 과정을 모방하여 만들었다. 인간의 뇌가 수학적 모델링 및 인위적으로 패턴을 기반으로 학습하지 않는 것처럼, 제안된 방법은 구현된 신경망 단위가 실제 진화 과정을 토대로 학습하는 새로운 인공지능의 기술이다.
논문의 교신 저자인 이성환 고려대 교수는 “인간의 뇌는 우리에게 친근하지만 그 내부는 여전히 풀리지 않는 많은 미스테리를 갖고 있는 미지의 영역”이라며 “이번 논문은 기존의 신경망보다 한 단계 더 가까이 인간의 뇌를 모방하고 그 내부에 진화, 강화학습 등 실제 인간의 생물학적 메커니즘을 많이 내포한 새로운 인공지능의 기술”이라고 말했다.
이 교수는 “현재 빠른 속도로 발전하고 있는 기계학습 기반 인공지능 기술은 뇌 학습기전의 극히 일부분을 수학적으로 모델링한 것이며, 분명히 한계점이 존재한다. 이번 연구는 앞으로 인공지능이 나아가야 할 새로운 기술이 될 수 있는데, 아직 많은 실험과 연구가 추가적으로 필요하지만 인공지능이 실제 인간의 복잡도를 갖는 수준으로 발전할 수 있는 시발점이 되는 괄목할 만한 성과”라고 연구 의의를 밝혔다.
이번 연구는 과학기술정보통신부/정보통신기획평가원 ‘인공지능대학원지원사업’과 ‘ICT융합산업원천기술개발사업‘의 지원을 받아 수행됐다.
[ 논문 소개 ]
제목 : Network of evolvable neural units can learn synaptic learning rules and spiking dynamics
최근 심층 학습은 인공지능 분야에서 매우 우수한 성능을 내고 실제 환경에 다양하게 적용되고 있다. 하지만 기존의 신경망 구조는 인간의 뇌에 아주 일부인 뉴런과 시냅스 연결을 수학적으로 모델링하고 있고 여전히 해결하지 못하는 한계점들이 있다. 그리고 실제 인간의 뇌 내부에서 관찰되는 학습 원리와 현재 사용되고 있는 인공신경망 모델 간에는 생물학적인 복잡도의 차이가 많이 존재한다. 인간의 뇌는 뉴런과 시냅스가 긴 진화 및 학습 과정을 거친 결과며, 이는 순수 수학이나 알고리즘을 통해 구조화된 패턴이 아닌 시행착오, 경험, 기억을 통해 매우 추상적이고 복잡한 패턴에 기반한다.
이에 영감을 얻어 본 연구에서는 생물학적인 뉴런과 시냅스를 더 잘 모방할 수 있는 알고리즘을 제안하였다. 핵심 아이디어는 기존의 인공신경망은 하나의 뇌를 모델링한 반면, 실제 뇌에 존재하는 개별의 뉴런과 시냅스를 각각 인공신경망으로 구조화하여 학습하는 것이다. 각각의 뉴런과 시냅스는 전체 뇌의 내부에 존재하는 일종의 인공적인 미니-뇌의 역할을 하며, 이러한 인공 미니-뇌는 주어진 문제를 해결하기 위해 서로 협력하여 하나의 거대한 네트워크로 자가 진화를 한다.
미니-뇌의 구조는 수만 가지의 형태가 존재할 수 있으나, 기존의 인공신경망과 같이 사람에 의해 디자인되는 방법이 아닌, 진화 알고리즘 (Evolutionary algorithm)을 통해 최적의 형태로 도출된다. 진화 알고리즘은 생식, 무작위 돌연변이 및 적자 생존의 원칙에 따라 인공신경망을 주어진 문제에 맞는 유형으로 구조화할 수 있다. 이를 통해 각각의 미니-뇌는 수학적인 알고리즘을 기반으로 하지 않고, 모든 학습 유형의 행동에 최적화되도록 서로 간 협력 및 진화되면서 주어진 문제를 해결한다. 우리는 이러한 진화 가능한 미니-뇌를 진화 가능한 신경 단위 (Evolvable Neural Units: ENU)로 부르고, 이를 통해 네트워크를 구조화하면서 진화 가능한 신경 단위 네트워크 (Network of Evolvable Neural Units)를 구상하였다.
논문의 결과에서는 ENU가 뇌와 같은 정보 처리 및 시냅스 학습 행동을 모방할 수 있음을 보여준다. 실험에서는 시뮬레이터 환경에서 행동에 따라 주어지는 보상과 벌점을 기반으로 한 강화학습으로 진화하는 ENU를 보여주고 있다. 쥐가 미로를 푸는 문제에서 기존의 신경망에서 사용되는 가중치를 수정하는 방식이 아닌, 미니-뇌들의 협력 관계를 수정함으로써 보상과 벌점에 대한 기준을 파악하고 문제를 해결한다.
연구팀은 본 연구를 통하여 실제 생물학적인 뇌의 작동원리에서 영감을 받은 진화 가능한 신경 단위 네트워크를 제시함을 통해 인공지능을 향한 새로운 접근방식을 제안했다. 기존의 연구들에서 진행해온 신경망의 학습에 대한 수학적 모델링 대신, 복잡한 뇌의 생물학적 구조를 모방하고 이를 진화 알고리즘을 통해 학습함으로써, 지능의 기원과 밀접한 알고리즘을 개발하였다. 제안된 방법론은 아직 연구 초기 단계에 있지만, 앞으로 다양한 분야에 인간의 뇌와 복잡도가 유사한 스스로 진화 가능한 네트워크를 융합 및 연구하여, 잠재적으로 인간과 유사한 수준의 지능과 유연성을 갖는 인공지능 기술 달성에 큰 도움을 줄 것으로 예상된다.
저자 이력사항
Paul Bertens 박사과정(제1저자)
1. 인적사항
· 소속 : 고려대학교 뇌공학과
· 전화 : 02-3290-3572
· E-mail : paulbertens@korea.ac.kr
2. 학력사항
· 2019년-현재 고려대학교 뇌공학과 (박사과정)
· 2016년 Radboud University 인공지능학과 (석사)
· 2014년 Eindhoven University of Technology 컴퓨터공학과 (학사)
3. 경력사항
· 2016-2019년 Data Scientist, Silicon Studio, 도쿄, 일본
4. 전문분야 정보
· 인공지능, 기계학습, 뇌공학 등
이성환 교수(교신저자)
1. 인적사항
· 소속 : 고려대학교 인공지능학과
· 전화 : 02-3290-3197
· E-mail : sw.lee@korea.ac.kr
2. 학력사항
· 1989년 KAIST 전산학과 (박사)
· 1986년 KAIST 전산학과 (석사)
· 1984년 서울대학교 계산통계학과 (학사)
3. 경력사항
· 2020-현재 고려대학교 인공지능연구소 (연구소장)
· 2019-현재 고려대학교 인공지능학과 (정교수)
· 2017-2019년 사단법인 한국인공지능학회 (회장)
· 2016-2020년 고려대학교 석탑연구상 5년 연속 수상
· 2015-2017년 사단법인 한국정보과학회 인공지능소사이어티 (회장)
· 2015-2016년 Max-Planck Institute for Biological Cybernetics (객원교수)
· 2013-2014년 사단법인 한국인지과학회 (회장)
· 2013-2017년 BK21플러스 뇌공학글로벌인재양성사업단 (사업단장)
· 2010-현재 IEEE (Fellow)
· 2009-현재 한국과학기술한림원 (정회원)
· 2008-현재 고려대학교 뇌공학과 (정교수)
· 2008-2013년 WCU 뇌공학융합연구사업단 (사업단장)
· 2001-2002년 Department of Brain and Cognitive Sciences, MIT (객원교수)
· 2007-2004년 과학기술부 창의적연구진흥사업연구단 (연구단장)
· 1995-2008년 고려대학교 컴퓨터학과 (정교수)
· 1989-1995년 충북대학교 컴퓨터과학과 (조교수)
4. 전문분야 정보
· 인공지능, 패턴인식, 기계 학습, 뇌공학 등
