Oct, 1, 2023

Vol.30 No.2, pp. 84-88


Review

  • Korean Journal of Biological Psychiatry
  • Volume 4(2); 1997
  • Article

Review

Korean Journal of Biological Psychiatry 1997;4(2):194-7. Published online: Feb, 1, 1997

Neural Network Models and Psychiatry

  • InSong Koh, MD, MA
    Lab. of Degenerative Disease, National Institute of Health
Abstract

Neural network models, also known as connectionist models or PDP models, simulate some functions of the brain and may promise to give insight in understanding the cognitive brain functions. The models composed of neuron-like elements that are linked into circuits can learn and adapt to its environment in a trial and error fashion. In this article, the history and principles of the neural network modeling are briefly reviewed, and its applications to psychiatry are discussed.

Keywords Back propagation;Biological psychiatry;Connectionist;Neural network.

Full Text

서론
연결주의자 모델(connectionist models) 혹은 병렬 분산 처리 모델(PDP models)등으로도 불리우는 신경망 모델(neural network models)은 학습할 수 있고 환경변화에 시행착오적으로 적응할 수 있다(Carpenter 1989). 그리하여 뇌의 몇 가지 기능을 흉내내고, 시각 패턴 인식이나 음성 인식등에 실제 응용되기도 하며, 뇌가 실제로 정보를 처리하는 방법에 새로운 이해를 제공하기도 한다. 이 글에서는 신경망 모델의 역사와 그 작동 원리를 간단히 살펴보고, 최근 정신의학 연구에 신경망 모델이 어떠한 영향을 주고 있는 지를 살펴보고자 한다.
신경망 모델의 역사
McCulloch와 Pitts(1943)는 전자적으로 신경망을 구성하면 그것이 계산과 학습을 할 수 있을 것이라고 제안했다. Hebb(1949)는 두 개의 신경세포 연결부의 지속적인 활성화가 그 연결을 강화 시킬 것이라는 학습의 법칙을 제안했다. 이 두 가지 이론적 토대 위에 Rosenblatt(1958)이 퍼셉트론(perceptron)이라는 신경세포망과 기능적으로 유사한 학습 기구를 만들었다. 퍼셉트론의 등장으로 신경망 연구의 붐이 조성되었으나, Minsky와 Papert(1969)가 퍼셉트론이 비선형 논리 문제는 해결할 수 없다는 것을 수학적으로 증명하여, 신경망의 방법으로 지능적 뇌 모델을 실현하는 것은 불가능할 것이라고 주장하였다. 인공지능의 창시자 중 하나인 Minsky의 신경망에 대한 치명적 일격으로 이제 막 자라난 신경망 연구의 싹은 뿌리가 뽑히는 듯 하였다. 반면에 대안으로 등장한 인공지능 분야는 70년대와 80년대 초까지 그 전성기를 누렸고, 전문가 시스템 등에서 부분적 성공을 거두었으나, 패턴 인식(pattern recognition)과 같은 인간이 거의 반사적으로 하는 일반화 문제에서는 고전을 면치 못하고 그 한계를 드러내었다. Rummelhart등(1986)은 다층 신경망(multilayered neural network) 모델과 역전파(back propagation) 학습법칙을 통해서 60년대에 반짝하고 쇠퇴해 버린 신경망 분야 부활의 불씨를 당기었다. 그들은 60년대에 Minsky와 Papert가 지적한 문제를 한 층의 신경세포군을 신경망에 추가함으로써 해결하였다. 그들이 개발한 역전파 모델은 패턴 인식에서 거의 인간의 수준에 근접한 탁월한 능력을 보여 주었다(Rummelhart등 1986;Rummelhart와 McClelland 1986). 그 이후 지금까지 신경망의 연구와 그 공학적 응용 및 타 학문 분야에 대한 적용의 열기는 식을 줄 모르고 계속되고 있다(Carpenter 1989).
신경망 모델의 이해
신경망 모델은 뉴런(neuron)과 기능적으로 유사한 단위 요소를 수학적으로 정의하고 이들을 서로 연결시켜 회로를 구성하여 뇌의 인지작용을 모형화하는 것이다. 가장 간단한 PDP 신경망을 구성하여 그 작동 원리를 설명하고자 한다. 우선 신경계를 이루는 기본 구성 단위가 뉴런인 것처럼 신경망 모델의 구성 단위도 뉴런의 기본 기능을 할 수 있는 모델 뉴런이다(Fig. 1).
활성(activity)=입력의 총합(sum of inputs)
신호(signal)=활성의 선형 또는 비선형 함수값 (linear or nonlinear function of activity)
출력(output)=신호(signal)×연결강도(connection strength)
모델 뉴런의 활성값은 실제 뉴런의 시냅스후 전압(post-synaptic potential)의 크기나 활동전압(action potential)의 빈도에 해당하며, 신호값은 축색(axon)에서의 활동전압 빈도, 활성 함수는 시냅스후 전압의 크기와 활동전압 빈도와의 관계를 나타내는 입출력 변환 함수(input-output transfer function)에 해당한다. 출력은 다음 뉴런에 전달되는 신호의 크기로 신호값에 연결강도를 곱한 것이다. 이 출력 신호는 다음 뉴런의 입장에서 보면 입력에 해당한다. 연결강도는 시냅스의 신경전달물질의 양이나 그 수용체의 양 등에 의해 결정되는 시냅스 효율성(synaptic efficacy)이다. 위의 관계를 수학적으로 표시하면
x=k=1..n i k x=활성, i=입력, n=입력수
y=f(x) y=신호, f=변환함수
z=y×w z=출력, w=시냅스 연결강도
와 같이 표시된다. 이렇게 수학의 공식으로 표현되는 모델 뉴런을 서로 연결하여 신경망을 구성한다(Fig. 1). 신경망 시스템 설계의 가장 핵심은 시냅스 연결 강도를 그 신경망 모델이 학습할 때 어떤 법칙으로 수정하느냐에 있다. 이를 위하여 다양한 학습법칙이 제안되어 왔고(Carpenter 1989), 그 대표적인 예가 Rummelhart등(1986)의 오류의 역전파(back propagation of errors) 법칙이다. 이 모델은 다층신경망(multilayered network)으로서 입력층(input layers)과 출력층(output layers) 사이에 중간층(intermediate layers) 즉 은닉층(hidden layers)을 삽입하여 구성한다(Fig. 1). 각 뉴런의 최적의 시냅스 연결강도는 각각의 연결부의 강도를 계산하는 학습 알고리즘을 연속적으로 적용하여 얻어진다. 최초의 연결강도는 난수로 지정해 주고, 원하는 출력과 실제 출력의 차이를 오류값으로 정하고, 이 크기에 비례하여 연결 강도를 조정한다. 다시 입력을 주고, 오류값을 계산하고, 연결강도를 수정하는 과정을 되풀이 하면, 모든 연결 부위에서 일정 한계 이상의 오류가 더 이상 발생하지 않는 최적의 연결강도에 이르게 된다.
오류(error)=원하는 출력-실제 출력 (desired output-actual output)
연결강도 조정값 ∝ 오류
따라서 오류에 가장 책임이 있는 연결부위의 시냅스 강도가 특히 더 수정된다. 이와 같은 초기 신경망 모델의 뇌 연구에 대한 성과는 다음과 같이 요약할 수 있다(Kupfermann 1991;Olds 1993). 1) 신경망 모델과 뇌 양쪽 모두에서 방대한 병렬처리가 일어날 것이다. 2) 뇌기능은 하나의 뉴런에 종속되지 않아서 손상시 손상 정도에 따른 비례적 기능상실이 나타난다(Ruppin과 Reggia 1995). 3) 뇌의 고등기능과 유사한 일반화 즉 분류나 연관 기억이 신경망에서 가능하다. 그러나, 신경망이 실제 뇌에서 일어나는 현상을 그대로 재현했다고 주장할 수는 없다. 왜냐하면 뇌의 구성 및 동작 원리와 동떨어진 인공지능도 일부 영역에서는 뇌의 지적기능을 상당히 유사하게 실현하고 있기 때문이다.
최근의 신경망 모델들은 입력과 출력 사이에 회귀 회로(feedback circuit)가 있는 회귀성 신경망(recurrent network)이 많아지고 있다(Carpenter 1987;1989). 회귀 회로가 있는 모델의 경우는 수학적 분석과 이해가 어려워지고 시스템의 불안정성이 문제로 등장하여 초기 신경망에 비하여 상대적으로 발전이 느리다. 대체로 이런 회귀성 신경망들은 연관기억(associative memory) 장치의 기능을 가지므로, 불완전한 기억의 파편을 자극으로 주면 온전한 전체 기억을 재생할 수 있다. 특히 패턴 인식에서 비회귀성 신경망에 비해 더욱 탁월한 결과를 보인다(Carpenter등 1991). 실제 신경계는 회귀 회로가 산재해 있어 회귀성 모델이 좀더 생물학 지향적인 모델이라고 할 수 있다.
정신의학에의 적용
모든 정신질환은 뇌의 신경회로의 손상 또는 비정상적 회로의 형성으로 인한 기능장애의 표현일 것이다. 그 손상의 원인은 유전성, 외상성, 중독성, 심인성등 다양할 수 있으나(Egan과 Weinberger 1997) 그 결과는 그것이 육안적, 현미경적, 또는 분자적 수준에서 물리적 손상을 초래해서 생긴 결과일 것이다. 즉 사회적 심리학적 병인들도 혹시 육안적 수준에서의 기질적 변화가 관찰되지 않더라도, 궁극적으로는 세포나 분자 수준에서의 신경회로 손상, 변형, 신호 전달의 장애를 초래하는 것으로 생각된다.
현대 정신의학은 생물학적 심리-사회학적 모델로 표현되고 있다. 역사적으로 보면 정신분석학을 기반으로 역동정신의학이 주도하던 시대가 있었고, 최근에는 정신약물학과 신경생물학의 발전으로 정신질환의 생물학적 병인론이 큰 관심을 끌게 되어 생물 정신의학이 주도하는 시대가 되었다. 앞으로의 정신의학의 과제는 정신질환을 이해하는 이 두 가지의 어찌보면 상반되는 입장을 조화하고 통합하는 것 인데, 그 가능성이 신경망 모델링에 있다고 생각한다. 정신의학 연구에 신경망 모델링을 도입하려는 시도는 최근에 세계적으로 일어나고 있다. Parnas와 Bovet(1995)이 정신병리학에, Chen(1994;1995)이 정신분열증 연구에, Schmajuk등(1993), McClelland(1994), Ruppin과 Reggia(1995), Squire와 Alvarez(1995)가 기억 연구에, Olds(1993)가 정신분석학에 신경망 모델을 도입하였다.
결론
신경망 모델링은 신경생물학의 실험자료들을 토대로 하여 뇌의 고등기능을 담당하는 신경회로의 모델을 신경세포와 유사한 기능을 하는 수학적 모델 뉴런으로 구성하고, 컴퓨터 시뮬레이션을 통해 실제 동물 실험 자료나 환자의 증상 연구 자료와 비교하면서, 그 차이를 줄이는 방향으로 그 모델을 수정해 가는 것이다. 모델과 실제 자료 사이의 이와 같은 상호작용에서 신경망 모델이 새로운 실험 연구 방법을 제안할 수 있으므로, 모델링이 기초나 임상 연구에 상승작용을 가져온다. 이것은 마치 이론 물리학이 실험 물리학으로 하여금 물리학적 진리를 더욱 효율적으로 발견하도록 길잡이가 되는 것과 같다. 극히 제한적 영역에서라도 실제 뇌 기능과 유사한 모델이 만들어 지면 정신질환의 이해와 치료 방법 개발에 크게 기여할 것이다.

REFERENCES

Carpenter GA(1987):A massively parallel architecture for a self-organizing neural pattern recognition machine. Computer Vision Graphics and Image Processing 37:54-115
Carpenter GA(1989):Neural network models for pattern recognition and associative memory. Neural Networks 2:243-257
Carpenter GA, Grossberg S, Reynolds JH(1991):ARTMAP:Supervised real time learning and classification of nonstationary data by a self-organizing neural network. Neural Networks 4:565-588
Chen EY(1994):A neural network model of cortical information processing in schizophrenia. I:Interaction between biological and social factors in symptom formation. Canadian Journal of Psychiatry 39(8):362-367
Chen EY(1995):A neural network model of cortical information processing in schizophrenia. II:Role of hippocampal-cortical interaction:a review and a model. Canadian Journal of Psychiatry 40(1):21-26
Egan MF, Weinberger DR(1997):Neurobiology of Schizophrenia. Current Opinion in Neurobiology 7:701-707
Hebb DO(1949):The Organization of Behavoir. New York, Wiley, pp60-78
Kupfermann I(1991):Localization of higher cognitive and affective functions:The association cortices, In:Principles of Neural Scienae, 3rd ed, Ed by. Kandel ER, Schwartz JH, Jessell TM, Norwalk, Appleton & Lange
McClelland J(1994):The organization of memory:a parallel distributed processing approach. Reviews in Neurology (Paris) 150:570-579
McCulloch WS, Pitts W(1943):A logical calculus of the ideas immanent in nervous activity. Bulletin of Mathematical Biophysics 5:115-133
Minsky M, Papert S(1969):Perceptrons, Introduction, Cambridge, MIT Press, pp1-20
Olds DD(1993):Connectionism and psychoanalysis. Journal of the Amemrican Psychoanalytic Association 42(2):581-611
Parnas J, Bovet P(1995):Research in psychopathology:epistemologic issues. Comprehensive Psychiatry 36(3):167-81
Rosenblatt F(1958):The perceptron:a probablistic model for information storage and organization in the brain. Psychological Review 65:386-408
Rummelhart DE, Hinton GE, Williams RJ(1986):Learning representations by back-propagating errors. Nature 323:533-536
Rummelhart DE, McClelland JL(1986):Parallel Distributed Processing, Explorations in the Microstructure of Cognition, Vol 1 Cambridge, MIT Press
Ruppin E, Reggia JA(1995):Patterns of functional damage in neural network models of associative memory. Neural Computation 7(5):1105-1127
Schmajuk NA, Thieme AD, Blair HT(1993):Maps, routes, and the hippocampus:a neural network approach. Hippocampus 3(3):387-400
Squire LR, Alvarez P(1995):Retrograde amnesia and memory consolidation:a neurobiological perspective. Current Opinion in Neurobiology 5(2):169-177