인공지능 개발자들 역사와 제프리 힌튼에 대해

2023. 6. 6. 08:09인공지능 개요

반응형

 

현존하는 4대 AI 천왕

제프리 힌튼 : 토론토대학. 구글,영국 (딥러닝 개념 창시-볼츠만 머신.기계학습.역전파 학습(Back Propagation) 기법과 CNN(Convolution Neural Network) 발전)

요슈아 벤지오 : 몬트리올대학. IBM.캐나다 (딥러닝 -오토인코더.GAN(Generative Adversarial Nets) 알고리즘의 창시자. 딥러닝에 중요한 기반 알고리즘의 한계를 수학적으로 밝혀낸 입지적 인물)

얀 르쿤 : 뉴욕대학 페이스북 &. 메타.프랑스 (딥러닝. 자기지도학습. CNN을 이용한 컴퓨터 영상 인식(computer vision)과 인공지능 문자인식(Optical character recognition)으로 유명)

엔드류 웅 : 스탠포드 대학. 바이두.중국 (딥러닝.자연어처리)

 

 

인공지능의 역사를 만든 인물들

1. 워런 맥컬릭과 월터 피트 수학과 임계 논리 알고리즘을 바탕으로 최초로 신경망을 위한 계산학 모델 제시 1943년. 인공지능의 시작. 오늘날의 컴퓨터 두뇌를 만들 수 있는지 연구를 시작.

 

2. 앨런 튜링(Alan Turing): 컴퓨터 과학의 아버지로 널리 알려진 앨런 튜링은 "튜링 기계" 개념과 인공 지능 개념에 대한 작업으로 AI의 기반을 마련했습니다.

 

 

2. John McCarthy: McCarthy는 "인공 지능"이라는 용어를 만들고 1956년에 다트머스 회의를 조직했으며, 이는 연구 분야로 AI의 탄생으로 간주됩니다. AI의 선구자. AI 를 '고도의 지능을 가진 컴퓨터 디바이스를 만들기 위한 과학과 공학' 으로 정의. 람다대수를 이용해 LISP라는 프로그램 언어 제작.  시분할 시스템 - 클라우딩 컴퓨터의 개념으로 인터넷을 만들게 되는 아이디어 제공. 스탠포드 인공지능 연구소 설립.

퍼셉트론

3. 1958년 프랭크 로젠블랫 : 미국의 신경생물학자. 마빈 민스키와 라이벌. 간단한 의사결정 알고리즘인 단층퍼셉트론 개발 . 머신러닝의 기초. 뉴런에서 착안하여 입력정보의 가중치를 조정하여 수학적 처리를 거쳐 결과를 내놓는 구조.퍼셉트론의 한계를 극복하기 위해 등장한 것이 2010년 딥러닝으로 발전하여 비약적인 발달로 이어집니다. 2010년 딥러닝 초안이 만들어지고 6년만에 이세돌-알파고 바둑 대결로 발전하여 짧은 시간안에 인공지능의 새로운 역사가 만들어집니다.

 

4. 마빈 민스키(Marvin Minsky): 민스키는 매카시와 함께 매사추세츠 공과대학(MIT) AI 연구실의 공동 설립자 중 한 명이었습니다. 그는 다트머스 연구소에서 존 매카시,클로드 쉐넌과 함께 인공지능 학회를 만들었으며 로봇팔,시각스캐너,헤드마운트 디스플레이등을 발명하였으며 퍼셉트론의 한계도 밝혀낸바 있습니다. 신경망의 개발과 지식을 표현하기 위한 "프레임"의 아이디어를 포함하여 AI 연구에 상당한 공헌을 했습니다.가장 유명한 업적은 1974년 발표한 이론인 ‘지적 활동의 프레임워크(A Framework for Representing Knowledge)’입니다. 이는 인간의 지식을 프레임이라는 데이터 구조로 표현하고 언어 이해, 패턴 인식, 문제 해결 등과 같은 지적 활동을 외부로부터 입력된 데이터와 내부 프레임의 상호작용으로 보는 연구 방식입니다. 심리학에서 주로 사용되던 연구 방법을 인공지능에 적용한 것입니다.  

민스키 교수는 인간의 학습을 모방한 기계학습, 상식 추론, 로봇 조작, 계산론적 신경과학 등 다양한 업적을 남겼습니다. 그의 연구는 인공지능뿐만 아니라 인지심리학, 뇌과학, 컴퓨터과학 등에도 크게 기여했으며 1970년에는 그 공로를 인정받아 컴퓨터과학계 최고상으로 여겨지는 ‘튜링상’을 수상했습니다.

 

■ 다트머스의 현자 4인

존 매커시,마빈 민스키,허버트 사이먼, 앨런 뉴웰


4. Allen Newell과 Herbert A. Simon: Newell과 Simon은 수학적 정리를 증명하는 최초의 인공지능 AI 프로그램인 Logic Theorist 와 최초의 AI 언어 "IPL (Information Processing Language)"를 개발했습니다. 그들의 작업은 상징적 AI 및 인지 과학 분야의 토대를 마련했습니다.


5. 아서 사무엘: 사무엘은 IBM 에서 체커프로그램을 만들어  인간 플레이어와 경쟁할 수 있는 수준으로 플레이하는 최초의 자기 학습 프로그램을 개발한 것으로 유명합니다. 기계 학습에 대한 그의 작업은 현대 AI 알고리즘의 토대를 마련했습니다. 컴퓨터의 자기 학습 프로그램중 하나이며 오늘날의 기계 학습의 선구자로써 컴퓨터 개척자상을 받기도 했습니다. 


6. 제프리 힌튼 Geoffrey Hinton: Hinton은 딥 러닝 및 신경망 분야의 저명한 인물입니다. 역전파 및 컨벌루션 신경망에 대한 그의 연구는 최근 몇 년 동안 AI의 부활에 영향을 미쳤습니다.


7. Yann LeCun 얀 르쿤: LeCun은 컨볼루션 신경망과 딥 러닝에 대한 작업으로 유명한 컴퓨터 과학자입니다. 그는 역전파 알고리즘의 개발에 상당한 공헌을 했으며 컴퓨터 비전 분야의 핵심 인물입니다.


8. Andrew Ng 앤드류 응 : Ng는 Google Brain을 공동 창립하고 나중에 Baidu의 수석 과학자가 된 저명한 연구원이자 기업가입니다. 그는 기계 학습에 상당한 기여를 했으며 딥 러닝 알고리즘 및 온라인 교육에 대한 작업으로 유명합니다.


9. Demis Hassabis 데미스 허사비스 : Hassabis는 컴퓨터 게임 디자이너, 신경과학자, AI 연구원입니다. 그는 바둑 세계 챔피언 이세돌을 물리친 알파고 개발사로 알려진 딥마인드를 창업했다. DeepMind는 강화 학습 및 일반 AI에서 상당한 발전을 이루었습니다.


10. Elon Musk 일론 머스크 : 주로 기업가로 알려져 있지만 Musk는 AI 연구 및 개발에 참여해 왔습니다. 그는 안전하고 유익한 방식으로 AI를 발전시키는 데 중점을 둔 조직인 OpenAI를 공동 설립했습니다.


11. Fei-Fei Li 페이페이 리 : Li는 컴퓨터 비전 및 딥 러닝 분야의 저명한 연구원입니다. 그녀는 이미지 인식에 대해 연구했으며 Stanford Vision Lab을 설립했습니다. Li는 대규모 이미지 데이터 세트 개발에 기여했으며 윤리적 AI를 옹호했습니다.

 

12 샘 알트만 : 1985년 시카고생. 2003년 스탠포드 컴퓨터 공학과에 입학후 2학년때 중퇴 지역기반SNS 오늘날의 당근마켓과 유사한 개념으로 '루프스(Loopt)' 를 만들어 1억 7500만 달러까지 기업가치를 올렸으나 실패. 매각을 하고 스타트업의 아버지 와이콤비네이터의 폴 그레이엄의 제안으로 사장에 오르게 됩니다. 폭 그레이엄은 에어비앤비,도어대시,인스타카트,레딧,핀터레스트를 만든 사람으로 샘 알트만의 천재성을 알아본 것이였습니다. 인공지능과 핵융합 기술에 관심이 많았던 알트만은 테슬라의 일론 머스트과 혁력하여 오픈 AI를 설립하였으나 일론 머스크가 자유로운 연구와 무료개방이라는 부분에서 충돌을 일으켜 탈퇴하자 마이크로 소프트의 투자를 받아 openAI의 챗GPT를 발표하게 됩니다. 대규모 언어모델인 LLM을 바탕으로 만든 챗GPT는 최단기간 사용자수 1억명을 달성하고 유료화 모델을 선언했지만 그의 오픈AI 서버비용에 충족될만큼 큰 금액이 아닌 2,000만 달러이므로 향후 어떠한 수익모델로 발전할지도 궁금한 사항입니다.  현재 GPT5 개발은 중단된 상태라고 하지만 어떠한 계획이 진행되고 있는지는 아무도 모르는 상태입니다. 

 

딥 러닝의 부상과 인수 전쟁: Jeffrey Hinton과 Google


2010년에는 ILSVRC(ImageNet Large Scale Visual Recognition Challenge)가 이미지 인식 분야에서 중요한 행사로 떠올랐습니다. 사용 가능한 데이터가 엄청나게 증가하면서 알고리즘이 빠르게 발전하기 시작했습니다. 하지만 캐나다 토론토 대학의 Jeffrey Hinton 교수가 획기적인 승리를 거두며 이 분야에 혁명을 일으키고 딥러닝에 대한 관심이 급증한 것은 2012년이었습니다.

ILSVRC 대회는 상위 5명의 참가자에 대해 25%에서 30%의 오차율을 기록했습니다. 그러나 Jeffrey Hinton의 팀은 AlexNet이라는 딥 러닝 모델로 현장을 놀라게 했습니다. 이 모델은 단 16%의 인상적인 오류율을 달성했습니다. 이 상당한 개선은 전 세계 연구자들의 관심을 끌었고 딥 러닝은 2016년 AlphaGo의 승리 이후 널리 인식되는 용어가 되었습니다.

그의 승리에 이어 Hinton은 두 명의 대학원생과 함께 DNNresearch라는 신생 기업을 공동 설립하여 심층 학습 모델을 더욱 발전시키는 데 중점을 두었습니다. 그들의 웹사이트는 간단한 소개만을 제공했지만 회사의 잠재력은 눈에 띄지 않았습니다. 중국 인터넷 대기업인 Baidu는 재빨리 1,200만 달러의 인수 제안을 했습니다. 그러나 계약에 서명하기 전에 Hinton은 다른 회사의 관심을 끌었고 예기치 않은 사건으로 이어졌습니다.

Google과 Microsoft는 DNNresearch 인수 경쟁에 적극적으로 참여했습니다. 흥미롭게도 AlphaGo를 개발한 것으로 알려진 DeepMind도 입찰 전쟁에 참여했습니다. 특히 이것은 DeepMind가 Google에 인수되기 전이었고 회사는 재정적 제약으로 인해 즉각적인 자금 대신 지분을 제안했습니다.

Hinton은 Baidu, Google 및 Microsoft의 입찰을 통해 신생 기업을 구매할 권리를 경매하기로 결정했습니다. 입찰은 1,500만 달러에서 시작하여 빠르게 2,000만 달러로 확대되었습니다. 가격이 2,200만 달러에 도달하자 Microsoft는 경쟁이 어렵다고 생각하고 경주에서 철수했습니다. 바이두와 구글만 남은 상황에서 가격은 계속 치솟아 3000만 달러, 심지어 4000만 달러를 넘어섰다.

결국 4,400만 달러라는 엄청난 입찰가로 Hinton은 경매 중단을 선언했습니다. 지나친 욕심을 피해야 한다는 점을 깨달은 그는 구글에 합류하기로 중대한 결정을 내렸다. 이 인수는 Android, YouTube 및 DeepMind를 포함한 성공적인 인수에 대한 Google의 인상적인 실적에 추가되었습니다. 특히 유망한 벤처를 식별하고 잠재력에 투자하는 Google의 능력은 Google의 성장에 중요한 역할을 했습니다.획기적인 회사를 인수한 Google의 성공은 칭찬할 만하지만 기술 대기업에 대한 과도한 의존에 대한 우려가 제기되었습니다. Google에 대한 의존도가 계속 증가함에 따라 잠재적 영향을 고려하고 균형 잡힌 기술 환경을 위해 노력하는 것이 중요합니다.


결론적으로 2012년 ILSVRC 대회에서 Jeffrey Hinton의 우승은 딥러닝에 대한 광범위한 관심을 불러일으키는 AI 분야의 전환점이 되었습니다. Baidu, Google 및 Microsoft 간의 그의 스타트업인 DNNresearch에 대한 후속 입찰 전쟁은 딥 러닝의 가치와 잠재력을 보여주었습니다. 궁극적으로 Google에 합류하기로 한 Hinton의 결정은 AI 기술 발전에 대한 회사의 선견지명과 노력을 보여주었습니다. 그러나 업계의 지배적인 플레이어와 마찬가지로 건전한 균형을 유지하고 다양한 기술적 방법을 모색하는 것이 필수적입니다.

 

https://www.cs.toronto.edu/~hinton/

 

Home Page of Geoffrey Hinton

  Geoffrey E. Hinton Department of Computer Science   email: geoffrey [dot] hinton [at] gmail [dot] com University of Toronto   voice: send email 6 King's College Rd.   fax: scan and send email Toronto, Ontario     Information for prospective student

www.cs.toronto.edu

 

 

 

 

 

반응형