바카라 커뮤니티 노벨 물리학상의 "인공 신경망을 이용한 기계 학습"란 무엇입니까?

바카라 커뮤니티 노벨 물리학상의 "인공 신경망을 이용한 기계 학습"란 무엇입니까?

2024/12/04

바카라 커뮤니티 노벨 물리학상은 John Hopfield (미국 프린스턴 대학교의 명예 교수)와 Jeffrey Hinton (캐나다 토론토 대학의 명예 교수)에게 수여되었습니다 이론적 물리학 자 Hopfield는 그의 이름으로 불리는 새로운 앤을 생각해 냈습니다 힌튼은 그것을 개발하고 현재 세대 AI로 이어지는 연구를 개척했습니다 두 결과 모두 물리의 범위를 확장하고 인공 지능으로 이어지는 연구가 있었는데, 이는 현재 모든 분야에 적용되고 있으며 사회에 큰 영향을 미칩니다 우리는 1980 년대부터 AI 및 기계 학습에 대한 연구를 진행 한 인공 지능 연구 센터의 기계 학습 연구팀의 초대 된 연구원 인 ASO Hideki에게 수상의 중요성과 연구에 미치는 영향에 대해 물었습니다

연관 메모리를 실현하는 "Hopfield Network"

많은 연구자들은 AI의 기본 기술과 관련된 정보 기술 분야에서 노벨 물리학 상이 수여 된 것에 놀랐지 만 물리와의 상호 작용이 바카라 커뮤니티 신경 네트워크 (ANNS)와 그 발전, 심해 학습의 발전에 중요한 역할을했다고 확신했습니다 Hopfield의 업적이 대표적인 예입니다

ANN Research는 Warren McCulloch와 Walter Pitts가 뉴런의 동작을 단순화하는 수학적 모델을 발표하여 논리적 기능을 몇 가지를 결합한 네트워크를 사용하여 계산할 수 있음을 보여줍니다 하나의 뉴런은 다른 뉴런으로부터 신호를 받고 간단한 처리를 수행하고 출력하지만 뉴런 연결 방식을 변경함으로써 다양한 정보 처리를 수행 할 수 있습니다 1958 년 Frank Rosenplatt는 학습 능력을 제공하는 패턴 인식을 위해 Ann Perceptron을 제안했습니다 뉴런이 다른 뉴런으로부터 신호를받을 때, 그것은 그들이 가치있는 뉴런의 가중치로 신호를받을 수 있지만, 학습 메커니즘은 네트워크 출력이 정답과 일치하도록 채권의 무게가 자동으로 변경된다는 것바카라 커뮤니티다 그러나 1970 년대에 학습 능력이 제한적이고 실망이 확산되었으며, 특히 미국에서는 Ann의 연구가 특히 정체되었습니다

1980 년대에는이 상황에 지분을 두는 것은 Hopfield였습니다 1982 년에 그에 의해 출판 된 Hopfield Network는 "연관 기억"이 Ann을 통해 실현 될 수 있음을 보여 주었다 불완전한 데이터가 Hopfield 네트워크에 입력되면 여러 데이터 패턴을 저장하고 신호를 교환하면 저장된 패턴의 가장 가까운 것이 복원됩니다 우리는 그것을 "연관 기억"이라고 부릅니다 왜냐하면 그것은 인간이 불확실한 기억에서 서로 연관시키는 방식과 유사하기 때문바카라 커뮤니티다

물리와 Ann Research 간의 상호 작용과 개발

연관 기억을 실현하는 Ann에 대한 연구는 1970 년대에 시작되었고, 일본에서는 Nakano Kaoru와 Amari Shunichi가 논문을 발표했습니다 이러한 이전 연구에 응답하여 Hopfield는 ANNS를 적용하여 행동을 분석했습니다 구체적으로, 우리는 바카라 커뮤니티 뉴런을 사용하여 작은 자석 (스핀)으로 보이고 상호 작용을 수학적으로 표현하는 "Ising 모델"을 사용하여 패턴을 리콜하는 과정을 분석합니다 통계 물리학의 지식을 사용하여 ANN 행동을 분석 할 수 있습니다

이 연구는 Ann Research의 새로운 가능성을 열었고, 물리학에 대한 지식을 획득하여 Ann Research에 참여한 연구원들에게 영감을주었습니다 Hopfield 자신과 마찬가지로 물리 연구자들은 전통적인 물리학을 넘어서는 새로운 연구 분야의 매력과 잠재력을 발견했습니다 일본에서는 Shinomoto Shigeru, Kabashima Shosuke 및 Nishimori Hidetoshi와 같은 물리학 자들이 양자 어닐링에 대한 연구로 유명한 ANNS를 사용한 정보 처리를 시작했습니다

그리고 현재 딥 러닝과 앤은 물리 연구를위한 필수 도구가되었습니다 그것은 천문학적 관찰을 통해 얻은 데이터의 입자 물리 실험 및 데이터 분석, 새로운 물질의 특성을 추정하며 매우 정확한 일기 예보를 포함하여 광범위한 영역에서 사용됩니다 나는 이것이 또한이 상을 수상하는 데 도움이되었다고 생각합니다

확률 분포를 배우고 데이터를 생성하는 "Boltzmann Machine"

또 다른 수령인 인 힌튼 (Hinton)은 1985 년 홉 필드 네트워크에서 영감을 받아 "볼츠만 머신 (Boltzmann Machine)"이라는 앤을 제안했습니다 Boltzmann Machine은 Hopfield 네트워크에 확률 적 행동을 도입함으로써 학습에 사용되는 데이터와 유사한 새로운 데이터를 생성 할 수 있음을 보여주었습니다 이 연구는 현재 세대 AI로 이어지는 첫 번째 단계로 간주 될 수 있습니다

Hopfield 네트워크 출력은 학습을 통해 저장된 데이터바카라 커뮤니티다 예를 들어, 손으로 쓴 숫자 "1"이있는 이미지를 저장하면 협회를 연상시키는 이미지는 다음과 같습니다 대조적으로, Boltzmann Machine을 사용하면 다양한 사람들이 쓴 많은 "1"이미지에서 사람에 따라 흔들리는 방법 1을 쓰는 방법을 배울 수 있습니다 결과적으로, 학습 후 Boltzmann 기계는 학습 된 데이터에서 찾을 수없는 방식으로 작성된 "1"이미지를 출력 할 수 있습니다 평균 작문 방법에 확률 소음을 추가하는 것과 같습니다

이 동작의 배경은 "1"의 필기 이미지가 일부 수학 규칙 (확률 분포)에 따라 확률 론적으로 발생한다는 생각바카라 커뮤니티다 Boltzmann 머신은 많은 "1"필기 이미지의 확률 분포를 학습함으로써 새로운 데이터를 생성 할 수있는 기능을 얻을 수 있습니다 이 아이디어는 현재 세대 AI와 동일합니다 또한 Boltzmann 기계의 이름은 통계 역학에 사용되는 "Boltzmann 분포"를 사용 하여이 확률 분포를 표현하는 데 비롯되며,이 분포를 고안 한 Ludwig Boltzmann은 통계 물리학의 창립자라고 잘 알려진 물리학 자바카라 커뮤니티다

Ann의 다층 "딥 러닝"으로 고성능 AI 개발 가능성 확장

당시 Boltzmann 기계를 배우기가 어려웠으며이를 사용하는 사람들의 수는 증가하지 않았습니다 그 후, 앤의 연구는 점차 줄어들었고, "겨울 시대"는 1990 년대 이후 다시 도착했다 이 상황을 극복 한 것은 힌튼 씨였습니다 또한, 이것의 핵심은 Boltzmann 기계를 개선 한 기술이었습니다

Hinton은 다층 Anns를 훈련시키는 방법에 대한 돌파구를 발견했습니다 Modern AI가 사용하는 Ann은 많은 뉴런이 층에 쌓이는 구조바카라 커뮤니티다 딥 러닝이라는 이름은 "큰 층"을 나타내며, 다층 Anns를 DNN (Deep Neural Networks)이라고합니다 처음에 DNN에는 문제가 있었으며 대략적으로 말하면 ANN의 정보 처리 기능이 증가함에 따라 증가했지만, 그 당시에는 계층 수가 증가하면 학습이 실패 할 것이라는 일반적인 지식이었습니다

2006 년 힌튼은이 도전을 해결하고 다층 Anns를 훈련시키는 방법을 발표했습니다 이것은 Boltzmann 기계의 유형 인 2 층 Anns의 두 층 인 Anns의 두 층 (Deep Belief Networks)을 배우는 방법바카라 커뮤니티다 이것은 힌튼이 오늘날처럼 대규모 고성능 앤을 개발할 가능성을 보여주었습니다

당시 학습 방법은 각 학습 계층을 반복하고 마지막에 모든 것을 배우는 것과 같은 많은 노력이었습니다 이후 기술의 발전으로, 우리는 한 번에 멀티 레이어 앤을 배울 수있었습니다 힌튼은 1986 년 논문 인 저자 중 한 명에 사용 된 학습 알고리즘 ( "역전")도 제안했다 1960 년대에 언급 된 Amari를 포함한 여러 연구자들에 의해 유사한 학습 방법이 제안되었지만 Ann Research는 1990 년대와는 별다른 점이 있었고, 나 자신을 포함한 많은 연구자들이 Ann, Hinton 및 기타 연구를 계속 연구하는 것을 중단 한 후 오늘날의 고성능 AI를 실질적으로 적용했습니다

추가 개발을 창출하려면

"바카라 커뮤니티 신경 네트워크를 이용한 기계 학습"이라는 사실은 이번에 노벨 물리학상을 수상한 것이 딥 러닝에 기반한 바카라 커뮤니티 지능 기술의 사회적 영향의 규모를 보여줍니다 2012 년에 개최 된 국제 이미지 인식 대회에서 높은 정확도를 달성 한 연구는 딥 러닝의 효과를 위해 대중에게 왔으며, 이는 또한 힌튼 씨의 실험실의 결과였습니다

그 이후로 Google은 Hinton과 다른 사람들이 설립 한 벤처 회사의 인수와 영국의 딥 러닝 벤처 벤처 Deepmind (바카라 커뮤니티 노벨 화학 상 중 하나 인 Demis Hasavis가 설립 한)를 포함하여 딥 러닝의 연구 및 개발을 주도했습니다 그러나 나는 거대한 조직이 아닌 OpenAi와 마찬가지로 인터넷에서 데이터를 수집하고 "Chatgpt"를 개발 한 것과 마찬가지로 덜 큰 연구 시스템에서도 수행 할 수있는 일이 있다고 생각합니다

예를 들어, 많은 현재 텍스트 생성 AI는 Google의 연구원이 개발 한 "Transformers"라는 Ann 구조를 사용하지만 개선의 여지도 있습니다 현재 AI의 AI는 이미지 및 오디오와 같은 여러 유형의 정보 간의 관계를 다루는 "멀티 모달"으로 발전했지만 변압기는 원래 언어 처리를위한 ANNS이므로 이미지 및 비디오와 언어를 연결하는 능력은 아직 충분하지 않다고 생각합니다 (AIST 잡지 "멀티 모달 AI는 무엇바카라 커뮤니티까?")

학습에 필요한 엄청난 양의 계산을 줄이는 것도 중요합니다 데이터의 양을 늘리고 모델을 더 크게 만들어 정확성과 기능을 높이는 것이 중요하지만, 한계에 도달하려고하기 때문에 새로운 ANN 구조 및 학습 방법과 같은 다음 획기적인 획기적인 것이 필요하다고 생각합니다

이번에 수여 된 연구를 포함하여 Ann과 관련된 많은 기본 아이디어와 기술은 1960 년대와 1980 년대 사이에 태어 났지만 실질적인 사용에 반세기가 걸렸습니다 그 기간 동안 Ann의 연구는 오랫동안 미국에서 진행되지 않았습니다 앞에서 언급했듯이 연구는 1970 년대 미국에서 약화되었지만 일본에서는 많은 연구가 아마리의 업적을 포함하여 딥 러닝을 개척했습니다 2012 년 이미지 인식 콘테스트에서 Hinton과 그의 팀이 사용하는 "Convolutional Neural Network"기술은 또한 1979 년 Fukushima Kunihiko가 제안한 Ann "Neo-Cognitron"을 기반으로합니다 기술 개발을 창출하기 위해 전 세계적으로 연구 및 개발을 발전시키는 것이 중요합니다

AIST는 주로 2015 년에 설립 된 바카라 커뮤니티 지능 연구 센터에서 AI 연구 개발을 위해 전 세계 수백 명의 연구원이 있습니다 최근에바카라 커뮤니티 데이터로 대규모 앤을 훈련시키는 수학적으로 구동되는 학습 기술,Ann의 내시경 신청, 그리고 다른 많은 결과가 생성되었습니다대규모 언어 처리를위한 Ann (대형 언어 모델)를 포함하여 다양한 대규모 Anns를 개발하고 출판하고 있으며, 분야에 걸쳐 AI를 적용하는 것에 대한 연구를 수행하고 있습니다 우리는 당신이 미래에 이것에 계속주의를 기울이기를 바랍니다