인공지능

1. 반응성 기계
가장 기본적인 유형의 AI 시스템은 순전히 반응적이며, 기억을 형성하거나 과거의 경험을 현재의 결정을 알리기 위해 사용하지 않는 능력을 가지고 있다. 1990년대 말 세계적인 거장 가리 카스파로프를 제친 IBM의 체스 플레이 슈퍼컴퓨터 딥 블루가 이런 기계의 완벽한 예다. 딥 블루는 체스 판의 조각들을 식별하고 각각의 조각들이 어떻게 움직이는지 알 수 있다. 그것은 자신과 상대방에게 어떤 움직임이 일어날지 예측할 수 있다. 그리고 그것은 가능성 중에서 가장 최적의 움직임을 선택할 수 있다. 그러나 그것은 과거에 대한 어떤 개념도, 이전에 일어났던 일에 대한 어떤 기억도 가지고 있지 않다. 거의 사용되지 않는 체스 특유의 같은 동작을 세 번 반복하는 것에 대한 규칙과는 별도로, 딥 블루는 현재 시점 이전의 모든 것을 무시한다. 체스판 위의 조각들을 지금 바로 보고, 가능한 다음 동작 중에서 선택하는 것뿐이다. 이런 종류의 지능은 컴퓨터가 세상을 직접 지각하고 자신이 보는 것에 따라 행동하는 것을 포함한다. 그것은 세계의 내부 개념에 의존하지 않는다. 인공지능(AI) 연구자인 로드니 브룩스는 세미나를 통해 이런 기계만 만들어야 한다고 주장했다. 그의 주된 이유는 사람들이 컴퓨터가 사용할 수 있는 정확한 시뮬레이션 세계를 프로그래밍하는 데 그다지 능숙하지 못하기 때문이었는데, AI 장학금에서는 이를 세계의 “표현”이라고 부른다. 우리가 경탄하는 현재의 지능 기계들은 세상에 대한 그런 개념이 없거나, 혹은 그것의 특정한 임무에 대해 매우 제한적이고 전문화된 것을 가지고 있다. 딥 블루의 디자인의 혁신은 컴퓨터가 고려하는 가능한 영화의 범위를 넓히는 것이 아니었다. 오히려, 개발자들은 그들의 결과를 어떻게 평가했는지에 따라, 그것의 관점을 좁히고, 몇몇 잠재적인 미래 움직임을 추구하는 것을 중단하는 방법을 찾았다. 이 능력이 없었다면 딥 블루는 카스파로프를 실제로 이기기 위해 훨씬 더 강력한 컴퓨터가 되어야 했을 것이다. 마찬가지로, 최고의 인간 바둑 전문가들을 물리친 구글의 알파고도 미래의 모든 움직임을 평가할 수 없다. 딥 블루보다 딥 블루(Deep Blue)의 분석 방식이 정교해 신경망을 활용해 게임 개발을 평가한다. 이 방법들은 특정 게임을 더 잘 할 수 있는 AI 시스템의 능력을 향상시켜 주지만, 쉽게 변경되거나 다른 상황에 적용될 수는 없다. 이러한 컴퓨터화된 상상력은 더 넓은 세계에 대한 개념이 없다. 즉, 그들이 배정된 특정한 임무를 넘어서서 기능할 수 없고 쉽게 속아넘어간다는 뜻이다. 그들은 우리가 언젠가 인공지능 시스템을 상상하는 방식대로 세상에 상호작용적으로 참여할 수 없다. 대신에, 이 기계들은 같은 상황에 직면할 때마다 정확히 같은 방식으로 행동할 것이다. 이는 AI 시스템이 신뢰할 수 있도록 보장하는 데 매우 유용할 수 있다. 당신은 당신의 자율주행차가 신뢰할 수 있는 운전자가 되기를 원한다. 하지만 우리가 기계가 세상에 진정으로 관여하고 반응하기를 바란다면 좋지 않다. 이렇게 간단한 AI 시스템은 지루하거나 흥미롭거나 슬프지 않을 것이다.
2. 제한된 메모리
이 타입 II 클래스에는 과거를 들여다볼 수 있는 기계가 포함되어 있다. 자율주행차는 이미 이 중 일부를 하고 있다. 예를 들어, 그들은 다른 자동차의 속도와 방향을 관찰한다. 그것은 단 한 순간에 이루어질 수 있는 것이 아니라 특정한 대상을 식별하고 시간이 지남에 따라 감시해야 한다. 이러한 관찰은 차선 표시, 신호등 및 도로의 커브와 같은 다른 중요한 요소도 포함하는 자율주행 자동차의 사전 프로그래밍된 세계 표현에 추가된다. 다른 운전자의 말을 끊거나 근처 차에 치이지 않기 위해 차선 변경 시기를 결정할 때 포함된다. 그러나 과거에 대한 이 간단한 정보들은 일시적인 것일 뿐이다. 그것들은 자동차 운전자들이 운전하는 수년에 걸쳐 경험을 수집하는 방법으로부터 배울 수 있는 경험의 라이브러리의 일부로 저장되지 않는다. 그렇다면 어떻게 AI 시스템을 구축하여 완벽한 표현을 만들고, 그들의 경험을 기억하고, 새로운 상황에 대처하는 방법을 배울 수 있을까? 브룩스는 이것을 하는 것이 매우 어렵다는 점에서 옳았다. 다윈의 진화에서 영감을 받은 방법에 대한 나 자신의 연구는 기계가 그들만의 표현을 만들도록 함으로써 인간의 결점을 보완하기 시작할 수 있다.
3. 정신 이론
우리는 여기서 멈출 수도 있고, 이 점을 우리가 가지고 있는 기계와 미래에 만들 기계 사이의 중요한 차이점이라고 부를 수도 있다. 그러나 표현기계가 형성해야 할 유형, 그리고 무엇을 해야 하는지에 대해 좀 더 구체적으로 논의하는 것이 좋다. 보다 진보된 차세대 컴퓨터들은 세계에 대한 표현뿐만 아니라 세계의 다른 에이전트나 실체에 대한 표현도 형성한다. 심리학에서는 이것을 “마음의 이론”이라고 부른다. 즉, 세상의 사람, 생물, 사물이 자신의 행동에 영향을 미치는 생각과 감정을 가질 수 있다는 것을 이해하는 것이다. 이것은 우리 인간이 어떻게 사회를 형성하는지에 결정적이다. 왜냐하면 그들은 우리가 사회적 상호작용을 할 수 있도록 해주었기 때문이다. 서로의 동기와 의도를 이해하지 못하고, 또 다른 누군가가 나나 환경에 대해 알고 있는 것을 고려하지 않고, 함께 일하는 것은 기껏해야 어렵고, 최악의 경우 불가능하다. 만약 인공지능 시스템이 정말로 우리 사이를 걷게 된다면, 그들은 우리가 어떻게 대우받을지에 대한 생각과 감정과 기대를 가지고 있다는 것을 이해할 수 있어야 할 것이다. 그리고 그들은 그에 따라 행동을 조정해야 할 것이다.
4. 자기 인식
AI 개발의 마지막 단계는 자신에 대한 대표성을 형성할 수 있는 시스템을 구축하는 것이다. 궁극적으로 우리 AI 연구자들은 의식을 이해할 뿐만 아니라 의식을 가진 기계를 만들어야 할 것이다. 이것은 어떤 의미에서 제3종 인공 지능이 보유하고 있는 ‘마음의 이론’의 연장선이다. 의식은 그 이유 때문에 ‘자기 인식’이라고도 불린다.(“나는 그 물건을 원한다”) 의식적인 존재는 자신을 의식하고, 자신의 내적 상태를 알고, 타인의 감정을 예측할 수 있다. 우리는 교통체증에서 우리 뒤에서 경적을 울리는 누군가가 화가 나거나 조급하다고 가정한다. 왜냐하면 우리가 다른 사람들에게 경적을 울릴 때 우리는 그렇게 느끼기 때문이다. 마음의 이론이 없으면 우리는 그런 종류의 추론을 할 수 없었다. 우리가 아마 자각하는 기계를 만드는 것과는 거리가 멀겠지만, 우리는 기억력, 학습력, 그리고 과거의 경험에 근거한 의사 결정 능력을 이해하는 데 우리의 노력을 집중해야 한다. 이것은 인간의 지능을 스스로 이해하는 중요한 단계다. 그리고 우리가 그들 앞에서 보는 것을 분류하는데 있어서 예외적인 것 이상의 기계를 설계하거나 진화시키기를 원한다면 그것은 매우 중요하다.

인공지능