철학초대07.AI시대 인간의 정체성

인간 여부을 판가름하는 핵심은 '지능'(intelligence)

인간과 구별되지 않는 인공 지능이 등장한다면?

• 자연적
• 생물학적

지능

1. 인간다움의 핵심은 지능?

가능하다

불가능하다

셋의 지적 능력에서 무슨 차이?

가능

불가능

마음 X?

딥 블루는 분명히 정해진 규칙과 목표를 지닌 게임을 수행한 것일 뿐

자연수정으로

태어난 아이

학습하는

신경연결망

컴퓨터

• 1997년 5월 11일

• IBM 디퍼 블루(deeper blue)

vs.

• 체스 챔피언 개리 카스파로프

• 6차전

• 초반 족보와 종반 족보를 연결시키는 수만 계산하면 됨

• 초당 3억, 3분간 600억 가지 상황 검토 가능

마음 O?

1승 3무 1패 이후

인간의 일상적인 활동은 불투명한 주변 환경을 감지, 파악, 대응하는 형태로 이루어짐

인공수정으로 태어난 아이

불가능

가능

지각 센서를 갖추고

외부 정보를 연산하는 컴퓨터의 문제

무수히 다양한 상황에서 이루어지는 선별, 판단, 결정의 기준을 어떻게 일률적으로 마련해 줄 수 있는가?

• 지각은 선별 작용

'그들'이 누구인지를 어떻게 판단할 것인가?

• 지각 센서까지 갖추고 외부 신호를 연산 처리하는 컴퓨터 가능

• 매번 달라지는 상황에서 지각할 때마다

선별 기준(틀, Frame) 마련?

--> 무한 개의 기준 필요

• 선별 기준을 적용할 수 있는 상위 frame 제공?
• "이런 유형의 상황일 때는 이 지각 frame을 적용하라!"

--> 이 유형의 상황인지 아닌지를 판단할 다른 상위 frame 필요. --> 그 다른 상위 frame을 적용하기 위한 더 상위 frame 필요

--> 무한 퇴행

• 그 위원회는 그 단체의 시위를 허용하지 않았다. 왜냐하면 그들은 폭력을 옹호했기 때문이다.

• 그 위원회는 그 단체의 시위를 허용하지 않았다.왜냐하면 그들은 폭력을 두려워했기 때문이다.

언어 사용 문제

Frame 문제

• 사고는 판단 작용

• 매번 달라지는 지각으로부터 판단할 때마다 판단의 기준을 마련?

• 행위는 결정 작용

• 매번 달라지는 판단으로부터 행위를 결정할 때마다 결정의 기준을 마련?

• 외부로부터의 정보가 선별, 판단되기 위해서는 그것이 나에게 어떤 의미나 의의가 있어야

• 의미가 있기 위해서는 규범, 즉 경중평가, 가치 판단의 기준을 미리 갖고 있어야

• 규범을 미리 갖고 있기 위해서는 목적과 필요가 전제되어야

뷔리당의 당나귀

• 양쪽에 똑같이 있는 건초 더미 가운데 어느 쪽에 먼저 가야할지를 결정하지 못해서 가운데서 굶어 죽은 당나귀

또 다시 의미

F. Dretske

"정보가 한 시스템에서 의미(significance)를 갖기 위해서는

• 정보를 그 시스템이 필요로 할 뿐만 아니라,
• 정보를 그 시스템 자체의 목적을 위해 사용할 수 있어야 한다."

• AI는 인간의 행위를 모방해야
• 그런데 인간의 행위는 합리성이라는 규범 하에서 수행되고 이해됨
• 이 규범 하에서 지각과 판단이 이루어진다
• 기계적 작용과 규범에 의거한 판단은 환원불가능한 서로 다른 차원의 것

• '자체의 목적'을 갖는 기계를 어떻게 만들 것인가?

• 더 나아가, 그 목적에 맞게 규범과 기준을 스스로 제정하고, 심지어는 필요에 따라 수정해갈 수 있는 기계를 어떻게 만들 것인가?

Chinese Room Argument에 대한 반론

의미까지 구현하는 구문론이 가능하다.

• 지각 센서까지 갖추고 외부 신호를 연산, 처리하는 컴퓨터

• <Chinese Room 속의 미국인>은 중국어를 모를지라도, 바깥의 중국인과 대화하고 그에게 적절히 반응하는 <방 전체>는 중국어를 이해한다고 봐야 한다

가능

불가능

학습하는 신경연결망 컴퓨터

선별 기준을 스스로 습득하고 개선하는 컴퓨터

신경연결망 컴퓨터의 학습은

인간의 학습과 다르다

• 소수의 원초적 규범을 내재화
• 어둠보다 빛을 선호
• 격리보다 접촉을 선호

• 보상과 처벌
• 보상과 처벌의 경험 누적을 통해 스스로 복잡한 규범들을 파생적으로 도출, 습득하는 시스템 구축

신경연결망 컴퓨터의

소위 학습은

기계적인 과정인데 반해,

인간의 학습은

자체의 목적을 가진 존재가

그 목적을 합리적으로 달성하기 위해 행하는

자기 변신의 과정이다.

인간과 같아지려면

• 인간의 자체 존재 목적을 알아야 하고
• 그 목적을 알고리듬으로 구현해야 하고
• 그 알고리듬에는 자기변신의 과정도 포함해야

학습하는 신경연결망 컴퓨터의 의미

이런 AI는 '만들어'지지 않는다.

다만 '양육'될 뿐이다.

인간의 자체 존재 목적은?

• D. Davidson의 무법칙적 일원론(Anomalous Monism)
• 이 컴퓨터에서 일어나는
• 모든 물리적 과정을 남김없이 기술할 수 있다고 해도,
• 그것은 이 컴퓨터의 행동을 이해하는 데는 역부족일 것이다.

• 인간 생명체의 자기 보존?
• 보존해야 할 '생명체로서 자기'는 무엇?
• 개인의 몸?
• 개인의 DNA 서열?
• 개인의 정신?
• 종으로서 인간?
• Meme?

이런 종류의 자기 보존 AI는?

• 외계문명으로부터 온 전파메시지
• 컴퓨터 프로그램 포함
• 그 프로그램은 실행되면 재귀적으로 스스로를 향상시키는 AI
• 이 AI가 지구와 태양계를 장악
• 태양주위에 다이슨 구를 만들고
• 그 에너지를 활용해 태양계 크기의 전파 안테나 가동
• 우주 다른 곳으로 자신이 받은 것과 똑같은 전파메시지 발송

의식(consciousness)이 없으면 우리 마음도 없다.

영혼이 없으면 우리 마음도 없다.

• 데카르트
• 마음의 작용은 영혼 속에서 이루어지는데, 영혼은 인간만 갖고 있다.

'의식'은 무엇?

• ‘영혼’의 정체는?

의식(3)

팔존, 2장

인격체로서의 '나'

마음을 갖기 위한 조건 : 인간이기 위한 조건 : 인격체로서의 '나'이기 위한 조건

감정

이성

플라톤의 영혼

• 욕구와 기개를 컨트롤하는 마부

• <‘아픔’, 새싹의 ‘초록빛’, 번개의 ‘번쩍임’, 천둥의 ‘으르릉거림’ 등의 주관적 감각>
• ‘아하!’: 순간적 깨달음의 주관적 체험

• A.I.의 실라는 이 의식(3)을 갖지 않음

영혼은 비물질적, 불멸

영혼은 이성, 욕구, 기개로 구성

• 이성: 실재 인식, 계산, 결정
• 욕구: 본능적 갈망, 충동, 욕망
• 기개: 용기, 자기-주장
• 욕정에 사로잡한 자신에 대해 혐오, 분개, 부끄러워하는 마음

정신적 건강

• 세 부분이 서로 조화와 균형을 이루는 상태
• 이성: 영혼의 다른 부분을 규제, 통제
• 기개: 이성에게 통제에 필요한 힘을 제공
• 욕구: 적절히 규제된 성욕, 식욕, 충동...
• 이 균형 상태가 곧 인격체로서 존립하기 위한 영혼의 상태
• 고급한 이성이 저급한 욕망을 통제
• 절제와 자제

기독교의 영혼

영혼은 인간에 주어진 신성

• 신과 내세에 대한 관심이 영혼의 영적 본질

• 영혼의 이러한 관심은 인간의 욕망과 대립
• 인간의 삶이란 욕망과의 투쟁

이원론

데카르트의 영혼

로크의 인격체

영혼은 사유 실체로서 이성 작용을 담당하는 것

• 비 물질적, 비공간적 실재, 의식의 거처

반면 욕망, 감정, 정서는 연장 실체인 신체의 작용

• 신체: 물질적, 부피를 지니고 공간을 차지, 기계적으로 동작

인격체를 구성하는 것은 오직 이성적 영혼

데카르트 이원론에 대해선 판단 유보

플라톤에서 영혼의 일부였던 욕망, 감정, 정서가 신체의 작용으로 격하

의식(2)

인간(man)의 동일성과 인격체(person)의 동일성의 구분

• 인간은 '하나의 종'이 아니라 '하나의 인격체'이기 때문에 생명권을 비롯한 특별한 존중을 받음

• “인격체란 생각하는 지적 존재이다. 이 존재는 이성과 반성을 지니며, 자기 자신을 자기 자신으로, 즉, 자기 자신을 다른 시간과 장소에서도 여전히 동일한 것으로 여길 수 있다. 그리고 이것은 오직 사고와 분리될 수 없는, 사고에 본질적인 의식에 의해서만 가능하다.”

• 기억의 동일성이 인격적 동일성의 기준
• 인격체의 본질은 생각, 의식, 자기의식, 기억
• 영혼의 핵심은 자기의식, 기억

흄의 이성

• <인간오성론> 제2권 27장 9절

칸트의 인격체

데카르트와 칸트의 ‘이성 대 욕망’ 대립 구도 반대

인격체의 구성 요소로서 이성의 역할 축소

욕망과 정념이 인간 본성의 불가결하고 정당한 영역

• “이성은 정념의 노예이고, 노예여야 한다.”
• 이성은 단지 계산하는 능력
• 스타트랙의 스팍

플라톤의 부활?

신체의 욕망은 기계적 작용

• 욕망에 따르는 것은 스스로 기계가 되는 것

극단적 이성주의

• 신체적 욕망과 완전히 별개로 작동하는 순수한 이성에 따를 때 인간은 자유
• 이 순수한 이성은 합리성, 자유 의지의 원천
• 이 때문에 인격은 유일하게 가치 있는 존재, 목적 그 자체로 대해야 할 존엄한 존재

칸트 영혼의 핵심은 순수한 이성

프로이트의 정신

• 인격을 갖추지 못한 인간과 인격을 갖춘 비인간의 도덕적 지위는?

• 데이빗은?
• 우리는 데이빗의 주관 속으로 들어가 볼 수가 없다.
• 다른 사람의 마음속 역시 확인 불가

id, ego, superego로 구성

프로이트와 플라톤

• id: 욕망/ ego: 이성/ superego: 기개
• 이성과 욕망의 갈등 --> superego와 연대한 ego와 id의 갈등

id의 억압은 어느 정도 필요하지만 과도한 억압은 자멸 초래

• 억압된 id는 무의식 속에 잠복
• 신경증의 형태로 간접 표출

따라서 욕망의 측면을 상당 부분 긍정

영화에 스며든 프로이트의 시각

• 지나치게 도덕적인 인간의 위선을 폭로하는 영화들
• 드라큘라, 뱀파이어 영화
• 지킬 박사와 하이드

인공 지능과 인격의 조건

튜링테스트; Loebner Prize

• 인공지능은 인간의 이성적 계산 능력을 인간 고유의 것에서 탈락시킴
• 호프스태터
• “인공지능을 향해 새 발걸음을 내디딜 때마다 그것은 진정한 지능이라고 모두가 동의하는 어떤 것을 산출하기보다 무엇이 진정한 지능이 아닌지를 드러내는 것처럼 보이곤 한다.”

가장 인간적인 인간(the most human human)의 조건은?

• 논리적 계산 이상의 이성적 능력?
• 감정, 정서, 사회성?
• 메리 밋글리: 사회적이고 정서적인 복잡성, 인내력, 정서적으로 풍부한 친족 관계가 인격체를 결정하는 데 중요한 역할을 해야 한다.
• 데이빗을 우리가 인간과 대등한 존재로 간주하는 이유는?
• <블레이드 러너>의 리플리컨트가 인간이라고 느끼는 순간은?

• 비물질적 영혼 개념의 장점

• 영혼 불멸의 전통적 사유와 부합
• 신체와 별개로 존속하는 영혼
• 한 영혼 여러 신체
• 기계적 시스템으로 환원되지 않는 추론, 판단, 느낌 등의 정신 현상 설명
• 개인의 동일성의 문제를 일거에 해결
• 반대로 보면, 영혼 개념이 개인의 동일성이라는 허상의 원천?

• 주관적 의식은

단지 어떤 인과적 능력도 지니지 않는,

두뇌 신경세포 활동의 부수 효과에 불과한 것은 아닌지?

• <자신의 감각 상태 및 현재 동작을 모니터링하고 그것을 밖으로 표현>

의식(1)

• 내부 모니터 기능을 가진 컴퓨터는 충분히 제작 가능

• 비물질적 영혼 개념의 단점

• 비물질적 영혼이 물질적 신체와 어떻게 상호작용 가능?
• 다른 사람이 영혼을 가졌다고 보는 근거는 무엇?
• 타인은 기계 인형들이고 나만 유일한 정신은 아닐까?
• 다른 사람이 이전 영혼을 지금도 지니고 있음을 어떻게 확인?
• 왜 인간만 영혼을 갖는다고 보는가?
• 데이빗이 영혼을 못 가질 이유는?

• 환경을 감각하지도 그에 반응하지도 않는 상태
• 수면

• 무의식에 대비되는 것

• <환경에 대한 감각과 반응>

• 감지기와 작동기를 가진 컴퓨터도 의식(1)을 갖는다고 봐야

외적으로 관찰가능한

어떤 기술(technique)을

지니면 우리 마음을 가진 것이다

(2)

복잡한 언어를 사용하는 존재는 우리 마음을 갖는다.

(1)

도구를 제작, 사용하는 존재는 우리 마음을 갖는다.

Imitation Game

Turing Test를

통과한 기계

튜링의 제안

한 사람이 건너편 방의 <사람>과 <사람을 모방하는 컴퓨터> 양쪽과 대화를 해서 어느 쪽이 컴퓨터인지를 가려낼 수 없다면

그 컴퓨터는 "언어를 이해한다=생각한다=마음을 지닌 AI다"라고 보아야 한다.

EBS 다큐프라임, 철학하라, 21분20초.

www.youtube.com/watch?v=1X22CyRP1eI

(3)

튜링 테스트를 통과하는 존재는 우리 마음을 갖는다.

• 유한 단어로 무한 문장을 만들 수 있는 능력

• ‘흰개미 낚싯대’를 사용하는 침팬지는?

• 언어를 사용하는 침팬지와 고릴라는?

• 튜링의 대답
• '이해'는 중요하지 않음
• 이것이 인간이 마음을 가졌는지 판단하는 방식
• 기계라고 기준을 강화하는 것은 부당

2. 인간다움의 핵심은 마음?

• 반론
• 대화 기술만으로 마음을 가졌다고 할 수 있는가?
• ELIZA
• 중국어 방 논증
• 이 존재는 자신이 무얼 하고 있는지 이해 못함

Turing Test를 통과한 기계

= 중국인 방 안의 미국인

crowboarding

https://www.youtube.com/watch?v=3dWw9GLcOeA

EBS 다큐프라임, 철학하라, 35분57초.

www.youtube.com/watch?v=1X22CyRP1eI

(4)

주어진 환경에 따라

자신의 행동을 적절히 적응시키는

존재는 우리 마음을 갖는다.

• 학습능력이 있는 존재
• 스스로의 동기에서 비롯해 추론을 하는 존재?
• 꿈을 쫓을 수 있는 존재?
• 믿음, 욕망, 정서에 의해 행동이 설명되는 존재?

Artificial Intelligence

인간의 정체성

• 이 기준에 따르면 데이빗과 조는 마음을 갖는가?
• 둘 사이에 차이가 있다면 그 차이는 어떻게 확인?

영화 보기

인공 지능은

사람의 마음을 가질 수 없는가?

데이빗은

사람의 마음을 가지고 있지 않은가?

영혼의 역사는 여자가 자신의 가슴을 힐끗 내려다보는 사내에게 “이봐, 나는 여기 위에 있거든”이라고 경고하는 순간 시작.^^

사람의 마음을 갖기 위한 조건은?

Personal Identity

개인의 정체성

신체적 연속성 이론

• 신체적 유사성
• 시공간의 연속성

영화 보기

<메멘토>

28분까지

<존 말코비치 되기>

이들은 동일한 사람인가?

테디를 죽이는 레너드

말코비치 몸에 들어가기 전의 크레이그

나탈리와 대화하는 레너드

말코비치 몸에 들어간 크레이그

사고 전의 레너드

말코비치의 몸에서 나온 크레이그

세 레너드가 동일 인물이고,

세 크레이그가 동일 인물이라면

이 둘을 다 설명할 수 있는 이론은 무엇인가?

심리적 연속성 이론

영혼동일론

• 심리적 특성의 연속성
• 의식의 흐름의 연속성
• 기억을 통한 연쇄적 연결

Artificial Intelligence

강좌 소개

강좌의 목적

• 영화를 활용해 철학의 근본 개념과 주제들을 검토
• 참된 인식, 나의 정체, 옳은 행위, 삶의 의미

인간의 정체성

Post-Human

데이빗 같은 로봇 개발을

멈출 수 있을까?

A.I. 시대 인간의 정체성은?

AI와 함께 살아가는 인간

deus ex machina

• The term was coined from the conventions of Greek tragedy, where a machine is used to bring actors playing gods onto the stage. The machine could be either a crane (mechane) used to lower actors from above or a riser that brought actors up through a trapdoor. Preparation to pick up the actors was done behind the skene. The idea was introduced by Aeschylus and was used often to resolve the conflict and conclude the drama. Although the device is associated mostly with Greek tragedy, it also appeared in comedies

인간의 정체성에 대한 열린 시각 필요

• 낡은 마음 개념 탈피
• 생물학적 마음의 다음 진화단계는 전자기적 마음
• 태양계 스케일로 커진 마음.
• 빛의 속도로 우주 여행이 가능한 마음

인간과 대화하기 위해 자기 능력보다 10억배 천천히 의사소통해야 하는 존재

• 자기를 만든 콜을 사랑하는 인조인간 조.
• 인조인간과의 사랑 감정에 번민하는 콜.
• 신약 베니솔: 3시간 동안 서로 사랑에 빠지게 만드는 약

마음의 '자랑스런' 후손들

Post-Human:

A.I.시대 인간의 정체성

• 외계문명으로부터 온 전파메시지
• 컴퓨터 프로그램 포함
• 그 프로그램은 실행되면 재귀적으로 스스로를 향상시키는 AI
• 이 AI가 지구와 태양계를 장악
• 태양주위에 다이슨 구를 만들고
• 그 에너지를 활용해 태양계 크기의 전파 안테나 가동
• 우주 다른 곳으로 자신이 받은 것과 똑같은 전파메시지 발송

생물학적 몸을 지닌 인간에게 독점적 지위를 부여하려는 부질없는 노력

이들이 마틴과 같은 도덕적 지위를 갖기 위해서는...

무섭고, 부끄럽고, 혐오스런 후손이 아니라 자랑스런 후손

1) 호모 사피엔스여야

• 인간이 동물을 잡아먹는

현실에 부합

• 인종차별주의가 나쁜 것처럼 종 차별주의도 나쁜 것

Human에서 Post-Human으로

유모 로봇 실라 조 데이빗 마틴

휴머니즘 관점

포스트휴머니즘 관점

• 인간이기 위한 조건 역시

고정되어 있지 않고 수시로 변한다

제1원칙: 로봇은 인간에 해를 입혀서도, 해를 입게 둬서도 안 된다.

제2원칙: 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.

제3원칙: 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 자기 자신을 보호해야 한다.

• 인간은 영원하다
• 로봇 3원칙(아이작 아시모프)
• 로봇이라는 종은 없다.(질베르 시몽동)

4) 앞의 조건의 조합

+ 도덕적 지위의 등급화

• 쾌락을 경험하는 존재
• 제한적 도덕적 지위
• 합리성까지 겸비한 존재
• 무제한적 도덕적 지위

• 합리성 여부가 제한의 근거가 되는 까닭은?
• 인간에 기준을 끼워맞추는 격

3) 고통이나 쾌락을 경험할 수

있어야 (Peter Singer)

• 동물 학대를 비도덕적으로 여기는 우리의 직관에 부합

• 실라, 조는 도덕적 지위에서 배제
• 꿈을 쫓는 데이빗은?
• 많은 동물들이 인간과 동등한 도덕적 지위 확보

biological, technological, cognitive modification을 통한 인간 향상

2) 이성 (추론) 능력을 갖춰야

• 합리적 컴퓨터에도 도덕적 지위 부여해야
• 실라, 조도 포함
• 영유아나 치매 노인은 오히려 배제

whole brain emulation/mind uploading

• Transhumanist approach
• trans human의 종착점
• 마음의 아이들(mind children)(한스 모라벡)
• superintelligence, singleton(닉 보스트롬)
• Life3.0(맥스 태그마크)

• Post-centralizing approach
• post-anthropocentric: 생물학적, 윤리적, 존재론적
• post-dualistic: 인간-비인간, what-how, old-new
• post-hierarchical: 이성-감정-본능, 계급/계층, 능력주의
• relational and multi-layered

• AI가 인간의 창의적 활동, 목적(가치) 발명, 자동 아닌 자율까지 모두 대신하지는 못할 것
• 인간 고유의 특성인 상상력, 감성 지능, 비판적/종합적 사고력, 도덕적 판단력 등의 증진에 주력해야 한다

• 호프스태트의 냉소: “인공지능을 향해 새 걸음을 내디딜 때마다 우리는 그것이 진정한 지능을 구현했다고 보지 않고, 무엇이 진정한 지능이 아닌지를 밝혀줬을 뿐이라고 보곤 한다.”