Loading presentation...

Present Remotely

Send the link below via email or IM

Copy

Present to your audience

Start remote presentation

  • Invited audience members will follow you as you navigate and present
  • People invited to a presentation do not need a Prezi account
  • This link expires 10 minutes after you close the presentation
  • A maximum of 30 users can follow your presentation
  • Learn more about this feature in our knowledge base article

Do you really want to delete this prezi?

Neither you, nor the coeditors you shared it with will be able to recover it again.

DeleteCancel

Make your likes visible on Facebook?

Connect your Facebook account to Prezi and let your likes appear on your timeline.
You can change this under Settings & Account at any time.

No, thanks

강인공지능을 개발해도 되는가

No description
by

채은 송

on 13 May 2015

Comments (0)

Please log in to add your comment.

Report abuse

Transcript of 강인공지능을 개발해도 되는가

찬성측의 예상반박
예상반박 1
감정과 자아를 지닌 인공지능을 개발하는 것이 문제가 된다면
안전장치를 걸어두거나
감정을 배제시킨 비인간형 강인공지능을 개발하면 되지 않나

1. 감정과 자아 존중의 필요성
감정과 자아가 형성될 수 있는

인간형 강인공지능의 경우,

사람과 같이 존중 받아야 한다.

2. 사람들은 도덕적인 로봇을 원하는가?
로봇이 인간의 의도대로 사용 가능하다면

도덕적 판단이 가능한 로봇으로
인간과 비슷한, 혹은 더 좋은 판단을 내릴 수 있다면
3. 인공지능 로봇이 인간사회에 도입되었을 때발생할 수 있는 위협, 부작용
근거
반박
강인공지능을 개발해도 되는가
THANK YOU!
2조
조장 나덕환
조원 김선홍, 송채은, 옹윤지, 이기현, 이희원, 최성열

강인공지능이란?
현재 인공지능개발수준은 미비하나
강인공지능을 만들 수 있는 기술이 있다는 걸 전제로 한다.

우리는 강인공지능만을 다룬다.
강인공지능을 지닌 로봇은 감정과 자아가 있다.
전문가들의 견해
엘론머스크
”인류는 AI라는 악마를 불러내려 한다”
”컴퓨터가 점점 지능화돼 인간을 애완견 래브라도처럼 키울 수도 있다”

스티븐호킹
”인공 지능의 무분별한 발전은 인간 종족의 최후를 맞이하는 결과를 초래할 것이다”

빌게이츠
”몇 십년만 지나면 인공지능이 인간의 통제를 넘어서서 심각한 위협이 될 것 이를 걱정하지 않는 사람들을 이해하지 못하겠다”

스티브 워즈니악
”향후 30년 이내에 인공지능이 인간의 모든 측면들을 앞지르게 될 것”

셰인 레그
”결국에는 인간멸종이 일어날 것 같다. 그리고 인공지능 기술은 여기에 일익을 담당하게 될 것”

사람과 같이 존중 받아야 한다 → 개발 반대 이유 ?
인간에게 유용하게 사용되기 위함
인공지능 개발 목적
인간과 같은 사고능력, 감정, 자아 존재→ 정신적 측면 : 노예
사람과 같이 존중 받아야 한다 → 개발 반대 이유
인간의
통제
를 받고 인간에게
이용
당한다는 점
→ 노예들이 느낀 것과 같은
감정
을 느끼고
생각

자유
롭지 못함에서 비롯될
괴로움

정체성
에 대한
혼란
→인간과 같지만
인간이 아니라는 사실
로 인해 겪게 될 심적 고통
1. 감정과 자아 존중의 필요성
1. 감정과 자아 존중의 필요성
1. 감정과 자아 존중의 필요성
영화를 통해 생각,공감해보는 여러 예시들
바이센티니얼맨
(1999)
인간과 같은 사고능력, 감정을 소유하는데 그치지 않고
진정한 사람이 되고자 끊임없이 노력하는 로봇

1. 감정과 자아 존중의 필요성
영화를 통해 생각,공감해보는 여러 예시들
A.I. (2001)
인간과 같지만
인간이 아니라는 사실로 인해
심적으로 고통 받는 인공지능 로봇

1. 감정과 자아 존중의 필요성
영화를 통해 생각,공감해보는 여러 예시들
아일랜드
(2005)
자연발생이 아닌
창조된 존재라는 정체성에 대한 혼란
자유롭지 못함에서 비롯될 괴로움

인간에게 끼칠 영향은?
2. 사람들은 도덕적인 로봇을 원하는가?
MIT의 사회학자
셰리 터클(Sherry Turkle)
“기술이 미래에 어떤 모습일까에
관한 것이 아니라
오히려 우리가 어떤 모습일까”
2. 사람들은 도덕적인 로봇을 원하는가?
▶인간의 변화
기술의 도입으로 인해 인간의 잠재적 능력이 달라질 뿐 아니라
인간의 성격과 의식도 바뀔 수 있다.
ex)네비게이션, 스마트폰
2. 사람들은 도덕적인 로봇을 원하는가?
▶인간의 변화
판단 중 무엇보다 중요한 도덕적 판단을 의지하게 되면
인간의 도덕적 자립성이 무너지게 된다.

후원 단체에서 부터 개인의 사소한 것 까지
영향을 끼치게 될 것이다.

로봇의 도덕적 판단에 의지하는 인간은
훗날 인간은 로봇의 도덕성을 가지게 된다.

2. 사람들은 도덕적인 로봇을 원하는가?
과연 인간이 로봇을

지배를 하는 주체일까,

지배를 당하는 객체일까.

인간 사회는 스스로를 보호하고 발전하기 위해
끊임없는 희생을 강요해옴

희생을 해야 하는 대상은 동물과 식물이 될 수 있고
하위계층의 다른 인간

인간은 그러한 '강요된 희생'이 초래하는
결말에 대해서도 잘 알고 있고 불안해함

3. 인공지능 로봇이 인간사회에 도입되었을 때
발생할 수 있는 위협, 부작용
3. 인공지능 로봇이 인간사회에 도입되었을 때
발생할 수 있는 위협, 부작용
처음부터 로봇이 인간을 적대시 할 이유는
가지고 있지 않음

하지만 인간은 뛰어난 능력을 지닌 로봇에게
두려움과 피해의식을 느낄 것

때문에 정신적 유대가 이뤄지기 힘들 것이며
인간과 로봇 두 집단의 갈등은 필연적일 것

▶ 예상할 수 있는 인간과 로봇의 갈등 시나리오
살고자 하는 욕구, 폐기 결정

로봇이 가질 수 있는 충동

로봇자체의 기본권
▶인간 자신들과 닮은 인공지능에 인간성을 부여할 수 있을까요?
애니매트릭스 -제2 르네상스
먼 미래, 로봇은 인간사회에서
노동력을 제공하며 공존하였습니다.
하지만 사건이 발생합니다.
로봇이 자신의 주인을 살해한 것입니다.
그리고 비슷한 사건들이 일어납니다
인간 사회에 편입되길
거부한 로봇들이
자체 국가를 건설하게 되고
국가를 건설한 목적은 단지 생존이었습니다.
인간의 특징을
인간보다 더 잘 아는 로봇들은
기술력으로 자본사회에 영향력을 키웠습니다.
경제권을 잃어가는 인간들은 위협을 느끼게 됩니다.
갈등은 계속 되고 결국
인류는 전쟁을 선포합니다.
영화는 로봇이 인간을 장악하며 끝을 맺습니다.
영화는 영화인 법이지만
두 집단간의 공존이 과연 가능할까요?

4. 미끄러운 경사길 이론
강인공지능을 개발하게 되면
우리는 미끄러운 경사길로 접어들게 됨
우리가 일단 첫 걸음을 떼고 나면
그 방향을 바꾸거나 멈출 수 없는 경사길을
미끄러져 내려가게 되는데
그것이 우리 모두에게 끔찍한 해가 될 것이기 때문에
첫 발걸음을 떼는 데 신중해야 한다는 뜻
▶만일 우리가 강인공지능 개발을 허용하게 되면,,1
4. 미끄러운 경사길 이론
4. 미끄러운 경사길 이론
▶만일 우리가 강인공지능 개발을 허용하게 되면,,2
4. 미끄러운 경사길 이론
▶만일 우리가 강인공지능 개발을 허용하게 되면,,3
앤디 클락(Andy clark)
4. 미끄러운 경사길 이론
우리는 ’자연적으로 탄생된 사이보그’로서
기술을 열심히 받아들여 문자 그대로
기술과 결합될 것인가?
아니면 기술은 옷처럼 쉽게 입었다 벗었다 할 수 있는가?
4. 미끄러운 경사길 이론
이러한 일련의 움직임은
우리가 경사길의 바닥에 도달하기 전까지 멈출 수 없다.
한 번 강인공지능을 개발하기 시작하면
위와 같은 문제들이 발생하는 것을 막을 수 없을 것이다.
로봇은 사람과 달리
사실에 근거한 객관적인 판단을 내릴 수 있다는 점에서
매우 유용하게 사용될 수 있다.
예상반박1에 대한 반박
▶로봇의 판단이 가지는 한계
1. 정보화된것 이외의 것은 데이터로 만들지 못한다
예시)
어떤여인의 차가 심하게 고장났다.
그녀에게 논리적 대안으로서는 차를 고치는것,
중고차나 새차를 구입하는 것이 바로 떠오른다.
그런데 이 여인은 버스를 타보는 것도 좋다는 것을 알게되었다.
그래서 버스를 타게 되었는데 자동차 말고
다른대안들도 있다는것을 생각하게 되었다.
이제는 자전거도 고려해보게 되었다.
예상반박1에 대한 반박
▶로봇의 판단이 가지는 한계
-인간의 의사결정 단계
위의 예시처럼 인간의 의사결정 과정은
단순한 과정이 아닌 최종적인 목적을 이루게 하는 것이다.
그렇기 때문에 자동차를 고치는 결론이 아닌
다른 교통수단으로 바꾸는 대안이 나오는 등
자신의 목적을 만족하는 방안이 나왔다.
하지만 로봇의 의사결정으로만으로 판단을 한다면
이러한 결론은 나오지 않았을것이다.
예상반박1에 대한 반박
▶로봇의 판단이 가지는 한계
예상반박1에 대한 반박
▶로봇의 판단이 가지는 한계
2. 환자의 포괄적인 건강이나
행복의 관점에서 해석을 하지 못한다.
심리학적 가치론적 해석을 하지 않는다.
이처럼 로봇은 경제적가치나 소생가능성등의
숫자로 표현이 가능한 부분에 대해서는
판단을 하고 의사결정에 포함을 시키지만
의료판단에서 가장 중요한
환자의 심리상태와 같은 부분을 고려하지 않기때문에
효율적이지만 인간적인 부분을 고려하지 않는다는 단점이 존재한다.
예상반박1에 대한 반박
▶로봇의 판단이 가지는 한계
예상반박 2
예상반박2에 대한 반박
(비인간형 강인공지능으로 만들면 된다)
▶ex) 사이코패스, 소시오패스
타인과 공감 불가, 정서적 유대감을 맺지 못함

비윤리적인 행동을 죄책감 없이 할 수 있음.
예상반박2에 대한 반박
( 안전장치를 강하게 하면 된다 )
▶안전장치를 강하게 해도 독립성과 자아가 있으면 소용없음
자아와 (독립성이 있으면 존재하고 싶어함

“왜?” 라는 질문을 할수있음

자아는 제어할 수 없음
결론
윤리적 기준을 세워야 할 때
인공지능은 인간이 개발한
마지막 발명품이 될 것이다.

1. 논지 - 강인공지능개발에 대해 반대

2. 강인공지능이란?

3. 전문가들은 어떻게 보고 있을까

4. 근거
4-1 감정, 자아가 있으면 배려를 해주어야 함
4-2 사람들이 도덕적인 로봇을 정말 원하는가?
- 명령을 거부할 수 있음
4-3 로봇이 인간사회에 편입되었을 때 발생할 수 있는
위협, 부작용
4-4 비탈길 이론

5. 강인공지능 개발에 찬성하는 주장에 대한 반박
5-1 감정을 갖고 있는 로봇이 위험하다면
감정을 배제한 로봇은 안전한가?
5-2 로봇은 사람과 달리
사실에 근거한 객관적인 판단을 내릴 수 있다.

6. 결론
차례
강인공지능을 개발해도 되는가?
개발해서는 안된다
인공지능
강인공지능
약인공지능
Strong AI
Weak AI
인간형
강인공지능
비인간형
강인공지능
Full transcript