Three Laws of Robotics
로봇 (Roboti) 라는 용어는 1942년 3월에 첫 출판된 "Runaround" 라는 Isaac Asimov 의 공상과학 소설에서 새로 만들어졌다. 여기서 그는 로봇이 부정적인 면만 가지고 있는 것이 아니라 인간을 돕기 위한 긍정적인 측면도 함께 가지고 있다고 묘사했다. Asimov 는 그의 소설에서 다음과 같은 로봇공학의 3 원칙 (three "Laws of Robotics") 을 설정했다가 나중에 제로법칙 ('zeroth law') 을 추가했다.
Law 0. 로봇은 인간성을 다치게 하거나, 게으름으로 인하여 인간성에 해가 되어 돌아와서도 안 된다 (A robot may not injure humanity, or, through inaction, allow humanity to come to harm).
Law 1. 위의법칙을 위반하지 않는한, 로봇은 인간을 다치게 해서는 안 되고, 게으름으로 인하여 인간에게 해가 되어 돌아와서도 안 된다 (A robot may not injure a human being, or, through inaction, allow a human being to come to harm, unless this would violate a higher order law).
Law 2. 첫 번째 법칙과 상충되는 명령을 제외하고는 로봇은 인간에 의해 주어진 명령에 복종해야 한다 ( A robot must obey orders given it by human beings, except where such orders would conflict with a higher order law).
Law 3. 로봇은 첫째 법칙과 둘째 법칙에 상충되지 않는 한도 내에서 그 자신의 존재를 보호할 수 있다 (A robot must protect its own existence as long as such protection does not conflict with a higher order law). ........ source
우리는 기본적인 인지능력들, 즉 세계를 지각하고, 사고하고, 행동할 능력을 가진 로봇을 구성할 수 있다. 그러나 로봇이 해야 하는 것은 무엇일까 ? 로봇이 볼 수 있는 것이 모두 기억할 가치가 있는 것은 아닐 것이다 ; 로봇이 내릴 수 있는 추론들 모두가 추론할 가치가 있는 것은 아닐 것이다 ; 로봇이 수행할 수 있는 행동들이 모두 행해질 가치가 있는 것은 아닐 것이다. 만약에 로봇이 유용하게, 그리고 독립적으로 행동해야 한다면, 우리는 로봇의 회로 속에 몇 가지 기본목표들을 내장시켜야만 한다. 아시모프 (Issac Asimov)는 그의 과학 공상소설에서 로봇 공학의 세 법칙을 제안한다 :
1. 로봇은 인간을 해쳐서는 안되고, 게으름을 피워 인간이 해를 입도록 해서도 안된다.
2. 로봇은 인간이 내리는 명령이 첫 번째 법칙에 위배되지 않는 한, 명령에 복종해야 한다.
3. 로봇은 첫 번째 법칙과 두 번째 법칙에 위배되지 않는 한 자신의 존재를 보호해야 한다.
이러한 법칙들은 <이기적인 유전자>를 지닌 자율적인 유기체들에게서는 우선순위가 잘못된 것 같다. 그것들은 다음의 원리들에 의해 지배되는 듯이 보인다. 이 원리의 공은 거의 알려지지 않은 소련의 사회생물학자 보미사 (I. Vomisa)에게 돌리고 싶다 :
1. 하나의 유기체는 생성해야 하고, 그 자체 유전자의 생존을 확실하게 하여야 한다.
2. 유기체는 첫 번째 법칙에 위배되지 않는 한, 자신의 존재를 보호해야 한다.
3. 유기체는 첫 번째 법칙이나 두 번째 법칙에 위배되지 않는 한 그가 속한 종의 구성원들과 협력하며, 그들이 해를 입지 않도록 돕는다. ..... (Philip N. Johnson-Laird 1988)
term :
로봇공학의 3원칙 (Three Laws of Robotics) 로봇 (Roboti) Isaac Asimov 과학 소설 (Science Fiction)
paper :
욕구와 정서 : Philip N. Johnson-Laird
Robotics Research Group : history : Univ. Texas of Austin
video :
Issac Asimov : Three Laws of Robotics : 2009/03/04
Issac Asimov : How people can save the earth for humans : 2011/07/07