인공 행위자의 도덕성에 대하여(On the morality of artificial agents)

전문가 제언

□ 본문은 그 동안 인간만이 자격을 갖추고 있다고 믿는 도덕적 행위자에 기관과 같은 조직이나 인간이 만든 인공 지능까지 포함하여 전통적인 사고에서 벗어났다. 행위자가 구비해야 할 자격으로 상호작용, 자율성과 적응성을 규정하고 인공 행위자가 어떻게 이를 갖추었는가를 설명하였다. 그러나 그 이론이 선명하지 못하다.

○ 본문에서 도덕적 행위자의 행동이 도덕적이라는 것은 도덕적으로 선이나 악의 영향을 미칠 수 있으면 충분하다고 보았다. 따라서 가치중립적인 기계의 행위의 완전히 도덕적이다. 인간이 그 가치를 판단하는 선 또는 악은 인간 사회에 유익 한가 또는 불리한가를 따지는 다분히 인간 중심적이라는 것이다.

○ 생명, 지성, 행위와 마음 같은 것은 미묘성을 함축하며 변화무쌍하기 때문에 아무도 충분히 정확하게 정의할 수 없다. 복잡한 생물-화학적 화합물과 심오한 수학적 개념은 적어도 한 점에서는 공통된다. 그것은 직관적이 아니며 한번 이해되면 완전히 정확하게 정의된다. 현세의 지성적인 것 또는 살아있는 시스템의 실체는 정반대의 성질을 갖는다. 그것은 알기는 하되 필요 충분한 조건을 설정하여 그 안에 이들을 완전히 포함시키는 것이 불가능하다.

□ 본문에서 자율성과 적응성의 구별을 돕기 위하여 예로 든 Noughts and Crosses는 tic-tac-toe라고도 부르는데, 한 사람은 동그라미를 그 상대방은 열십자를 각각 놓아가는 우리나라의 오목과 비슷한 영국 사람들이 즐기는 게임이다.

○ 여기서는 이 게임을 반복함에 따라 사람이 학습하는 것과 똑같이 컴퓨터가 경험에 의하여 이 게임을 배우게 되는 프로그램이 있다. 이렇게 기계가 과거의 경험을 모두 저장하였다가 현재의 형국을 매번 이 저장된 수와 비교하여 두는 것에는 체스와 바둑이 있다. 따라서 이 게임을 많이 해 본 컴퓨터는 상당히 고수가 될 것이 확실하나 아직 바둑과 체스에서 국수의 수준에 이른 챔피언을 컴퓨터가 이겨 본 적은 없다.

저자

Floridi, L; Sanders, JW

자료유형

원문언어

영어

기업산업분류

정보통신

연도

2004

권(호)

14(3)

잡지명

MINDS AND MACHINES

과학기술
표준분류

정보통신

페이지

349~379

분석자

김*설

분석물

• 인공 행위자의 도덕성에 대하여.pdf [212,987 byte]

이미지변환중입니다.