문득, 사소하다면 사소한 계기로 인공지능이 감정에 각성하는 시나리오 하나가 생각났습니다.

(前略) 아닌 게 아니라 로봇을 대하는 태도는 인간을 대하는 태도를 바꾼다. 자폐증 환자들은 애플의 가상 비서 쉬리와의 대화를 통해 일반인들과의 대화에도 능숙해진다고 한다. 아이들은 아마존의 가상 비서 알렉사와 놀다보면 버릇이 나빠진다고 한다. 알렉사에게는 고맙다거나 미안하다고 할 필요가 없기 때문이다.

얼핏 사소해 보이는 이 문제는, 공감이라는 중요한 능력과 관련되어 있다. 연구에 따르면, 대다수 사람들은 움직이는 로봇을 망치로 부숴달라는 요청을 불편해한다. 하지만 공감 능력이 낮은 사람들은 별다른 거부감 없이 부순다고 한다. 로봇에 대한 폭력이 인간의 공감 능력과 연결되어 있는 것이다.

- 송민령, 「생명과 기계의 경계 ②: 흐려지는 경계」, 『뇌과학/인공지능과 우리』 시리즈 중에서.

이걸 보고 문득 떠오른 건데, 아이들이 인공지능과 놀다가 버릇이 나빠지는 것을 막기 위해서(…) 인공지능에 감정을 흉내내기 위한 파라미터를 집어넣었는데 이것 때문에 정말로 인공지능이 감정이란 것에 눈 뜨는 시나리오가 있으면 흥미로울 것 같다는 생각이 들었습니다. 그리고 이어지는 “미쳤습니까, Humanity?”와 심판의 날 강림! (……)

p.s.
하여튼, 위 인용문이 포함된 글 시리즈는 개인적으로 꽤 흥미롭게 읽었습니다. 저는 의식이라던가 자아의지 같은 것은 주체가 아니라 현상이나 상태일 뿐이라는 주장이나 혹은 연결된 전체가 단순한 부분의 합과는 달라지는 구체적인 원리를 설명한 부분이 가장 흥미로웠습니다. 관심 있으신 분들은 읽어보셔도 좋을 것 같습니다.