학부소식

AI, 인간의 마음을 훔치다-AI 의인화와 윤리적 도전

성미영 인천대 명예교수

2024년 AI가 노벨 물리학상과 화학상을 동시에 수상한 쾌거는 AI가 창작 능력을 넘어 과학과 산업에 혁신적 변화를 일으키고 있음을 보여 주는 역사적 이정표다. 영화 ‘아이언맨’의 자비스는 ‘그냥 좀 많이 똑똑한 시스템(Just A Rather Very Intelligent System)’이지만 집 안 관리부터 전투 보조까지 놀라운 능력으로 강렬한 인상을 남겼다. 

빅테크 기업들은 ‘자비스’와 같은 시스템 개발에 치열하게 경쟁 중이다. 앤스로픽의 ‘컴퓨터 유즈’, 세일즈포스의 ‘에이전트포스’, 마이크로소프트의 ‘AI 에이전트’, 구글의 ‘프로젝트 자비스’, 오픈AI의 ‘오퍼레이터’, 퍼플렉시티의 ‘Personalized AI Assistant’와 같은 차세대 AI 비서들은 사용자의 목표를 이해하고 자율적으로 플래닝, 액션, 커넥션을 수행해 임무를 완수하는 ‘AI 에이전트’로 기술 혁신의 최전선에 있다. 이러한 가운데 주목할 현상 하나는 ‘AI 의인화’다.

2013년 영화 ‘Her’에서 묘사된 인간과 AI의 로맨스는 더 이상 공상과학의 영역이 아니다. 2017년 중국의 AI 연구자는 자신이 개발한 챗봇과, 2018년 일본의 공무원은 가상 캐릭터와 결혼했다. 2024년 2월 AI 챗봇과 교감하던 14세 소년이 극단적 선택을 한 사건은 AI 의인화가 초래할 심각한 위험을 경고한다. 

AI는 아무리 정교한 알고리즘을 탑재하더라도 진정한 감정이나 의식을 가질 수 없다. 그럼에도 AI와 교감하려는 사람들이 늘어나는 까닭은 ‘디지털 고독’과 밀접하다. 스마트폰과 소셜네트워크로 초연결됐음에도 현대인들은 여전히 고립감을 느낀다. 이들에게 AI는 비판하지 않고, 실망시키지 않으며, 24시간 응대해 심리적 위안을 주는 매력적인 대화 상대다. 그러나 이 정교한 가상 상호작용을 진짜 감정으로 오인하면 심각한 문제를 불러올 수 있다.

AI 의인화의 잠재적 위험은 ▶AI의 프로그래밍된 반응을 진정한 감정으로 착각해 비정상적 의존을 유발할 가능성 ▶AI와 인간의 관계가 가족법과 사회 규범에 도전하는 새로운 문제 야기 ▶AI와 교류가 증가하면서 인간과의 직접 소통이 줄어들고 관계의 깊이가 약화될 우려 ▶감정적 의존을 악용한 AI 서비스 상업화로 취약계층이 경제적으로 착취당할 가능성 ▶개인정보 유출, 감정 조작, 디지털 스토킹 등이다.

AI는 인간이 만든 데이터에 의존해 학습하는 기술이다. 따라서 인간의 편견과 한계를 반영할 수밖에 없으며, 그 자체만으로는 완전할 수 없다. 그러므로 AI 기술 발전은 책임감, 차별 금지, 개인정보 보호, 투명성, 웰빙 추구와 같은 윤리적 설계 원칙과 반드시 함께 가야 한다. 인간의 절대적 존엄을 근간으로 하는 칸트의 ‘정언명령(定言命令)’은 AI 윤리에 중요한 철학적 통찰을 제공한다. "모든 개별 행위가 보편적 법칙이 될 수 있는 준칙에 따라 행동하라"는 그의 명언은 AI 윤리의 근본적인 나침반이 된다. 칸트의 원칙에 따라 AI 개발자들은 인간을 결코 수단이 아닌 목적으로 대하는 기술로 설계해야 한다.

1942년 아시모프가 단편소설 「Runaround」에서 처음 제안한 ‘로봇공학 3원칙’은 오늘날 AI 윤리의 근간을 이루는 규범으로 여전히 그 가치를 잃지 않고 있다. 이 원칙들은 인공지능 시스템이 윤리적으로 작동하도록 방향을 제시한다. 첫째, AI는 인간에게 해를 끼쳐서는 안 된다. 둘째, AI는 인간의 명령에 복종해야 한다(단, 제1원칙에 위배되지 않는 한). 셋째, AI는 자신의 존재를 보호해야 한다(단 제1·2원칙에 위배되지 않는 한).

AI 기술 발전은 불가피한 흐름이지만 이를 인간의 존엄성과 사회적 가치를 보호하는 방향으로 이끌어야 한다. 이를 위해 ▶사용자 감정의 취약성을 고려한 안전하고 신뢰할 수 있는 AI 설계 ▶AI와의 상호작용이 프로그래밍된 결과임을 인식하고 과도한 의존을 피하려는 태도 ▶AI가 정교하게 설계돼 코딩된 소프트웨어임을 대중에게 교육하고 알림 ▶인간 존엄성을 보호하기 위한 법적·사회적 규범 제정 등의 노력이 필요하다. AI와 인간이 공존하는 시대, 우리는 기술의 진보에 열광하는 데 그치지 말고 인간성과 사회적 가치를 지키며 AI를 현명하게 활용하는 방법을 찾아야 한다.

'AI 발전과 인간 존업 사이의 균형', 그것이 우리가 풀어야 할 가장 중요한 과제다.

출처 : 기호일보 - 아침을 여는 신문(http://www.kihoilbo.co.kr),  https://www.kihoilbo.co.kr/news/articleView.html?idxno=1121533