월요일, 5월 20, 2024
Home뉴스AI로 망자 살려내는 데드봇, 유족에 심리적 괴롭힘 될 수 있어

AI로 망자 살려내는 데드봇, 유족에 심리적 괴롭힘 될 수 있어

spot_img

“생전 대화 기록으로 챗봇 형태 재현…수익화 악용 우려도”
“미성년자의 경우 더 취약할 가능성…정상적 애도 과정 방해”

세상을 떠난 가족이나 지인의 평소 대화 기록을 이용해 이들을 인공지능(AI) 챗봇 형태로 재현하는 이른바 ‘데드봇’ 기술이 자칫 유족에게 심각한 심리적 피해를 가져다줄 수 있어 규제가 필요하다는 연구 결과가 나왔다.

9일 영국 일간 가디언·더타임스 등에 따르면 영국 케임브리지대 연구팀은 논문에서 최근 늘고 있는 이러한 ‘데드봇’ 서비스가 상업적으로 이용되거나 미성년자를 대상으로 사용될 경우 지속적인 정신적 피해를 초래하고 고인의 존엄을 훼손할 수 있다고 경고했다.

데드봇(deadbot), 혹은 ‘그리프봇'(griefbot)이라고도 불리는 이 기술은 사망한 가족이나 지인과 나눈 대화를 기반으로 고인을 AI 챗봇 형태로 재현해 죽은 이와 대화를 나누는 것처럼 사용할 수 있는 서비스다.

주로 가족을 잃은 유족이 그리움을 달래기 위해 사용하거나 시한부 판정을 받은 환자들이 남겨질 가족을 위해 직접 이용하기도 한다.

케임브리지대 리버흄 미래 지능 연구 센터(LCFI) 연구팀은 논문에서 최근 이러한 서비스를 제공하는 회사가 점점 늘고 있지만 이에 대한 법적인 제재는 거의 없어 악용될 우려가 있다고 지적했다.

이들은 특히 비윤리적인 기업에서 이러한 데드봇 기술을 통해 광고 메시지를 보내는 등 이를 부적절하게 수익화한다면 이는 유족에게 큰 심리적 피해를 가져올 수 있다고 우려했다.

데드봇이 유족이 원치 않는 스팸이나 서비스 약관 업데이트 등의 메시지를 보낸다면 유족은 마치 사망한 이에게 ‘디지털 스토킹’을 당하는 것과 같은 심리적 타격을 입을 수 있다는 것이다.

서비스 이용자가 미성년자일 경우에는 그 위험이 더 커질 수 있다.

세상을 떠나기 전 부모는 남겨진 아이가 자신의 죽음을 더 잘 극복할 수 있도록 돕기 위해 데드봇을 사용하지만 이는 오히려 정상적인 애도의 과정을 방해해 아이들에게 심각한 심리적 피해를 초래할 수 있다는 것이다.

연구팀은 “어떤 서비스도 아이들이 ‘데드봇’과 소통하는 것이 이들에게 더 이롭거나 취약한 상태인 이들에게 해가 되지 않는다는 것을 증명하지 못한다”고 지적했다.

이어 특정 기간이 지나면 데드봇 서비스를 더 이상 이용할 수 없게 하는 ‘은퇴’ 혹은 ‘디지털 장례’ 절차를 도입하거나, 서비스 이용 대상을 성인으로만 제한하는 등의 적절한 규제가 필요하다고 강조했다.

이들은 데드봇이 광고 등 부적절한 방식으로 사용되는 것을 막고, 서비스 제공 회사가 개인 정보 활용 방식과 한계에 대해 투명하게 밝히게 하는 등의 제도를 도입할 수 있다고 제안했다.

논문의 공동 저자인 카타지나 노바치크-바신스카 박사는 “이 AI 영역은 현재 윤리적 지뢰밭”이라면서 “망자의 존엄을 최우선에 두고 이 기술이 금전적 동기에 의해 악용되지 않도록 해야 한다”고 말했다.

<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>

spot_img
coloradotimes
coloradotimeshttps://coloradotimesnews.com/
밝고 행복한 미래를 보는 눈, 소중한 당신과 함께 만듭니다.

뉴스레터 구독하기

이메일을 남겨주세요. 중요한 최신 소식을 보내드립니다.

콜로라도 타임즈 신문보기spot_img
spot_img
spot_img
spot_img
spot_img
spot_img
spot_img
spot_img
spot_img
spot_img

Most Popular