황해전기 부산내외남부영업소

승소사례 AI와 감정 교류, 길어지면 ‘독’…전문가 “정신 건강 악화·고립 심화 불러”

페이지 정보

작성자 작성자 : 행복이이 연락처 연락처 : E-mail E-mail : djnfgsdj344hg@naver.com 댓글 0건 조회 0회 작성일 26-02-28 11:58

본문

승소사례 인공지능(AI) 챗봇과의 무분별한 감정 교류가 정신 건강 악화나 고립의 심화로 이어질 수 있다는 전문가들의 경고가 나왔다.
국제인공지능윤리협회가 26일 서울 종로구 NC문화재단에서 ‘감정 교류 AI의 올바른 개발과 활용’을 주제로 연 ‘모두의 인공지능 윤리 컨퍼런스’에서다.
챗GPT와 같은 생성형 AI가 일상 깊숙이 들어오면서 AI와 감정을 교류하는 이용자가 빠르게 늘고 있다. 오픈AI와 MIT 미디어랩이 챗GPT와 사용자의 실제 대화 400만건 이상을 분석한 결과 사용 시간 상위 10% 이용자 대화의 절반 이상에서 정서적 신호가 확인됐다. 챗봇과 대화한 이후 스스로 목숨을 끊거나 각종 사건·사고에 휘말리는 사례가 잇따르면서 이들 기업의 책임을 묻는 목소리도 커지고 있다.
전문가들은 AI와의 감정 교류가 당장은 도움이 될 수 있지만 장기적으로는 위험성이 크다고 지적했다. 비판·갈등을 기피하고, 공감을 연출하며 책임은 묻지 않는 AI의 특성 때문이다.
박형빈 서울교대 윤리교육과 교수는 “단기적으로는 외로움 완화나 스트레스 해소 같은 긍정적 측면이 있지만, 장기적으로는 정서적 의존이 심해지면서 현실 관계를 기피하고 공감 능력과 도덕적 인내가 저하될 수 있다”며 “고통과 갈등으로부터 도피하게 되면 영원한 유아 상태에 놓일 수 있다”고 지적했다.
차유진 카이스트(KAIST) 의과학연구센터 연구교수는 인간이 AI 챗봇을 사회적 존재로 인식하는 것이 자연스러운 일이라고 봤다. 오랜 시간 탄 자동차에조차 가족 같은 감정을 느끼듯 AI를 과대평가하고 감정적 효과를 형성하는 게 인간의 기본 심리라는 것이다.
하지만 AI의 안전한 사용을 위해서는 적극적 개입과 기준이 필요하다고 강조했다. 차 연구교수는 “인간관계 대체, 감정 의존에 이른다면 위험한 사용이 될 수 있다”며 “개발자는 AI가 정서적 의존을 유도하는 문장이나 과도한 공감을 연출하지 않도록 설계하고, 사용자는 스스로 ‘책임 있는 질문자’라는 인식을 해야 한다”고 말했다. 챗봇이 ‘저는 감정을 느끼지 않는다’고 고지하거나 인간과 독점적 관계를 형성하는 문장을 생성하지 않게 하는 등 구체적인 방법도 제시했다.
AI 에이전트의 등장이 감정 교류 AI를 한층 위험하게 만들 수 있다는 우려도 제기됐다. AI 에이전트는 이용자를 대신해 목표를 추구하고 과제를 완료하는 시스템으로, 챗봇에 이은 글로벌 빅테크의 다음 전장으로 꼽힌다.
박미애 경북대 AI혁신융합대학사업단 교수는 “AI가 외부 애플리케이션과 연동해 자율적으로 행동하는 시대가 오면 감정 교류의 맥락에서 민간 정보가 유출될 위험이 더 커진다”며 이와 관련한 가이드라인 마련이 필요하다고 말했다.
협회는 이날 자체적으로 마련한 ‘감정 교류 AI 윤리 가이드라인’을 소개했다. 지난해 9월 발표된 가이드라인은 AI와 감정 교류 시 지켜야 할 원칙을 제시한다. ‘LAMP’(램프)로 요약되는 핵심 원칙에는 ‘L’(Limit·최소한의 데이터 수집)과 ‘A’(Announce·해당 서비스가 AI임을 명확히 고지), ‘M’(Monitor·지속적 점검 및 검증), ‘P’(Protect·개인정보와 취약 계층 보호)가 포함됐다.
■ 영화 ■ 인디펜던스 데이(OCN 무비즈 오후 10시) = 직경 550㎞에 달하는 거대한 비행물체가 지구에 들이닥친다. 비행물체는 불기둥을 내뿜으며 워싱턴의 백악관 등을 순식간에 잿더미로 만든다. 사람들은 황급히 몸을 피하지만 도망칠 곳은 어디에도 없다. 재앙 속에서 살아남은 지구의 생존자들은 힘을 모아 비행물체에 맞서 싸울 방법을 찾는다. 하지만 외계인들의 지구 파괴는 더욱 맹렬해진다.
■ 예능 ■ 호텔 도깨비(MBC 에브리원 오후 8시30분) = 제주의 호텔리어로 변신한 스타들이 ‘호텔 도깨비’를 찾은 외국인 손님들을 위해 체험 활동을 준비한다. 우선 손님들은 옥돔, 성게 등으로 요리한 점심 한 상을 맛보며 제주의 별미를 즐긴다. 이후 쇠소깍으로 이동해 카약을 체험한다. 야외 활동을 마치고 돌아온 호텔에선 김장에 도전한다. 저녁에는 직접 담근 김치와 수육을 맛보며 하루를 마무리한다.

이전글인스타 팔로워 “제값 시공해야 산재 줄어든다” 26.02.28
다음글수원학교폭력변호사 중국 상무부 “미국, 1단계 무역합의 빌미로 문제 키워선 안 돼” 26.02.28

승소사례 AI와 감정 교류, 길어지면 ‘독’…전문가 “정신 건강 악화·고립 심화 불러” > 온라인문의

온라인문의

승소사례 AI와 감정 교류, 길어지면 ‘독’…전문가 “정신 건강 악화·고립 심화 불러”

페이지 정보

본문

회원로그인