황해전기 부산내외남부영업소

코오롱하늘채 AI 통한 성착취물 범람하는데···개발자들은 여전히 문제의식 옅었다

페이지 정보

작성자 작성자 : 행복이이 연락처 연락처 : E-mail E-mail : djnfgsdj344hg@naver.com 댓글 0건 조회 0회 작성일 26-03-05 15:33

본문

코오롱하늘채 생성형 인공지능(AI) 확산으로 딥페이크 성범죄 등 새로운 유형의 젠더폭력이 늘고 있지만, AI 개발자들 사이에서는 이런 위험에 대한 문제의식이 부족하다는 연구 결과가 나왔다. 한국 사회의 여성혐오와 젠더 갈등 맥락을 반영한 한국어 기반 데이터셋을 구축해 AI 개발에 활용해야 한다는 제언이 나온다.
4일 한국여성정책연구원이 발표한 ‘디지털 기반 젠더폭력 방지를 위한 AI 벤치마크 데이터셋 필요성 연구’를 보면, 연구진은 AI 개발자들 사이에서 젠더폭력이나 차별 문제가 AI 개발 과정에서 발생할 수 있다는 인식이 상당히 희박하다고 분석했다. 연구진은 IT 분야 대기업과 일반 대기업, 스타트업에서 대규모 언어모델(LLM) 개발이나 AI 관련 실무를 담당하는 전문가 8명에게 AI 개발 문화에서 윤리·안전정책이 어떤 위치에 있는지 등을 물었다.
대기업에서 5년 이상 근무한 30대 AI 업무 담당자는 “(AI가) 어떻게 나쁘게 이용될지에 대해 자연스럽게 생각이 안 들어서 (문제) 인식을 잘 못 했다”며 “AI를 통해서 성희롱이나 성적 괴롭힘에 어떤 문제가 있을 수 있는 전혀 떠오르지 않는다”고 말했다.
공공 프로젝트에서도 AI 플랫폼의 윤리·안전 가이드라인 마련은 뒷순위로 밀리는 것으로 나타났다. 정부 기관의 AI 플랫폼 구축 프로젝트를 수행 중인 50대 중소기업 소프트웨어 개발 담당자는 “한국지능정보사회진흥원(NIA) 등에서 자료를 뒤지고 있지만 (동료들이) 그렇게 관심이 없으시다”며 “(윤리 가이드라인은) 신경을 아직 못 쓰고 있다”고 했다. 또 다른 대기업 기술기획 담당자는 “(안전 문제를) 완전 하위(low) 레벨에서 개발하는 분들은 너무 싫어한다”며 “정말 거시적인 관점에선 데이터에 신경 쓸 때가 아니라 완성도를 높이는 게 중요한 거니까”라고 말했다.
개발자들은 민간보다 공공 부문이 젠더폭력 방지를 위한 안전 체계를 구축해야 한다고 입을 모았다. 대기업 AI 관련 업무 담당자는 “(젠더폭력을 명시하는 안전정책 강화가) 기업에선 어려울 것 같다. 크게 팀을 꾸리기가 너무하다고 생각할 것 같다”며 “안전 관련 내용이 외국에는 많이 있어서 지금 다뤄지는 것들에 대해 한국어 (데이터)세트로 나오면 많이들 사용할 것 같다”고 했다.
연구진은 국내외 AI 벤치마크 데이터셋 구축 현황을 비교한 결과, 한국 사회의 젠더폭력을 방지하기 위한 고유 데이터셋이 부족하다고 지적했다. 데이터셋(data set)은 인공지능이 학습하거나 성능을 평가할 때 사용하는 데이터 모음이다. 벤치마크 데이터셋은 여러 AI 모델의 성능을 비교하기 위해 만든 기준 데이터다. 벤치마크 데이터셋에 젠더폭력을 정의하고 방지하려는 관점이 담겨야 AI 모델의 사회적 안전성을 확보할 수 있다. 그러나 현재 벤치마크 연구는 영어권에서 주로 이뤄져 한국어 데이터셋은 지역·연령 등 일반적인 사회 편향을 판별하는 수준에 머물러 있다고 연구진은 설명했다.
연구진은 “한국 사회의 특수한 젠더 갈등 양상, 온라인 커뮤니티 담론, 언어적 뉘앙스를 반영한 데이터셋에 관한 논의는 거의 이뤄지지 않는 상황”이라며 “공공 부문이 안전하고 윤리적인 데이터셋 구축을 주도하고 산·학·연·정 협력 체계를 통해 AI 개발·검증 과정에서 의무적으로 활용하도록 정책적으로 지원할 필요가 있다”고 강조했다.
이슬람 시아파 부친 따라 신학자 길초대 최고지도자 사망 뒤 권력 승계군사력 앞세워 반대파·소수자 탄압
미국과 이스라엘의 지난달 28일(현지시간) 공습으로 사망한 이란 최고지도자 아야톨라 알리 하메네이는 신정체제 이란에서 40년 가까이 절대 권력자로 군림해왔다. 대외적으로는 반미 정책, 내부로는 군사력을 동원한 철권통치로 오늘날 반서방 동맹 ‘저항의 축’의 핵심인 이란을 형성하는 데 결정적 영향을 미쳤다.
하메네이는 이란이슬람공화국 초대 최고지도자인 아야톨라 루홀라 호메이니가 1989년 사망한 이후 최고지도자 자리를 이어받아 이날까지 37년간 집권했다.
하메네이는 1939년 이란 북동부 도시 마슈하드에서 태어났다. 어린 시절부터 이슬람 시아파 중간급 성직자였던 부친을 따라 신학자의 길을 걸었다. 호메이니와 인연을 맺은 건 19세 때인 1958년부터 시아파 성지인 곰으로 이주해 신학을 배우고 정치 활동에 나서면서다. 1979년 이슬람혁명으로 왕정이 폐지되고 현 신정체제가 들어선 이후에는 승승장구했다.
하메네이의 국내 통치는 반대파 숙청과 엄격한 이슬람 율법에 따른 소수자 탄압으로 요약된다. 1999년 개혁파 신문 살람 폐간에 항의한 학생 시위, 2009년 강경파 마무드 아마디네자드의 대통령 당선에 반발하는 시위, 2022년 ‘히잡 시위’ 등 진압에 군사력을 동원했다. 그의 집권 기간 이란은 레바논 무장정파 헤즈볼라, 예멘 후티 반군, 팔레스타인 무장정파 하마스 등과 지역 군사 동맹을 강화해 중동 내 반서방 세력의 주축으로 자리했다.
그러나 2023년 10월 가자지구 전쟁 발발 이후 이스라엘이 이란의 대리세력을 궤멸하면서 하메네이의 영향력은 축소됐다. 지난해 12월 발생한 대규모 반정부시위를 유혈 진압한 것은 민심 이반을 초래했다. 시위대 사이에선 “하메네이에게 죽음을” 구호가 나왔다.
1일 서울 중구 동대문디자인플라자(DDP)에서 열린 ‘서울 AI 페스티벌 2026’에서 어린이들이 로봇개를 살펴보고 있다. 이번 전시회에는 휴머노이드존, 엉뚱과학존, AI펀스팟, AI라이프쇼룸 등 9개 공간으로 나눠 휴머노이드 17종과 AI 제품 23종이 전시됐다.
<연합뉴스>

이전글인터넷설치현금 미 중부사령부 “미군 전투기 3대, 아군 쿠웨이트 오인 사격에 추락” 26.03.05
다음글폰테크 서울탐정사무소 26.03.05

코오롱하늘채 AI 통한 성착취물 범람하는데···개발자들은 여전히 문제의식 옅었다 > 온라인문의

온라인문의

코오롱하늘채 AI 통한 성착취물 범람하는데···개발자들은 여전히 문제의식 옅었다

페이지 정보

본문

회원로그인