AI 성별 편향 우려 커진다… 국민 64%, “한국형 검증 기준 마련해야”
공공 AI 도입도 ‘속도보다 신뢰’ 요구… 국민 10명 중 7명 “충분한 검증이 우선”

AI 활용이 행정과 산업 전반으로 빠르게 확대되는 가운데, 국민 다수가 기술 도입 자체보다 공정성과 신뢰를 확보할 수 있는 검증 체계 마련을 더 중요하게 인식하는 것으로 나타났다. 특히 성별에 따른 AI 판단 편향을 예방하기 위한 한국형 검증 기준의 필요성에 공감하는 여론이 뚜렷하게 확인됐다.

리서치 및 데이터 인텔리전스 기업 피앰아이(PMI)가 만 20세부터 59세까지 생성형 AI 사용 경험자 1000명을 대상으로 실시한 ‘AI 공정성과 성별 편향에 관한 인식 조사 2026’ 결과에 따르면, 응답자의 상당수는 공공기관의 AI 활용 확대에 앞서 객관적인 검증 절차를 강화해야 한다고 인식하는 것으로 조사됐다. 이번 조사는 지난 6월 24일부터 25일까지 온라인 설문 방식으로 진행됐다.

AI는 이미 채용 심사와 금융 심사, 복지 대상자 선정, 의료 지원 등 다양한 의사결정 과정에 활용되고 있다. 하지만 학습 데이터와 알고리즘 설계 과정에서 특정 성별에 불리한 결과를 반복적으로 산출하는 이른바 ‘AI 성별 편향’ 문제가 국내외에서 꾸준히 제기되고 있다.

해외에서는 AI 채용 시스템이 여성 지원자의 이력서를 상대적으로 낮게 평가한 사례가 알려지며 논란이 일었다. 국내에서도 대규모 언어모델(LLM)의 성능은 빠르게 발전하고 있지만 성별 편향이 완전히 해소되지 않았다는 연구 결과가 이어지고 있다. 전문가들은 개발 과정에서 특정 집단 중심의 데이터가 사용되거나 검증 절차가 충분하지 않을 경우 편향이 지속될 가능성이 있다고 분석한다.

이번 조사에서도 이러한 우려는 국민 인식에 그대로 반영됐다.

응답자의 68.1%는 공공기관이 AI를 도입할 때 시간이 다소 걸리더라도 충분한 검증을 거쳐야 한다고 답했다. 반면 편의성과 행정 효율성을 위해 신속한 도입이 우선이라는 응답은 20.7%에 머물렀다. 공공 AI 활용에서는 속도보다 신뢰 확보가 우선이라는 인식이 세 배 이상 높게 나타난 것이다.

성별과 연령에 따라서도 차이가 확인됐다. 여성의 검증 우선 응답은 72.6%로 남성 63.6%보다 높게 나타났으며, 연령이 높아질수록 신중한 접근을 선호하는 경향이 강했다. 특히 50대에서는 75.4%가 충분한 검증이 필요하다고 답해 20대 60.6%보다 높은 수준을 기록했다.

반면 AI를 업무에 자주 활용하는 이용자일수록 기술 도입에 보다 적극적인 태도를 보였다. AI를 매일 사용하는 헤비 유저의 경우 빠른 도입이 필요하다는 응답이 35.8%로 나타나 라이트 유저의 17.4%보다 두 배 이상 높았다. AI 활용 경험이 축적될수록 생산성과 효율성에 대한 기대 역시 함께 증가하는 경향이 확인된 셈이다.

조사에서는 해외 기준을 그대로 적용하기보다 국내 현실을 반영한 별도의 AI 성별 편향 검증 체계를 마련해야 한다는 의견도 우세했다.

응답자의 63.8%는 한국 사회의 문화와 언어, 노동시장 특성 등을 고려한 한국형 AI 성별 편향 점검 기준이 필요하다고 답했다. 이는 해외에서 개발된 평가 기준을 그대로 적용하기보다 한국어 표현 방식과 사회문화적 특성을 반영한 독자적인 평가 체계가 필요하다는 의미다.

성별에 따른 차이는 크지 않았다. 남성의 62.0%, 여성의 65.6%가 모두 한국형 기준 마련에 동의했으며, 연령별로는 50대의 찬성 비율이 72.8%로 가장 높았다. 반면 30대는 57.0%로 상대적으로 낮은 수준을 보였다.

정부가 AI 도입 이전에 우선적으로 점검해야 하는 분야에 대한 의견도 조사됐다.

남녀 모두 범죄 예방 및 치안과 의료 진단 분야를 가장 우선적으로 꼽았다. 범죄 예방 분야는 남성 50.0%, 여성 47.5%였으며 의료 진단은 남녀 모두 44.0%를 기록했다. 두 분야 모두 AI의 판단 오류가 국민의 생명과 안전에 직접적인 영향을 줄 수 있다는 점에서 높은 우선순위를 보인 것으로 풀이된다.

반면 세부 분야에서는 성별에 따른 차이도 확인됐다. 복지 대상자 선정은 여성 응답자가 46.6%로 남성 41.2%보다 높았으며, 채용 분야는 남성이 39.6%, 여성이 34.8%로 조사됐다. 이는 AI 활용 분야별로 국민이 느끼는 위험 요소가 서로 다를 수 있음을 보여주는 결과로 해석된다.

AI 공정성을 확보하기 위해 가장 필요한 장치로는 판단 근거를 설명하는 기능이 21.6%로 가장 높은 응답을 기록했다. 이어 사람이 최종적으로 결과를 검토하는 절차가 17.6%를 차지했다. AI의 의사결정 과정을 투명하게 공개하는 설명 가능성과 사람의 최종 검증을 결합한 이중 안전장치에 대한 요구가 동시에 확인된 것이다.

피앰아이 조민희 대표는 AI 관련 제도적 기반이 마련되는 시점에서 국민이 기대하는 것은 단순한 기술 확산이 아니라 사회적 신뢰를 확보할 수 있는 검증 체계라고 설명했다. 또한 분야별 우려가 서로 다른 만큼 획일적인 규제보다 영역별 특성을 반영한 정교한 정책 설계가 필요하다고 강조했다.

이번 조사 결과는 AI 기술 발전 속도에 맞춰 공정성과 책임성을 함께 확보해야 한다는 사회적 요구가 점차 커지고 있음을 보여준다. 특히 공공서비스 영역에서는 기술 혁신과 함께 국민 신뢰를 확보할 수 있는 설명 가능성, 사전 검증 체계, 한국형 편향 평가 기준 마련이 향후 정책의 핵심 과제로 떠오를 가능성이 커지고 있다.

이번 조사에서는 국민 다수가 공공 AI 도입 시 신속한 확산보다 충분한 검증을 우선해야 한다고 인식하는 것으로 나타났다. 또한 AI 성별 편향을 줄이기 위해 한국 사회 특성을 반영한 독자적인 검증 기준과 설명 가능한 AI 시스템 구축이 필요하다는 공감대가 형성됐다.

AI는 사회 전반의 의사결정을 지원하는 핵심 기술로 자리 잡고 있다. 그러나 기술의 활용 범위가 확대될수록 공정성과 투명성에 대한 사회적 요구 역시 더욱 커질 수밖에 없다. AI 정책 역시 기술 경쟁력뿐 아니라 국민이 신뢰할 수 있는 검증 체계를 함께 구축하는 방향으로 발전할 필요가 있다.

피앰아이 소개

피앰아이는 2012년 창립 이후 데이터 기반 의사결정을 지원해 온 리서치 및 데이터 인텔리전스 기업이다. 온라인·오프라인 리서치와 AI 기반 데이터 분석 역량을 바탕으로 소비자, 시장, 사회 변화에 대한 깊이 있는 인사이트를 제공하며 더 나은 의사결정을 돕고 있다. (사진제공)