무역통상정보

미완성 심사 AI-어디까지 의존하는가, 망설이는 사용자

2018년 가을, 개인용 금융 서비스의 J스코어의 회의실에서 경영진이 의논을 계속했다.

‘남녀차별이라고 오해받기 쉽다’

‘하지만 데이터가 올바르다’

J스코어는 미즈호은행과 소프트뱅크가 공동출자한다. 학력이나 취미, 성격 등으로부터 인공지능(AI)가 1000점 만점의 스코어를 내어 대출조건을 정하는 서비스를 17년 9월부터 시작했다. 약 1년만에 ‘연수입이나 직업 등 다른 조건이 같아도 성별을 남성에서 여성으로 하는 것만으로 스코어가 내려 간다’라고 지적을 받았다.

스코어에 남녀차별

오오쿠보 히데이코 최고 정보 책임자는 고민 끝에 성별의 배경을 약화시키는 수정을 결단했다. 분석의 정밀도가 내려갈 위험이 있지만 ‘인권을 배려하고 있다고 이해되는 것이 최우선이다’. 스코어 금융은 일본에 등장한지 얼마 안되었다. 이용자의 신용을 잃으면 사업 자체가 무산이 된다고 판단했다.

스코어링을 지원하는 AI는 방대한 데이터를 분석할 수 있다. 하지만 그 예측에 전부를 맡길만큼 기술은 성숙화 되지 않았다.

‘맡기는 것은 아직 이르다’. JT는 18년 인턴의 전형에서 ‘AI 면접’을 시행했지만, 신졸채용에 도입하는 것은 보류했다. 면접관이 놓치는 인재를 채용하는 것을 기대하고 있었는데, 실제의 면접과의 결과가 너무 달랐다. 스마트폰에서는 끝없이 흘러나오는 인공음성의 질문에 학생은 지치고, 담당자는 ‘오히려 역효과’라고 느꼈다.

여신이나 인사 등 담당자의 경험이나 감이 주로 행해졌던 분야라서 스코어는 판단기준을 바꿔보려고 하는 시험을 진행했다. 하지만 어디까지 기댈 수 있는 것일까. 좀처럼 정답이 보이지 않는다.

사원의 반발 위구

종업원의 메일 문면을 AI가 분석하고 부정의 징후나 이직할 가능성을 측정하는 시스템의 도입도 넓어지고 있다. 어떤 대기업 제약회사는 연구 데이터의 유출방지책의 카드로서 검토했지만 ‘감시된다고 알고있는 사원이 반발하기 쉽다’라고 하는 반대의견이 나와 단념했다. 데이터 분석으로 업무의 효율을 올려도, 종업원의 의욕을 꺾으면 본말전도다.

사내의 인사이동에 AI분석을 도입한 리쿠르토캐리어는 ‘너무 많이 맡길 수 없다’는 의견을 반영했다.

독자의 AI가 성격분석 등을 통해 종업원의 능력 스코어를 계산. ‘특색이 발휘될 수 있는 것은 영업직’이라는 적성도 예측한다. 하지만 적성예측은 본인에게 전달하지 않고 참고에 그친다. 인사부의 카토 매니저는 ‘중요한 것 만큼 사람을 정하지 않으면 납득되지 않는다’라고 말한다. 받아들이는 것은 사람마다 다르다. 18년 가을에 동사에 전직한 여성은 희망과는 다른 신규고객의 영업부서에 배치되었다. ‘그래도 갑작스런 영업은 의외로 성격에 맞았다’. 한편, 기획계의 직장에 이전된 30대의 남성은 ‘중요한 성격이 잘 맞으면 판단된 것 같지만 납득되지 않는다’라고 말한다. AI 이용에서는 사람이 판단과 결정을 내리는 필요가 있다. 3월에 정부가 정리한 AI 회사원칙은 ‘인간중심’의 생각을 표현한다. 데이터로부터 이끌어내진 스코어를 이용하는 측면이 늘어나는 만큼, 사람의 책임은 오히려 무거워진다. 언제, 어디서, 어떻게 사용할지의 판단이 어려워진다.

출처 : https://valuesearch.nikkei.co.jp/popup?keyBody=NIRKDB20190426NKM0100\NKM\a0294089transitionId=114998ed6f572001d88429cac8fb58d488465tldTransitionId=corpIndustyKbn=6pathname=/searchlist/news