"AI 기술 핵심 이슈는 안전·신뢰"…정부, 기술영향평가 결과 발간

과기정통부, 'AI와 함께 살아갈 세상, 불안과 희망' 책자 발간

휴머노이드·브레인·헬스케어 등 AI 분야 주요 이슈 정리

[서울=뉴시스] 과학기술정보통신부가 2024년 기술영향평가 결과를 담은 'AI와 함께 살아갈 세상, 불안과 희망' 책자를 발간했다. (사진=과기정통부 제공) *재판매 및 DB 금지

[서울=뉴시스] 심지혜 기자 = 인공지능(AI) 기술이 일상으로 확산되는 가운데 안전성과 신뢰성 확보 문제가 핵심 과제로 제시됐다.

과학기술정보통신부는 2024년 기술영향평가 결과를 담은 'AI와 함께 살아갈 세상, 불안과 희망' 책자를 발간했다고 23일 밝혔다.

책자는 AI 기술의 발전 속에서 핵심 이슈로 떠오른 ‘안전성과 신뢰성’ 문제를 중심으로, 휴머노이드·브레인(BCI)·헬스케어 AI 분야의 주요 이슈와 사회적 영향, 대응 과제들을 정리했다.

‘안전·신뢰 AI’는 기술의 정확성, 일관성, 예측 가능성 외에 위험요소에 대한 통제가능성, 책임성까지 포함하는 개념으로, 단순한 기술적 안전성을 넘어 준법적이고 윤리적이며 안전하고 책임성 있는 AI를 통칭한다.

휴머노이드, BCI, 헬스케어와 같이 인간 신체·의식과 밀접하게 연결된 고위험 분야에서의 AI 기술 확산은 기술에 대한 사회적 수용성과 더불어 안전성 검증 및 신뢰 확보가 중요한 과제로 대두되고 있다.

책자는 휴머노이드 AI 분야에서, 사회·산업적 기대감이 높아지는 휴머노이드 로봇의 학습 오류·오작동, 사람과 로봇 간 의사소통 오류, 센싱 기술의 개인정보 침해 등 휴머노이드의 여러 사회적·윤리적 문제를 짚었다.

브레인 AI 분야에서는 뇌 신호 디코딩과 양방향 뇌-컴퓨터 인터페이스 기술이 의료·재활 등에서 새로운 가능성을 열 것으로 기대되는 한편, 군사적 전용 가능성, 보안 취약성, 뇌 자극으로 인한 중독 위험 등 잠재적 부작용과 위험 요소에 대한 우려도 커지고 있어 이에 대해서도 지적했다.

헬스케어 AI 분야에서는 빅데이터 수집·활용, 의료 의사결정에서의 책임 소재, 연령·인종·소득에 따른 건강 형평성 문제, 건강 데이터의 상업적 이용, 개인정보 유출, 데이터 편향·의존 등의 문제를 다룬다.

지난해 기술영향평가 추진과정과 주요 결과에 대해서도 정리했다. 기술영향평가 당시 전문가와 시민이 함께 논의하여 ‘휴머노이드 AI’, ‘브레인 AI’, ‘헬스케어 AI’의 핵심 이슈를 발굴하고 그에 따른 핵심과제를 제안했다.

핵심이슈는 ▲개인정보 위험 ▲사고·오류 책임소재 ▲일자리·사회변화 등이며, 핵심과제는 ▲미래기술 안전성 기본법 ▲윤리안전 가이드라인 ▲민감 정보 기반 기술 거버넌스 ▲미래기술 안전성 R&D 등을 제시했다.

임요업 과기정통부 임요업 과학기술혁신조정관은 “AI 기술의 안전성과 신뢰성 확보는 기술 수용성과 사회 신뢰의 기반이며, 국민과 함께 기술의 미래를 설계하는 것이 핵심”이라며 “앞으로도 전문가와 시민이 함께 참여하는 기술영향평가를 지속적으로 추진할 것”이라고 말했다.


◎공감언론 뉴시스 [email protected]