• 페이스북
  • 트위터
  • 유튜브

"생성 AI 기술은 훨씬 날카로운 '양날의 검'이다"

등록 2023.06.02 14:42:42수정 2023.06.02 14:48:07

  • 이메일 보내기
  • 프린터
  • PDF

김진형 KAIST 명예교수, 인공지능인문학 국제학술대회서

[부산=뉴시스] 김민지 기자 = 2일 오전 부산 해운대구 벡스코에서 열린 '제6회 인공지능인문학 국제학술대회'에서 김진형 KAIST 교수가 연설을 하고 있다. 2023.06.02. mingya@newsis.com

[부산=뉴시스] 김민지 기자 = 2일 오전 부산 해운대구 벡스코에서 열린 '제6회 인공지능인문학 국제학술대회'에서 김진형 KAIST 교수가 연설을 하고 있다. 2023.06.02. [email protected]


[부산=뉴시스]김민지 기자 = "생성 AI의 기술은 훨씬 날카로운 양날의 검과 같아 경계하면서 활용해야 한다."

김진형 KAIST(한국과학기술원) 명예교수는 2일 오전 부산 해운대구 벡스코에서 열린 '제6회 인공지능인문학 국제학술대회(ICAIH 2023)'에서 이렇게 말했다.

이번 ICAIH 2023은 부산콘텐츠마켓2023(Busan Content Market·BCM2023)의 일환으로 열려 인공지능(AI)과 디지털 젠더에 대한 연사들의 강연, 토론 등으로 구성됐다.

이날 행사에서 김 교수는 '생성 AI로 다시 보는 AI의 도약'을 주제로 기조연설에 나서 챗GPT(Chat GPT)와 같은 대형언어모델(LLM)의 작동 원리와 생성 AI에 대한 윤리적 고민 등을 이야기했다.

김 교수는 생성 AI에 대해 이야기하며 "기존 AI는 존재하는 것을 분석해 그 패턴을 탐색하고 분류, 예측하는 업무를 담당했지만 생성 AI는 '창작'을 하는 것이 업무"라 말했다.

그는 생성 AI의 예시로 LLM을 통한 문장 생성, 이미지 생성 모델을 통한 그림 창작, 음악 창작 사례, 딥 페이크(deep fake) 기술 등을 언급했다.

이어 "생성 AI는 기반 모델이 중요하다"며 "기반 모델의 능력은 데이터의 양과 질, 훈련 방법에 따라 결정되는데 이러한 기반 모델을 구축하기 위해 각국에서 경쟁하고 있다"고 말했다.

그는 GPT(Generative Pre-trained Transformer) 기술에 대해 "우리가 자유롭게 말하는 언어처럼 길이가 다양한 입력의 이해가 목적인 시스템"이라며 "최근에야 이 기술이 각광을 받게 됐지만 이전부터 꽤 오랜 시간 연구되어 온 기술"이라고 했다.

김 교수는 GPT 기술의 근본은 '학습'이라며 학습 순서를 ▲언어 학습 ▲대화 방법 학습 ▲사람이 좋아하는 대화법 학습 3가지로 설명했다.

그는 "GPT는 거대한 텍스트 데이터를 활용해 출현 빈도를 계산한다"며 "그러면서도 한 문장 안에 멀리 떨어져 있는 단어라도 그 관계를 파악하며 단어의 '중요도(Attention Matrix)'를 파악한다"고 말했다.

이어 "대화에 요구되는 사람의 능력은 언어 구사 능력과 문제해결 능력, 기억 능력, 도덕의식"이라며 "기존의 AI는 문제해결 능력과 도덕의식을 갖추기엔 한계가 있었지만 GPT는 이 기술까지 익히게 됐다"고 했다.

또 "챗GPT가 답을 만들어 내는 즉, 생각하는 과정이 인간과 거의 유사하다"며 "상식을 이용한 사고와 계산 능력을 보유하고 있다"고 이야기했다.

그러나 김 교수는 '생성형 AI의 약점과 한계'를 이야기하며 생성 AI에 대한 경계심을 나타냈다.

그는 "생성 AI의 가장 큰 약점은 거짓말"이라며 "아직 미완성된 기술이라 환각(hallucination) 현상이 있어서 같은 질문에 다른 대답을 하는 등 일관성이 부족하다"고 말했다.

이어 "생성 AI 기술의 가치는 충분히 확인되지만 약점은 극복해 나가야 할 것"이라며 "문장이 서술하는 답은 인간 세상과 문화, 오욕칠정을 이해하지 못한다"고 덧붙였다.

김 교수는 많은 학습 데이터를 요구하는 LLM에 대해 "저작권이 있는 데이터로 학습을 받은 LLM이 만들어 낸 저작물의 저작권은 누가 가져야 하느냐"며 물었다.

또 "생성 AI의 데이터 학습 과정에서 세상의 편견과 비윤리적인 것을 배울 수밖에 없다"며 생성 AI의 한계점을 제시했다.

그는 "대개의 신기술이 그렇지만 생성 AI의 기술은 훨씬 날카로운 양날의 검"이라며 "AI로 인한 소득 불균형의 문제, 사람은 배제되면서 AI가 모든 것을 결정하는 사회 등을 경계해야 한다"고 강조했다.


◎공감언론 뉴시스 [email protected]

많이 본 기사