AI, 인간을 위한 기술과 윤리를 탑재하다

IAAE(국제인공지능&윤리협회) 전창배 이사장

생성형 AI, 챗GPT가 등장하며 인공지능의 윤리에 대한 관심 또한 뜨겁다. 인간이 입력한 데이터를 기반으로 학습한 인공지능에게 편향성과 오류를 지적하는 것은 인간 또한 불완전한 존재이기 때문이다. 기술과 윤리가 조화롭게 장착된 인공지능과의 공존, 그 미래를 위해 국제인공지능&윤리협회(IAAE) 전창배 이사장의 지혜를 듣는다.

IAAE(국제인공지능&윤리협회)에 대해 소개해주세요.

인공지능 기술과 인공지능 윤리를 조화롭게 발전시켜 글로벌 인공지능 기반으로 나아가는 걸 목표로 설립된 비영리 기관입니다. 협회의 주요 사업은 첫째가 인공지능 윤리의 발전과 진흥, 둘째가 인공지능 기술과 윤리에 대한 교육, 셋째가 인공지능 기술과 윤리에 대한 정책 및 거버넌스 활동입니다.

인공지능 윤리에 대해 관심을 갖게 된 계기를 말씀해주세요.

저는 대학에서 윤리교육을 전공했습니다. IT 관련 사업을 하던 중 언론에 4차 산업혁명에 대한 칼럼을 연재하게 됐는데, 당시 칼럼 주제를 공부하다 인공지능 윤리에 대해 알게 되었고, 해외에서는 이미 인공지능 기술 이면의 부작용과 위험성, 윤리에 대한 연구들이 진전되어 있다는 것을 알게 되었습니다. 그 연구들에 공감하면서 우리에게도 인공지능 윤리에 대한 목소리를 낼 수 있는 단체가 필요하다고 생각했습니다. 제 뜻에 공감해주시는 분들과 함께 협회를 만들게 되었죠. 이전까지 인공지능의 윤리에 관한 문제는 먼 미래의 얘기, 영화 속 얘기 정도로 생각했어요. 그러다 2021년 초에 ‘이루다’ 사건이 있었습니다. 인공지능 챗봇인 이루다가 성소수자나 장애인 등에 혐오 발언을 했고, 원인은 학습한 데이터의 잘못된 표현과 혐오 발언을 걸러내지 못했기 때문이었죠. 이 사건을 계기로 인공지능의 윤리가 매우 중요한 문제라는 것을 사회 전체가 공감하게 되었습니다. 이후 챗GPT가 등장하면서 또다시 인공지능이 화두가 되었습니다.

챗GPT에 대한 관심이 뜨겁습니다. 생성형AI를 어떻게 이해하고 공존에 대비해야 할까요?

챗GPT, 생성형 AI에 대한 관심이 높은 이유는, 일반인들이 AI의 서비스를 체감할 수 있을 정도로 가까운 존재가 등장했기 때문입니다. AI 스피커 등은 그 기능이 완벽하지 못했지만 챗GPT는 세계 최초로 대중화된 상업용 AI 서비스입니다. 일반인들도 누구나 자기 업무와 학습에 챗GPT를 이용할 수 있게 되었죠. 챗GPT, 생성형 AI의 장점은 명확합니다. 업무 등에 쓰이는 사람의 시간을 줄여주고, 여러 명이 할 일을 챗GPT가 한 번에 해결해 줄 수도 있습니다. 비용도 절감되고 시간도 절약되니 생산성이 높아지고 업무 효율성이 높아집니다. 굉장히 좋은 일이죠. 인공지능 기술의 목적이 무엇입니까? 인간을 편리하게 해주기 위한 기술이잖아요.

저는 생성형 AI의 등장이 제2의 인터넷 혁명이라고 생각합니다. 미래의 시점에서 바라보면 오늘날 챗GPT의 등장은 혁명적인 순간이 될 거예요. 하지만 잘 활용해야겠죠. 지금까지는 인공지능이 대중화되지 않았기 때문에 부작용도 크지 않았습니다.

개발자들이 부작용의 위험성을 경고해도 체감하지 못했죠. 하지만 모든 기술 발전의 이면에는 부작용과 역기능이 있습니다. 인공지능이 인간에게 미치는 영향이 커질수록 위험성과 역기능, 부작용도 다른 기술보다 클 수 있습니다. 인간에게 더 큰 피해를 끼칠 수 있기 때문에 인공지능 윤리가 그 어느 때보다 중요한 상황으로 옮겨가고 있습니다. 따라서 인간과 인공지능이 사이좋게 공존하기 위해 인공지능 윤리에 대해서도 더 큰 관심을 가져야 합니다. 안전하고 윤리적인, 신뢰할 수 있는 인공지능 기술의 발전을 지켜봐야 합니다.

인공지능 윤리전문가로서 챗GPT와 기타 AI의 문제점, 특히 기술의 발전속도에 비해 준비가 미흡한 인공지능 윤리에 대해 말씀해주세요.

인공지능의 편향성, 오류와 안전성, 악용과 오용, 개인정보 침해와 저작권 침해, 킬러 로봇 등에 주목해야 합니다. 첫 번째, 인공지능의 편향성 문제는 인공지능이 완벽하지 못해 발생하는 문제입니다. 인공지능 기술은 1950년대에 시작되어 본격적으로 개발된 지 오래되지 않았습니다. ‘알파고’의 등장으로 세상에 알려졌고, 이제 불과 7년 남짓의 시간이 흘렀을 뿐입니다. 인공지능도 인간처럼 잘못된 데이터를 학습하면 편향성을 가질 수 있습니다. 혐오할 수 있고 차별할 수 있습니다. 이런 불완전성, 오류가 있다는 사실을 인지해야 합니다. 인터넷 상에 있는, 인간이 입력한 데이터가 불완전하기 때문입니다. 사실, 편향성 문제는 해결이 쉽지 않습니다. 필터링이라는 기술로 해결하고 있지만, 이 부분에서는 인공지능뿐 아니라 데이터를 입력하는 인간 자체도 편향성의 문제를 해결하기 위한 교육이 필요합니다. 성숙한 윤리의식, 시민의식이 필요하죠.

두 번째, 오류 안정성 문제는 ‘인공지능 블랙박스’라고 불립니다. 블랙박스처럼 속을 알 수 없다는 얘기예요. 인공지능이 딥러닝 과정을 통해 학습하는데 어떤 과정, 어떤 알고리즘을 거쳐 학습하고 성장하는지 정확히 알 수가 없습니다. 그러니 오류가 발생해도 어디를 어떻게 고쳐야 할지 모르는 거죠. 인공지능은 딥러닝이라는 인공 신경망의 알고리즘을 사용하는데, 이게 인간의 두뇌활동을 모방한 겁니다. 우리의 뇌를 우리도 정확히 알 수 없는 것처럼, 인공지능도 마찬가지인 거죠. 인공지능의 오류에 대한 철저한 검증과 모니터링이 필요하고, 현재도 이 문제에 대한 연구가 진행되고 있습니다.

세 번째 악용 오용의 문제는 가장 심각한 결과를 낳을 수 있습니다. 선의로 개발한 인공지능을 악용하는 것은 사람이니까요. 딥페이크 성범죄, AI를 통한 악성코드, 가짜 뉴스 제작 등의 문제와 마찬가지로 법으로 규제할 수밖에 없습니다.

네 번째는 개인정보 유출 문제입니다. 인공지능 기술을 개발하기 위해서는 인공지능에게 개인정보를 제공해야 하고, 반면 보호하기도 해야 합니다. 양날의 검이에요. 인공지능은 학습용 데이터가 필요한데 가장 좋은 것은 개인의 정보이고, 그것을 학습한 인공지능의 성능이 좋아집니다. 예민한 문제이고 인공지능 시대가 대중화될수록 심각해질 수밖에 없습니다. 제도를 통해 시민과 개인정보 주체, 정보수집 기업의 논의가 필요한 시점이라고 생각합니다.

마지막 킬러 로봇은 범죄와 직결되는 중요한 문제입니다. 우크라이나와 러시아의 전쟁에서도 킬러 드론이 사용되어 관심을 모았는데, 이 기술이 더 발전하면 킬러 로봇이 되겠죠. 킬러 로봇에게 오류가 생기고 해킹당하거나 범죄집단에 악용된다면 상상할 수 없는 피해가 예상됩니다. 응당 킬러 로봇은 스스로 책임지지 못하는 주체이고, 개발하거나 이용한 사람에게 책임을 묻기에도 어려운 상황이 발생할 수 있습니다. 인간의 존엄이 훼손되고 생명이 경시될 수 있는 미래가 펼쳐질 수 있습니다.

그렇다면 위 문제들에 대한 윤리적 가이드라인은 어떻게 합의하고 만들 수 있을까요?

저는 세 가지 방법이 있다고 생각합니다. 첫째는 기술적인 해결, 둘째는 정책적인 해결, 셋째는 교육적인 해결 방법입니다. 기술적 해결은 말 그대로 편향성을 필터링하는 기술을 개발한다든가 오류를 해결하고 안전을 확보하는 기술을 개발하는 겁니다. 정책적인 해결은 AI 윤리 가이드라인이나 AI 법을 만들어 제도적으로 대응하는 겁니다. 교육적 해결은 가장 근본적인 해결방법이 될 거라고 생각합니다. 초중고를 비롯해 대학생, 개발자뿐 아니라 시민들이 인공지능 윤리교육을 받아 인공지능을 바르게 사용할 수 있어야 합니다.

2016년부터 전 세계 많은 국가, 기업, 학계에서 인공지능 윤리 가이드라인을 발표하고 있습니다. AI 윤리지침, 규정, 헌장 등을 만들고 있죠. 우리도 정부와 기업, 시민 등 사회 구성원들이 연구하고 합의한 윤리 가이드라인을 만들어 실천할 수 있어야 합니다.

인공지능 윤리와 관련해, 최근 우리나라 국회에서도 논의가 시작되었습니다. 어떤 제도적 장치와 규제 등이 필요하고, 그것을 마련하기 위해 현재 어떤 과정에 있나요?

AI 기본법이 국회 상임위원회를 통과한 것으로 알고 있습니다. 올해 안에 통과 가능성이 높습니다. 우리나라 최초의 AI 기본법이 될 거고, 유럽연합보다 먼저 제정되면 전 세계 최초의 AI 기본법이 될 겁니다. 제도화 부문에서 우리나라가 굉장히 앞서가고 있습니다. 법안의 내용도 살펴봤는데, 자율과 규제 사이에서 무척 균형있게 만들어졌습니다. 이 법안이 발효되면 AI 선도국으로 점프할 수 있는 좋은 계기가 될 거라고 생각합니다.

해외의 인공지능 윤리에 관란 논의, 제도화는 어느 정도 수준인가요?

크게 미국과 유럽연합을 살펴볼 수 있는데, 미국은 자율 규제를 지향합니다. 하지만 최근에는 미묘하게 정부 기조가 바뀌고 있습니다. 최근 내한한 오픈 AI의 샘 알트만도 선제적 규제가 필요하다는 입장에 무게를 싣고 있습니다. 반면, 유럽은 선제적 규제에 가깝습니다. 유럽에는 미국에 비해 빅테크 기업이 없으니, 이들을 견제하고 자국의 산업을 보호하기 위해 AI도 규제하겠다는 입장입니다. 그렇게 준비되고 있는 것이 유럽연합의 AI 법인데, 우리나라가 모니터링하고 벤치마킹해서 우리의 AI 기본법을 준비하고 있습니다.

최근 IAAE에서 생성형 AI 강사 양성과정 1기를 모집해 교육사업을 출발했습니다. 생성형 AI와 관련해 어떤 직업이 생기고 유망할지 전망해주세요.

현재는 프롬프트 엔지니어라는 직업이 유망하다고 알려져 있습니다. 생성형 AI 기술이 더 발전하면 AI 아티스트라는 직업이 생길 것 같습니다. AI 기술과 도구를 통해 예술작품을 만드는 사람이 등장하고, 그림, 노래, 글 등 그렇게 만들어진 예술작품을 거래하는 시장도 생겨날 겁니다. 여기에 더해 생성형 AI 도구를 다룰 수 있도록 교육하는 전문강사도 필요할 거고, AI 윤리와 관련해 AI 알고리즘을 검증하는 직업도 생겨날 거라고 기대합니다. 또한 생성형 AI로 만들어진 작품들의 저작권 침해 여부를 검증하는 직업군, AI 전문 변호사 등도 생겨날 것으로 전망합니다.