[4차산업 인공지능⑯] “인공지능 발전”… 사회•윤리적 문제

인공지능 기기에게 자율적 의사 결정 기능을 부여 한다면
기기에 해킹하여 주요한 개인 정보를 유출
기술이 가져올 부정적 영향은 최소화하고 긍정적 영향은 최대화

김문선 기자 승인 2021.10.15 09:06 의견 0
사진 : pixabay

인공지능의 발전으로 삶의 질이나 생산성이 향상되기도 하지만, 기술이 점차 고도화되고 자동화 수준이 높아지게 되면 통제 불능의 상태가 되거나 특정 목적을 가진 집단에 악용될 경우 심각한 사회·윤리적 문제가 발생할 수 있다. 우선 인공지능 기기에게 자율적 의사 결정 기능을 부여하게 되면, 설계 시 미처 고려하지 못했던 조건이나 상황에 직면했을 때, 통제가 불가능한 상황이나 예기치 못한 문제를 만들어낼 수 있으며, 이러한 일로 인해 인명피해나 재산 손실이 발생했을 경우, 책임을 누구에게도 물을 수 없게 되는 상황이 발생할 수 있다.

예를 들어 자율주행 자동차 주행 중 사전에 프로그램 되지 않은 갑작스러운 상황이 발생하여 사상자가 발생할 수 있고, 인공지능 기술을 활용한 자동 투자 시스템이 잘못된 정보를 학습하게 되어 잘못된 판단으로 큰 경제적 손실을 야기할 수도 있다.

전쟁에서 사용될 목적으로 만들어진 자율살상무기시스템(LAWS: Lethal Autonomous Weapons Systems)이 프로그램 상의 오작동 등으로 인하여 무고한 시민들을 살상하였을 경우, 그 파급 효과는 더욱 커질 것으로 예상된다. 이에 대한 국제 사회의 관심도 점차 증대되고 있는데, 저명한 IT 전문가들이 LAWS의 개발 규제를 위한 공동 서한을 발표하고, 영국에서는 반대 캠페인을 개최하는 등 벌써부터 세계 곳곳에서 움직임이 일어나고 있다.

한편, 인공지능 기술이 통제 가능한 상황에서도 이를 오용하는 사람들로 인해 심각한 사회적 문제가 발생할 수 있다. 정치·종교 집단이나 특히 극단적 세력에 의해 잘못 사용될 경우, 인공지능 드론을 이용한 폭탄테러 같은 무차별 살상 등 대형 테러 행위가 일어날 수 있으며 개인 정보 학습을 통해 성능을 자체적으로 향상시키도록 설계되어 있는 인공지능 기기에 해킹하여 주요한 개인 정보를 유출하는 문제도 발생 가능하다.

특히 후자와 같은 개인정보 유출 문제는 인공지능 개체가 입수한 데이터를 클라우드 등을 통해 인공지능 시스템 전체가 공유할 경우 여기서 공유되는 개인 정보들이 엄격히 관리되지 않으면 정보 유출 문제나 사생활 침해 등의 문제가 심각해 질 수 있다. 더욱이 방대한 정보가 집적·공유되면서 해킹에 의한 2차 침해가 더욱 치명적인 상황으로 나타날 가능성이 존재한다.

예를 들어 자율주행자 탑승자의 안전 문제나 거주 공간에 대한 물리적 침해 위험 등을 들 수 있다. 한편 이러한 인공지능 기기가 다양한 기기와 결합하여 개인 일상 생활의 분석 및 예측이 가능해지게 되고 이러한 정보가 공적 주체나 사적 주체에 의해 남용될 경우에는 감시 및 통제 등의 문제가 발생할 수 있게 되며 이는 다양성과 자유권 등의 인간의 기본권에게까지도 악영향을 끼칠 수 있다.

인공지능의 오작동, 악용 및 남용 등으로 인한 문제를 해결하기 위해서는 우선 인공지능의 권한 설정과 결과에 대한 책임 소재 문제 등을 명확히 할 필요가 있다. 인공지능에게 인간 사회의 또다른 구성원으로서의 권한을 부여하거나 심지어는 자율살상무기시스템이나 인공지능 경찰 로봇과 같이 인간의 기본권을 직접 침해할 수 있는 권한까지도 부여하게 된다면 사회에 혼란을 가져올 수 있다.

기기의 오작동으로 인한 인명피해 발생 시에는 책임 소재 또한 불분명해질 것이다. 사실 기본적으로는 인간의 개입 없이 인공지능이 윤리적 판단을 하는 주체가 되어서는 안될 것이며, 이러한 기준 하에서 인공지능으로 인한 피해 발생시 그것이 가능하도록 판단한 인간 주체가 책임을 져야 할 것이다.

인공지능 기술의 악용 및 오용을 방지하기 위해서는 엄격한 법적 장치나 이를 지키지 않았을 때의 처벌 등에 대한 사회적 논의와 합의, 법률 및 제도 연구 등이 마련되어야 할 것이다. 오용 및 오작동을 자동으로 탐지하고 대처하는 기술을 선제적으로 마련할 필요도 있으며, 안정적이고 신뢰성 있는 인공지능 기기가 개발되도록 노력해야 할 것이다.

인공지능 기술의 활용 범위를 조절하여 개인 프라이버시를 보호하고 공공 통제를 방지하는 기술을 인공지능에 기본적으로 장착하도록 하거나, 미국의 사베인스 옥슬리(SarbanesOxley) 법과 같이 회사경영의 책임과 의무 등을 부여하기 위해 제도적 장치가 마련되어 인공지능 기기의 사용자들을 권익을 보호할 필요가 있을 것이다.

결론적으로 기술이 가져올 부정적 영향은 최소화하고 긍정적 영향은 최대화하며 국제적으로도 기술 경쟁력을 갖추기 위해서는 국가적 차원에서 적절한 제도 정비와 기술 육성 방안이 시급히 마련되어야 할 것이다.

저작권자 ⓒ 디지털비즈온, 무단 전재 및 재배포 금지