[디지털비즈온 이호선 기자] 유럽연합은 2018년에 채택된 EU AI 전략의 핵심 요소인 AI 법안 초안을 지난 2021년 4월 21일 발표했다.
EU는 인공 지능(AI) 기술에 대한 조직의 의존도가 높아짐에 따라 유럽 의회는 2023년 3월 말까지 인공지능법 초안을 표결할 예정이다.
AI가 일련의 어려운 운영, 윤리 및 규제 문제를 제기한다는 데는 의심의 여지가 없다. 지난해에는 OpenAI의 챗GPT가 생성한 인간과 거의 같은 텍스트에서 약물 발견 프로세스를 몇 년 단축할 수 있는 애플리케이션에 이르기까지 최근의 혁신은 AI의 엄청난 잠재력의 일부를 보여주었다.
그러나 AI가 인간의 삶과 문명을 어떻게 바꿀지 예측하는 것은 여전히 불가능하다. 이러한 불확실성은 기술의 변형 잠재력을 인식한 후에도 변형의 형태는 우리를 놀라게 하는 경향이 많이 나타났다.
지난 11월 말 OpenAI가 내놓은 ‘챗GPT’가 문학 작품, 프로그래밍, 논문·기사 작성 등 텍스트 기반 창작에 능통한 것으로 알려지면서, 챗GPT와 같은‘생성 인공지능 모델’들이 고도화되면 빅테크 기업들의 기존 사업을 위협할 수 있다는 분석이 이어지고 있다.
2022년 8월에는 미국 콜로라도 주에서 개최된 파인 아트 콘테스트에서 이미지 생성 AI프로그램 '미드저니(Midjourney)'가 그린 그림이 1위를 차지했다. 1위를 차지했던 우승자는 "이것이 물의를 자아내는 것은 알고 있었다"며 이미지 생성 AI에 의한 작품 제작에 미치는 영향에 대해 문제를 제기하고 있다고 SNS에 올려 논란이 일었다.
2023년 1월에는 예술가 3인방이 스태빌리티 AI(Stability AI)와 미드저니(Midjourney), AI 예술 생성기 스태빌리티과 미드저니의 제작자, 그리고 최근 자체 AI 예술 생성기인 드림업(DreamUp)을 만든 아티스트 포트폴리오 플랫폼 디비언트아트(DeviantArt)를 상대로 소송을 시작했다.
이미 AI에 대한 저작권 침해는 예견된 사항으로 판단되고 있다. 소셜 미디어는 처음에 민주주의를 강화할 혁신으로 선전되었지만, 허위 정보의 확산을 촉진함으로써 민주주의를 불안정하게 만드는 데 훨씬 더 많은 역할을 했다.
헨리 키신저 전 미국 국무장관에 따르면 정보가 지혜를 "압도"하게 되면서 AI 기술은 인간의 창의성과 비전을 약화시킬 수 있다. 일부에서는 AI가 인류를 멸종시킬 것이라고 우려했다.
◇유럽연합 AI 법(AIA) 초안 내용은
AI 법은 AI의 고위험 사용에 대한 몇 가지 요구 사항을 부과한다. 고위험 시스템은 허용되지만 데이터 거버넌스, 투명성 및 인적 감독과 관련된 의무를 준수해야 한다.
위원회는 고위험 시스템의 데이터베이스를 유지할 것이라 표현했다. 이 규정은 물리적 피해(AI 자동차 충돌 등), 눈에 잘 띄지 않는 피해(시스템화된 편견 등), 오용으로 인한 피해(딥페이크 등) 등으로부터 사람들을 보호한다는 원칙이다.
AIA 법안은 AI를 위험도에 따라 3단계로 분류하고 이에 따른 규제를 부과하는 내용을 기초로 한다.
첫 단계는 '매우 위험한 AI'다. 이 단계는 인권침해 우려가 매우 커서 사용을 금지해야 한다. 공공장소에서 전 국민의 행동을 실시간 감시하는 안면인식, 국민 행동을 점수화하는 소셜 스코어링 관련 AI 기술 등이 해당된다. 금지 규정을 어긴 경우 전 세계 매출액의 6%까지 과징금을 물린다.
두번째 단계는 '고위험 AI'다. 안전과 인권에 큰 영향을 주는 시스템에 적용되는 AI다. 범죄자 탐지 CCTV나 채용, 승진 등 인사관리 프로그램, 전력 등 잘못 작동되면 큰 위험이 발생할 수 있는 주요 인프라, 대출이나 보조금 결정 등에 적용되는 AI 기술이 해당된다. 사용은 허용되지만 적합성이나 편향성 평가 등 엄격한 기준을 따르도록 한다.
세번째는 '제한된 위험의 AI'다. 이용자에게 AI를 상대하고 있다는 사실을 알리는 등 투명성 확보가 권장된다.
유럽 평의회는 2022년 12월 6일에 이 법을 채택했으며 유럽 의회가 제안된 규정에 대한 합의에 도달하기 위해 자체 입장을 채택하면 유럽 의회와 협의를 한다.
AIA 법에 따른 제재는 심각할 수 있으며 가장 심각한 위반에 대해 최대 3천만 유로 또는 전 세계 연간 총 매출의 6%의 잠재적인 벌금이 부과될 수 있다.
더 넓은 맥락에서 AI 법은 전 세계 AI 거버넌스에 대한 접근 방식을 확실히 알려줄 AI 규제에 대한 벤치마크를 설정할 예정이다.