[CIO KOREA] 美 AI 규제 논의 본격화··· IT 리더가 AI 법에 원하는 바는?

https://www.ciokorea.com/news/349577

美 AI 규제 논의 본격화··· IT 리더가 AI 법에 원하는 바는?

---

기존 미국 정부의 AI 규제 태도

- 소극적

- 기술 규제하는 주요 법안 통과 x

- 주요 AI 기업 15곳이 자발적으로 AI를 책임 있게 개발 및 사용하겠다 공동선언 한것이 전부

 

=> 해리스폴에서 조사한 결과 미국 decision-makers는 AI 규제가 필요하다고 생각함.

https://www.collibra.com/us/en/company/newsroom/press-releases/the-harris-poll-reveals-lack-of-trust-in-us-government-approach-to-ai-regulation

New Survey from Collibra by The Harris Poll Reveals Lack of Trust in U.S. Government Approach to AI Regulation | Collibra

https://www.datanami.com/2024/08/08/collibra-survey-us-tech-executives-dont-trust-u-s-government-approach-to-ai-regulation/

Collibra Survey: US Tech Executives Don't Trust U.S. Government Approach to AI Regulation

 

 

여러 미국 주는 AI 관련 법안 통과시켰지만 캘리포리아 상원 법안 1047에 대해서는 오픈AI가 반대 의견을 표명함.

콜리브라의 CEO인 펠릭스 반 드 마엘레는 AI의 저작권법 개정과 개인 데이터 사용에 대한 보상 요구는 당연하다 설명함.

 

 

유럽 따라잡기

반 드 마엘레, 2023년 7월 미국 상원에서 발의된 법안 주목

https://www.commerce.senate.gov/2024/7/cantwell-blackburn-heinrich-introduce-legislation-to-combat-ai-deepfakes-put-journalists-artists-songwriters-back-in-control-of-their-content

Cantwell, Blackburn, Heinrich Introduce Legislation to Increase Transparency, Combat AI Deepfakes & Put Journalists, Artists & S

법안 내용

- 미국 상원의원들이 AI가 생성한 딥페이크로부터 콘텐츠 제작자들을 보호하기 위해 COPIED 법안을 발의

- 이 법안은 AI가 만든 콘텐츠에 출처 정보를 포함하고 워터마크를 삽입하도록 요구하여 투명성을 강화

- 예술가, 기자, 음악가들이 AI가 그들의 작품을 사용하는 방식을 제어할 수 있도록 권한을 부여하고, 이를 위반한 경우 법적 대응을 할 수 있는 권리를 제공

 

 

미국 외

https://www.cio.com/article/2096040/what-it-leaders-need-to-know-about-the-eu-ai-act.html

What IT leaders need to know about the EU AI Act

EU AI 법안 요약

1. 목적: EU AI 법안은 인공지능(AI) 기술의 개발 및 사용을 규제하여 AI 시스템이 안전하고 투명하며 기본 권리를 준수하도록 하는 것
2. 위험 기반 접근: 이 법안은 AI 시스템을 네 가지 위험 수준으로 분류
   • 허용 불가 위험: 안전 또는 권리에 위협이 되는 AI 시스템(예: 사회적 점수화 시스템)은 금지
   • 고위험: 의료, 법 집행 등 민감한 분야의 AI는 엄격한 규제를 준수해야 하며, 투명성과 인간의 감독이 필수
   • 제한된 위험: 챗봇과 같은 투명성 요구가 있지만 규제가 적은 AI 시스템
   • 최소 위험: 비디오 게임에서 사용하는 AI처럼 낮은 영향을 미치는 시스템은 거의 규제가 없음
3. 준수 요건: 고위험 시스템의 경우, 위험 관리, 데이터 거버넌스, 투명성, 보안, 정확성을 포함한 규제를 준수해야 합니다. 기업은 세부 기록을 유지하고 감사에 대비해야 함
4. 벌금: 규정을 위반하면 상당한 벌금이 부과될 수 있으며, GDPR과 유사하게 최대 전 세계 매출의 6%에 달하는 벌금이 적용될 수 있음
5. 기업에 미치는 영향: EU 내에서 운영하는 글로벌 기업은 특히 AI를 사용하거나 개발하는 기업이 영향을 받음. IT 리더들은 AI 개발 프로세스와 위험 관리 전략을 조정할 준비를 해야 함
6. 시행 일정: 이 법안은 2021년부터 논의되었으며, 2026년까지 완전히 시행될 예정, 기업은 미래의 벌금을 피하기 위해 지금부터 규제에 대비해야 함.

 

AI 금지의 문제

- 소넨블릭은 EU AI 법의 문제점으로 사람이나 취약한 집단에 대한 인지적 행동 조작을 하는 AI 유형을 금지한 것이라고 지적.

 

 

---

기사에는 서양의 사례만 있어 동양국가도 찾아보았다.

중국의 사례다

https://www.fasken.com/en/knowledge/2023/08/chinas-new-rules-for-generative-ai

China's New Rules For Generative AI: An Emerging Regulatory Framework

 

- 중국의 생성형 AI에 대한 새로운 규정은 2023년 8월 15일부터 시행

- AI 기술의 사용과 개발을 규제하여 국가 안보, 윤리, 공공 이익을 보호하려는 목적

- 이 규정은 AI 제공자에게 데이터 프라이버시, 콘텐츠 검열, 투명성 요구 사항을 부과하며, 합법적인 데이터 소스 사용과 책임 있는 AI 모델 개발을 요구