[CIO KOREA] 美 AI 규제 논의 본격화··· IT 리더가 AI 법에 원하는 바는?
https://www.ciokorea.com/news/349577
美 AI 규제 논의 본격화··· IT 리더가 AI 법에 원하는 바는?
많은 AI 관련 종사자는 새로운 저작권법 제정을 통해 AI로부터 창작자를 보호하고, 소비자들이 개인정보 데이터를 사용하는 AI 기업으로부터 보상
www.ciokorea.com
기존 미국 정부의 AI 규제 태도
- 소극적
- 기술 규제하는 주요 법안 통과 x
- 주요 AI 기업 15곳이 자발적으로 AI를 책임 있게 개발 및 사용하겠다 공동선언 한것이 전부
=> 해리스폴에서 조사한 결과 미국 decision-makers는 AI 규제가 필요하다고 생각함.
New Survey from Collibra by The Harris Poll Reveals Lack of Trust in U.S. Government Approach to AI Regulation | Collibra
Decision-Makers Seek Updates to Copyright Laws to Protect Against AI and for Big Tech to Compensate Creators to Use their Data
www.collibra.com
Collibra Survey: US Tech Executives Don't Trust U.S. Government Approach to AI Regulation
A survey by Collibra, a data intelligence company, has revealed that an overwhelming majority (84%) of tech executives support an overhaul of US copyright
www.datanami.com
여러 미국 주는 AI 관련 법안 통과시켰지만 캘리포리아 상원 법안 1047에 대해서는 오픈AI가 반대 의견을 표명함.
콜리브라의 CEO인 펠릭스 반 드 마엘레는 AI의 저작권법 개정과 개인 데이터 사용에 대한 보상 요구는 당연하다 설명함.
유럽 따라잡기
반 드 마엘레, 2023년 7월 미국 상원에서 발의된 법안 주목
Cantwell, Blackburn, Heinrich Introduce Legislation to Increase Transparency, Combat AI Deepfakes & Put Journalists, Artists & S
Today, U.S. Senators Maria Cantwell (D-Wash.), Chair of the Senate Commerce Committee, Marsha Blackburn (R-Tenn.), member of the Commerce Committee, and Martin Heinrich (D-N.M.), member of the Senate AI Working Group, introduced the Content Origin Protecti
www.commerce.senate.gov
법안 내용
- 미국 상원의원들이 AI가 생성한 딥페이크로부터 콘텐츠 제작자들을 보호하기 위해 COPIED 법안을 발의
- 이 법안은 AI가 만든 콘텐츠에 출처 정보를 포함하고 워터마크를 삽입하도록 요구하여 투명성을 강화
- 예술가, 기자, 음악가들이 AI가 그들의 작품을 사용하는 방식을 제어할 수 있도록 권한을 부여하고, 이를 위반한 경우 법적 대응을 할 수 있는 권리를 제공
미국 외
https://www.cio.com/article/2096040/what-it-leaders-need-to-know-about-the-eu-ai-act.html
What IT leaders need to know about the EU AI Act
As the legislation nears final passage, organizations both developing and deploying AI will have new transparency and risk assessment requirements, with the final rules not yet written.
www.cio.com
EU AI 법안 요약
- 목적: EU AI 법안은 인공지능(AI) 기술의 개발 및 사용을 규제하여 AI 시스템이 안전하고 투명하며 기본 권리를 준수하도록 하는 것
- 위험 기반 접근: 이 법안은 AI 시스템을 네 가지 위험 수준으로 분류
- 허용 불가 위험: 안전 또는 권리에 위협이 되는 AI 시스템(예: 사회적 점수화 시스템)은 금지
- 고위험: 의료, 법 집행 등 민감한 분야의 AI는 엄격한 규제를 준수해야 하며, 투명성과 인간의 감독이 필수
- 제한된 위험: 챗봇과 같은 투명성 요구가 있지만 규제가 적은 AI 시스템
- 최소 위험: 비디오 게임에서 사용하는 AI처럼 낮은 영향을 미치는 시스템은 거의 규제가 없음
- 준수 요건: 고위험 시스템의 경우, 위험 관리, 데이터 거버넌스, 투명성, 보안, 정확성을 포함한 규제를 준수해야 합니다. 기업은 세부 기록을 유지하고 감사에 대비해야 함
- 벌금: 규정을 위반하면 상당한 벌금이 부과될 수 있으며, GDPR과 유사하게 최대 전 세계 매출의 6%에 달하는 벌금이 적용될 수 있음
- 기업에 미치는 영향: EU 내에서 운영하는 글로벌 기업은 특히 AI를 사용하거나 개발하는 기업이 영향을 받음. IT 리더들은 AI 개발 프로세스와 위험 관리 전략을 조정할 준비를 해야 함
- 시행 일정: 이 법안은 2021년부터 논의되었으며, 2026년까지 완전히 시행될 예정, 기업은 미래의 벌금을 피하기 위해 지금부터 규제에 대비해야 함.
AI 금지의 문제
- 소넨블릭은 EU AI 법의 문제점으로 사람이나 취약한 집단에 대한 인지적 행동 조작을 하는 AI 유형을 금지한 것이라고 지적.
기사에는 서양의 사례만 있어 동양국가도 찾아보았다.
중국의 사례다
https://www.fasken.com/en/knowledge/2023/08/chinas-new-rules-for-generative-ai
China's New Rules For Generative AI: An Emerging Regulatory Framework
China’s emerging regulatory framework for AI continues to develop with the Interim Measures for the Management of Generative Artificial Intelligence Services.
www.fasken.com
- 중국의 생성형 AI에 대한 새로운 규정은 2023년 8월 15일부터 시행
- AI 기술의 사용과 개발을 규제하여 국가 안보, 윤리, 공공 이익을 보호하려는 목적
- 이 규정은 AI 제공자에게 데이터 프라이버시, 콘텐츠 검열, 투명성 요구 사항을 부과하며, 합법적인 데이터 소스 사용과 책임 있는 AI 모델 개발을 요구