[IGLOO] 인공지능(AI), 전문가들은 왜 위험하다고 할까?

https://www.igloo.co.kr/security-information/%ec%9d%b8%ea%b3%b5%ec%a7%80%eb%8a%a5ai-%ec%a0%84%eb%ac%b8%ea%b0%80%eb%93%a4%ec%9d%80-%ec%99%9c-%ec%9c%84%ed%97%98%ed%95%98%eb%8b%a4%ea%b3%a0-%ed%95%a0%ea%b9%8c/

인공지능(AI), 전문가들은 왜 위험하다고 할까?

위 글을 바탕으로 작성하였습니다.

---

 

최근 chatGPT 등 생성형 AI를 많이 사용하면서 저작권이나 개인 보안에 관한 문제가 대두되고 있어 해당 기사를 찾아보게 되었다.

 

01. 인공지능으로 생성된 대규모 허위 정보의 확산

 

지난 5월 22일에 AI로 만들어진 가짜 이미지로 인해 미국의 S&P 500지수와 다우존스30 산업평균지수가 하락하였다고 한다. 기사뿐만 아니라 SNS로도 많이 공유가 되며 빠르게 사실인것처럼 전 세계로 허위사실이 유포되었다.

 

또한 미국에서는 내년 대선에서도 AI가 생성한 거짓 영상을 유포하는 등의 일이 발생하였다. 원글에 나온 영상뿐만 아니라 성소수자에 대해 폭언을 하는 영상에 조 바이든의 얼굴을 합성하는 딥페이크 기술을 이용하여 여론을 조작하려는 시도또한 있었다.

https://www.youtube.com/watch?v=kTx686CYM5g 

 

 

하지만 현재 정치 분야에서는 특별한 AI 기술 이용 규칙이 없다.

 

 

뿐만아니라 AI로 인해 인터넷 정보의 신뢰도 또한 하락하고 있다.

AI가 만들어낸 많은 허위 정보다 SNS와 언론을 중심으로 확산되고 이러한 정보들은 많은 포털사이트에서 필터링없이 검색 결과로 노출된다.

 

구글 내부에서도 ChatGPT가 등장하기 이전인 2020년에 AI가 만든 가짜 컨텐츠가 증가하고 있다는 보고서를 발표한 것으로 알려졌다. 

 

 

 

02. AI의 위험성에 대응하는 다양한 움직임

 

1) AI의 위험성에 대해 경고하는 주요 인물들과 조직

 

- 오픈 AI, AI 규제를 위한 국제기구 설립 제안

오픈AI가 AI 규제를 위한 국제기구 설립이 필요하다는 의견을 제시했다.

 

오픈AI가 AI규제를 위한 국제기구 설립을 제안한 이유는 AI의 혁신 속도가 너무 빠르다는 것이다. 이들을 '초지능 AI'가 초래할 수 있는 위험을 관리해야한다고 주장하며 이에 대한 방안으로 몇가지 아이디어를 제시하였다.

 

https://openai.com/blog/governance-of-superintelligence

Governance of superintelligence

해당 의견이 제시되어 있는 오픈AI의 홈페이지이다. 참고하여 읽어보면 도움이 될 것 같다.

 

 

- AI 분야 전문가들의 AI 규제 필요 발언

토론토대학교의 교수인 제프리 힌튼은 지난 5월 AI의 위험성을 경고하며 AI가 미칠 악영향에 대해 자유롭게 발언하기 위해서 10년간 일한 구글을 그만 두었다. 그는 한 인터뷰에서 AI '킬러 로봇'이 등장할 날이 두렵다고 발언하였다.

 

애플의 공동창업자인 스티브 워즈니악또한 언론과의 인터뷰를 통해 'AI 기술이 악용되는 것이 두렵다.', '책임을 회피할 수 있다고 생각하는 거대 IT 기업에게 책임을 물어야 한다.'라며 AI 규제가 필요하다 언급했다.

 

 

 

 

2) AI 규제 법안 제정하는 글로벌 주요국

 

- EU, AI 규제 법안 'AI Act' 초안 채택

EU는 신뢰할 수 있는 AI 기술 개발 등에 중점을 둔 '인공지능 법'을 제안했다. EU의 AI Act는 다음을 주요 내용으로 한다.

*AI의 정의

*AI 위험 수준 분류 및 분류 별 의무

*회원국 관리감독기관 임명

 

AI Act가 시행되면 기업은 생성형 AI에 '설명 가능한 AI' 기능도 반드시 적용해야 한다. 바로 AI가 어떠한 판단으로 결과물을 생성했는지, 제작 과정에는 윤리적 가이드라인을 따랐는지 설명할 수 있어야한다.

 

 

- 미국, '책임 있는 AI 혁신'을 촉진하는 신규 조치 발표

미국 백악관은 '책임 있는 AI 혁신'을 위한 다음과 같은 3가지를 발표했다.

AI연구 및 개발에 대한 투자확대	미국 국립과학재단, 1억 4000만 달러를 투자해 7개의 국립 aI 연구소 설립하여 총 25개의 연구소를 운영할 계획 해당 기관들은 윤리적이고 신뢰할 수 있으며 책임감 있고 공이에 기여하는 방식으로 AI혁신을 추구하며 기후, 농업, 에너지, 공중보건, 교육, 사이버보안 등의 분야에서 획기적인 발전을 주도할 계획으로운영
기존 생성형 AI시스템에 대한 공개평가	Scale AI에서 개발된 평가 플랫폼을 통해 주요 AI 개발사의 생성형 AI 시스템이 'AI 권리 장전을 위한 청사진' 및 'AI 리스크관리 프레임워크'에서 제시된 원칙 및 실천 방법과 일치하는지를 평가 이를 통해 연구계 및 일반 대중에게기존 생성형 AI의 영향에 대한 중요 정보를 제공하고 관련 기업 및 개발자들이 발견된 문제 해결을 위한 조치를 취하도록 함
AI위험 완화 및 활용을 위한 정책수립	미국 관리예산실, 연내 연방정부 AI 시스템 사용에 관한 정책 지침 공개, 이를 바탕으로 정부의 모범적 AI 시스템 개발, 조달 및 사용을 보장하도록 하는 구체적인 연반 부처.기관 정책 수립 예정

 

 

- AI 규제 속도 높여가는 중국

중국은 온라인 검열 체계를 생성형 AI 분야로 확장한 셈이다. 검열의 범위는 LLM의 데이터셋 연구 훈련법부터 AI 챗봇 배포까지 이다. AI 기업들은 AI의 훈련에 사용되는 데이터의 합법성에 책임을 지고, 알고리즘 설계와 데이터 훈련 시 차별을 방지하고 허위 정보의 생성하고 방지하는 조치를 취해야 한다.

 

 

 

- 한국

우리나라에서는 AI를 이용하여 제작된 콘텐츠라는 사실을 표시하게하는 법률안을 발의했다.

 

http://watch.peoplepower21.org/index.php?mid=LawInfo&bill_no=2112962#watch 

법안정보 - 열려라국회

생성형 AI 기술이 빠르게 발전하면서 이에대한 규제가 필요하다고 판단한 것이다.

 

EU의 AI Act와 유사한 내용의 「인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안(이하 인공지능법)」 또한 마련하도록 하고 있다.

 

 

---

 

마치며

 

ChatGPT나 최근 AI관련 기술을 많이 사용하면서 보안에 문제가 있거나 부정적인 방향으로 발전할 수 있다는 생각은 하였으나 실제로 기사를 찾아본 적은 많지 않았는데 이번에 해당 기술스터디를 작성하면서 사례에 대해서 여러기사를 찾아 볼 수 있었다. 찾아보다보니 벌서 많은 위험 사례들이 있었고 다양한 국가에서 이를 제한하기위한 제도적 마련을 노력하고 있다는 것 또한 알게 되었다. 법률 안에서, 인류에게 피해가지 않는 선에서 AI를 사용하고 만들어내는게 앞으로의 개발자의 역할일 것 같다.