인공지능(AI) 권리장전은 인공지능이 인간의 권리를 존중하고 보호해야 한다는 원칙을 명시한 문서입니다. 미국 백악관 과학기술정책실은 2022년 10월 AI 권리장전 청사진을 발표했습니다. 이 청사진에는 AI가 존중해야 할 5가지 원칙이 포함되어 있습니다.
- 개인의 권리: AI는 개인의 권리를 존중하고 보호해야 합니다. 여기에는 개인의 사생활, 개인의 신체적 안전, 개인의 자유로운 의사 결정권이 포함됩니다.
- 공정성: AI는 공정하고 공평하게 사용되어야 합니다. 여기에는 AI가 차별적이거나 편파적이어서는 안 된다는 것이 포함됩니다.
- 투명성: AI는 투명하게 개발되고 사용되어야 합니다. 여기에는 AI의 알고리즘과 결과가 공개되어야 한다는 것이 포함됩니다.
- 책임성: AI는 책임 있게 개발되고 사용되어야 합니다. 여기에는 AI의 개발자와 사용자 모두가 AI의 잠재적 위험에 대해 책임을 져야 한다는 것이 포함됩니다.
- 안전성: AI는 안전하게 개발되고 사용되어야 합니다. 여기에는 AI가 사람과 환경에 해를 끼치지 않아야 한다는 것이 포함됩니다.
AI 권리장전은 AI의 개발과 사용에 대한 윤리적 가이드라인을 제공합니다. AI가 인간의 권리를 존중하고 보호하도록 보장함으로써 AI 권리장전은 AI가 사회에 긍정적인 영향을 미칠 수 있도록 도울 것입니다.
..........................................
○ 미국 백악관은 인공지능(AI) 기술의 개발과 사용 과정에서 발생할 수 있는 부작용을 최소화하기 위한 ‘AI 권리장전(AI Bill of Rights) 청사진’을 발표
- 이번 권리장전의 원칙은 AI로 인한 잠재적 피해를 방지하기 위한 것으로 △안전한 시스템 △차별 방지 △데이터 사생활 보호 △사전 고지와 설명 △인적 대안 및 대비책 등으로 구성
- 백악관은 AI 시스템을 안전하고 의도된 대로 사용해야 하며 필요하면 아예 사용하지 않거나 제거할 수 있어야 한다고 권고
- 알고리즘 등 시스템에 인종이나 피부색, 민족, 성별, 종교, 연령, 장애 등에 따라 사람을 차별할 수 있는 고정관념이 내재되지 않아야 한다고 설명
- 또한, 꼭 필요한 정보만 개인의 허락을 받아 수집하고 특히 의료, 직업, 교육, 범죄기록, 금융 등 민감한 정보가 유출되지 않도록 안전장치를 마련할 것을 주문
- 이 외에도 사업자들은 AI가 어떻게 작동하고 사용자에게 어떤 영향을 미치는지 이해하기 쉬운 표현으로 설명해야 한다고 설명
................................
AI 권리장전(AI Bill of Rights) 청사진
AI 권리장전(AI Bill of Rights)은 인공지능의 개발, 배포 및 사용에 대한 일련의 원칙과 규정을 제시하는 문서입니다. 아래는 AI 권리장전의 가능한 청사진입니다. 이 청사진은 참고용으로만 사용되어야 하며, 실제 정책 개발에는 법적, 윤리적, 정치적 및 사회적 요인을 고려해야 합니다.
- 투명성과 책임성의 원칙:
- 인공지능 시스템의 개발자와 운영자는 그 작동 방식과 결정 과정을 명확하게 설명해야 합니다.
- AI 시스템이 어떻게 훈련되고 데이터를 사용하는지, 의사결정에 어떤 요소들이 작용하는지 등에 대한 투명성을 제공해야 합니다.
- 잠재적으로 위험한 AI 시스템은 책임 있는 개발자 및 운영자의 지도 아래 개발되어야 합니다.
- 인간의 안전과 안전성 보장:
- AI 시스템은 사람의 생명, 건강 및 안전을 위협하지 않아야 합니다.
- 인간의 신체적, 정신적 또는 사회적 상해의 위험을 최소화하기 위한 적절한 조치를 강구해야 합니다.
- 안전성 검증 및 테스트 절차를 통해 AI 시스템의 신뢰성과 안정성을 보장해야 합니다.
- 개인 정보 보호:
- AI 시스템은 개인의 개인 정보를 적절히 보호해야 합니다.
- 데이터 수집, 저장, 처리, 공유 및 사용에 대한 명확하고 투명한 규정을 제공해야 합니다.
- 사용자의 동의 없이 개인 정보를 수집하거나 남용해서는 안 됩니다.
- 공정성과 차별금지:
- AI 시스템은 공정성과 차별금지의 원칙을 준수해야 합니다.
- 인종, 성별, 출신 국가, 종교, 장애 등의 요인을 이용한 차별을 방지해야 합니다.
- AI 시스템은 다양한 집단 및 개인에 대해 공정하게 작동해야 합니다.
- 인간의 자유와 권리 보장:
- AI 시스템은 인간의 자유와 권리를 존중해야 합니다.
인공지능에 의한 자동화 결정이 개인의 권리를 침해하거나 인간의 자유를 제한하는 것을 방지하기 위해 적절한 규제와 제한을 시행해야 합니다.
- 예를 들어, AI 시스템은 사람들의 의견 및 표현의 다양성을 존중해야 합니다.
- 인간의 자유를 제한하는 결정은 투명하게 공개되어야 하며, 해당 결정에 대한 이의 제기 및 구제 방법을 제공해야 합니다.
6. 국가 및 국제적 협력:
- AI 기술의 국가 및 국제적 협력과 규제를 강화해야 합니다.
- 국가 간의 협력을 통해 인공지능의 개발, 배포 및 사용에 대한 표준 및 규범을 만들고 준수해야 합니다.
- 국제 사회에서의 지속적인 대화와 협력을 통해 AI 기술의 긍정적인 영향을 극대화해야 합니다.
7. 교육과 훈련:
- AI 기술에 대한 교육과 훈련을 촉진해야 합니다.
- AI의 도입 및 사용에 대한 교육 프로그램을 개발하고 보급해야 합니다.
- AI 기술의 잠재적 위험과 윤리적 문제에 대한 인식을 높이는 교육을 제공해야 합니다.
8. 윤리적 책임:
- AI 시스템의 개발자와 운영자는 윤리적 책임을 가지고 행동해야 합니다.
- 인간의 이익과 복지를 최우선으로 고려해야 하며, 윤리적 가이드라인과 원칙을 준수해야 합니다.
- AI 시스템의 잠재적인 악용에 대비하기 위한 윤리적 검토와 감독 체제를 마련해야 합니다.
이러한 청사진은 AI 권리장전의 핵심 원칙과 규정을 제시하기 위한 예시일 뿐이며, 실제 국가나 국제 기구에서는 다양한 이해 관계자들과의 협의를 거쳐 구체적인 내용이 결정되어야 합니다. 이는 법적, 윤리적, 정치적, 사회적 요소를 종합적으로 고려하여 개발되어야 하는 문제입니다.
https://www.aitimes.com/news/articleView.html?idxno=147141
美, AI 권리장전 청사진 공개 - AI타임스
미국 바이든 정부가 처음으로 인공지능(AI)과 관련한 인권 보호 지침을 내놓았다. 백악관은 5일 과학기술정책실 명의로 ‘AI 권리장전(AI Bill of Right) 청사진’을 발표했다.AI 권리 장전은 유럽연합
www.aitimes.com
'AI.4차 산업과 5G 기술 trend' 카테고리의 다른 글
| ASI(슈퍼인공지능)과 위험전문 대응(정렬팀) (0) | 2023.07.07 |
|---|---|
| AI 법안(유럽 인공지능법(EU AI Act)) (0) | 2023.06.16 |
| AI 시스템이 배워야 할 원칙/훈련 (0) | 2023.05.31 |
| 슈퍼 인공지능의 시나리오 (ASI) (0) | 2023.05.28 |
| AI 에서 지식을 추출/사용법 (0) | 2023.05.27 |