인공지능의 신뢰성이 중요한 이슈인 이유

• 우호적인 인종지능 (friendly AI)
  • 인공지능의 목적은 우리사회의 목적에 맞추는 것
  • 엘리저 유드코프스키 (Eliezer YudKowsky)
    • 인공지능 연구가
    • 버클리 기계지능연구소 (MIRI) 공동설립자
• 우호적인 인공지능 연구는 어려움

주목해야 할 인공지능 원칙과 기준

• 인공지능 가이드라인

  • 주체: 정부, 기관, 정책 집행자, 기업, 단체 등에서 발표
  • 개수: 80여개
  • 인공지능 윤리 가이드라인 모음 (AlgorithmWatch) 제공
  • 36/80개의 인공지능 원칙 보고서 비교 분석 백서 (Harvard Berkman Center) 제공
    • 8개의 핵심 주제의 유사성과 차이점 비교 분석
      • 프라이버시
      • 책무성
      • 안전과 보안
      • 투명성 설명 가능성
      • 공정성과 차별 금지
      • 인간의 기술 통제
      • 직업적 책임
      • 인간 가치 증진

• 중요 선언과 보고서

  • 아실로마 23원칙, 생명의미래연구소, 2017.01
    • 한국어(정보인권)
  • G7 혁신 장관 선언문, 2018.03
  • 유럽 연합 집행위원회(EC) 인공지능 고급 전문가 그룹 발표, 2019.04
  • 경제협력개발기구(OECD)의 인공지능 원칙, 2019.05

• 아실로마 23 원칙

  • 범주: 연구 이슈, 윤리와 가치, 장기 이슈
    • 연구 이슈
      • 인공지능 연구 목표
      • 연구 투자
      • 과학과 정책의 연계
      • 연구 문화
      • 경쟁 지양
    • 윤리적 가치
      • 인공지능의 안전
      • 장애 투명성
      • 사법적 투명성
      • 공동 이익
      • 공동 번영
      • 인간의 통제력
      • 비파괴
      • 인공지능 무기 경쟁 등 13개
    • 장기 이슈
      • 인공지능 능력에 관한 주의
      • 중요성
      • 위험
      • 재귀적 자기 개선
      • 공동의 선 지향
  • 한계
    • 매우 포괄적, 명확한 정의가 없어 선언적 원칙에 불과
    • 개발자나 사용자가 지켜야 할 원칙 구분 없음
    • 명확한 정의와 방법론 필요

• 유럽연합 집행위원회의 인공지능 가이드라인과 프레임워크

  • 이전의 가이드라인들 평가
    • 2-3년간 인공지능 윤리 대거 발표됨. 인공지능 시스템이 갖추거나 지켜야할 원칙을 정리하는 수준. 윤리적 원칙과 사회의 혜택을 생각하는 유익성, 안정성을 중심으로 기술
    • 인공지능의 투명성, 데이터와 알고리즘의 공정성, 설명 가능성 등은 독립적인 연구 주제이거나 사회적 이슈로 논의
  • 발단
    • 가장 체계성을 갖춘 모델. 신뢰할 수 있는 인공지능의 기반, 구현, 평가의 세 단계를 제시
    • 추상적인 논의에서 더 명료한 주제로 핵심 사항을 제시.
  • 전개
    • 인공지능 고급 전문가 그룹(High-level expert group on artificial intelligence) 구성
      • 2018년 12월 인간중심의 신뢰할 수 있는 인공지능 가이드라인 초안 제작
      • 2019년 4월 최종안 발표

• 프레임워크 설명

  • 기본권: 국제적으로 또는 유럽연합이 명시한 인권법과 조약과 헌장에서 법률로 보장한 권리를 의미함.
    • 의미: 합법적 인공지능이 반드시 지켜야 함. 인간의 존엄, 자유, 평등, 연대, 시민 권리, 정의 등 인간 중심 접근이라는 측면에서 가장 기본이 되며 인공지능이 갖추어야 할 준수 보호.
  • 유럽연합이 참고하는 윤리 원칙
    • EGE(Europe Group on Ethics in Science and New Technologies)에서 제시한 9가지 원칙
    • 설명
      • 인간 자율성에 대한 존중 원칙 - 유럽연합의 기본권은 자유에 대한 존중과 인간의 자율성 보장에 기반을 둠
      • 피해 방지 원칙 - 인공지능 시스템은 피해를 입히거나 악화시켜서는 안 되며 적대적인 영향을 미쳐도 안된다.
      • 공정성의 원칙 - 공정성에는 본질적 차원과 절차적 차원이 있음. 공정성에 대해 다양한 해석이 가능하지만, 이익과 비용에 대한 동등하고 올바른 분배를 보장. 불공정한 편견, 차별, 오명으로 부터 개인이나 집단의 자유를 보장.
      • 설명가능성의 원칙 - 설명 가능성은 인공지능 시스템에 대한 사용자의 신뢰를 쌓고 유지하는 데 매우 핵심적. 인공지능 시스템의 능력과 목적이 공개되고 과정이 투명하며 결과에 대해 직간접적으로 영향을 받는 사람들에게 설명돼야 함.

• 이후 움직임

  • 피드백: 가이드라인 발표 후 350여 기관이 가이드라인 피드백을 보냄

  • 2020년 2월 인공지능 백서 발행 - 유럽에서 인공지능 연구개발은 탁월성과 신뢰성을 바탕으로 접근해야 함 강조.

  • 감시 및 공유

    • 조인트리서치센터(Joint Research Centre)
      • 유럽의 산업, 기술, 연구의 역량과 결과 모니터링
    • AI워치 (AI Watch)

  • 2020/07/17 인공지능 고급 전문가 그룹

• OECD의 인공지능 원칙

• 유럽연합의 인공지능 법 초안과 추가 전략들

그 외 기관들이 만든 원칙 또는 선언문

• 2018.03월 G7 혁신 관련 장관 회의
• 미국 연방거래위원회(FTC)
• MIT 인터넷정책연구 이니셔티브(IPRI)