LG Aimers | AI Essential Course & AI Ethics

Part 1. 데이터 분석과 AI 학습에서 유의할 점

 

1. 데이터의 해석

• 상관관계와 인과관계의 차이

 

2. 데이터 전처리와 분석방법

• error bar 추가
• 적합한 통계 테스트
• 아웃라이어 제거 
• 데이터 표준화(정규화)
• EDA (exploratory data analysis)
• 데이터 품질이 알고리즘 학습 품질을 결정

 

3. 학습 데이터의 양

• Under-fittting (과소적합)
• Over-fitting (과대적합)
• 데이터 학습의 결과가 적절한 수준인지, 유연하게 대처하는 알고리즘
• 학습 데이터와 테스트 데이터는 달라야 함 

 

4. 블랙 박스 알고리즘

• 해석의 어려움 - 블랙박스 형태 
• 성능과 설명력
• 알고리즘 내면 가시화 필요
• Post-hoc explainability (사후설명력) : Salency map, SHAP 등
• One pixel attack : 픽셀 하나만 바뀌어도 알고리즘 학습 결과가 달라지는 경우

 

5. 웹 데이터

• Spiral of Silence : 대표성 있는 의견인지, 빠른 정보 전파와 극단화/편향 현상
• 오정보의 영향 : 사실 정보보다 빠른 속도로 산발적으로 퍼짐
• 인포데믹(Infodemic) 현상 : 사실 정보와 오정보의 양이 늘어 구분이 어려워지는 정보 과부화 현상
• 잊혀질 권리 : 사생활 노출이나 과거 기록에 대해 포털과 인터넷 서비스에서 삭제되지 않아 피해 발생

 

6. 윤리 법적 제도

• GDPR : 개인정보보호, 과다 광고/ 혐오 표현 노출 규제 등 플랫폼 단속하는 EU 법 제도
• Digital Services Act : 유럽 연합 중심 빅테크 기업 대상 플랫폼 유해 콘텐츠 단속

 

7. 인공지능의 결과와 윤리 규범

• 인공지능 알고리즘 부작용 (Predictive Policing)
• COMPAS (Correctional Offender Management Profiling for Alternative Sanctions)

미국 법정에서 피고의 재범률 예측 수치를 통계로 제공하는 서비스

알고리즘 인종차별 문제 등 편향 현상

 

Part 2. 인공지능 알고리즘과 윤리 이슈

 

1. 인공지능과 창작

• GAN (적대적 생성 신경망)
• NLP 분야 초거대 언어 모델 등장 - Open AI GPT-3, 딥마인드 고퍼, MS Megatron-Turing

 

2. AI 상업 활용과 윤리적 문제

• 인공지능과 저작권 - 프로그래머, 데이터 제공자, 기획자 간 분배 
• NFT (Non-Fungible Token) 거래 

 

3. 저작권 문제

• 학습 데이터 제공자
• AI 창작자 법적 권리 제공할 제도 부재
• 현존 예술가에게 상업적 피해
• 창작품의 윤리적 규범 위배 

 

법인

법적 권리와 의무에 대한 책임을 소지

정부, NGO, 자연, 회사 등 자연인이 아닌 법인도 존재

법인의 권리와 의무가 일부만 부여될 수 있음

 

Q. 인공지능과 로봇을 법인에 포함시킬 수 있을까?

 

A.

찬성파 

- 간단한 책임 문제가 손쉽게 해결

- 혁신과 사회발전의 방향

- 법제도 일관성 유지 

- 자연인 아닌 법인 이미 존재

 

반대파

- 법적 처벌 도피처로 악용

- 도구주의에 반함

- 인류에 대한 수치

- 처벌 어려움 

 

 

4. 인공지능으로 인한 피해

• 아시모프의 로봇 3원칙

1) 로봇은 인간을 다치게 해선 안 되며, 인간이 해를 입는 걸 방관해서도 안 됨

2) 법칙1에 위배되지 않는 한 로봇은 인간 명령에 복종

3) 법칙1, 2에 위배되지 않는 한 로봇은 스스로를 보호

 

▶ 예외 존재로 적용 어려움

 

• 자율주행 사고 시, 법적 책임은 누구에게 있는가? 
• Moral Machine Experiment : 트롤리 문제
• 로봇의 인격화 : 로봇을 학대하지 않을 권리