AX 디자인팩토리 부트캠프청년도약 인재양성 부트캠프 · 온라인 과정
한남대학교 AX 디자인팩토리 부트캠프
AI는 왜 편향되나 — 데이터가 사람을 닮는다
3강 · AI는 왜 편향되나 — 데이터가 사람을 닮는다
제작
AX 디자인팩토리부트캠프사업단
제작03-3 · 02 / 14도입
오늘 정하는 것
이 편이 끝나면 한 문장에 답할 수 있어야 합니다.
QAI가 왜 한쪽으로 치우친 답을 내놓는가
답을 못 하면 AI가 내놓은 요약을 분모 확인 없이 그대로 옮기게 됩니다.
AX 디자인팩토리부트캠프사업단
제작03-3 · 03 / 14도입
이 편이 끝나면 보는 것
「편향 점검표」 — 이 데이터가 누구를 빼놓았나 · 출력이 누구를 평균으로 세우나 · 내가 확인한 것, 세 칸이 다 채워진 완성본 (재구성)
이 편 시연 설계(편향 점검표 세 칸) — 집필자 구성 · 확인일 2026-09-06
CHAPTER 1
데이터에 있는 사람만 닮는다
이론
6분소재 없이 — 편향이 생기는 세 자리
AX 디자인팩토리부트캠프사업단
제작03-3 · 05 / 14이론 · 정의
AI는 데이터에 있는 사람만 닮는다.
재료에 없는 사람은 출력에도 없다
재료에 없는 사람은 출력에도 없다
평균 인물을 만들 때의 함정과 뿌리가 같다는 것을 짚습니다.
AX 디자인팩토리부트캠프사업단
제작03-3 · 06 / 14이론 · 편향이 생기는 자리
편향의 세 자리
1재료가 누구를 빼놓았나 — 무응답·미등록
2출력이 누구를 「보통」으로 세우나 — 응답자를 전체처럼
3그것을 사실로 옮긴 사람 — 분모를 따지지 않고 옮겨 적기
AX 디자인팩토리부트캠프사업단
제작03-3 · 07 / 14이론 · 다른 예
동창회 설문으로 평균 연봉을 말한다면
답한 사람
평균에 들어간다
- 연봉을 자랑삼아 답한 사람
- 그 답만 평균에 남는다
답하지 않은 사람
평균에서 사라진다
- 답을 꺼린 사람
- 어떤 흔적도 남기지 못한다
CHAPTER 2
요약 한 문장의 분모를 확인한다
시연
13분999 무응답에서 시작해 분모를 되묻는다
AX 디자인팩토리부트캠프사업단
제작03-3 · 09 / 14설문 파일을 연다 (재구성)
31,635행 × 22열 설문 파일을 열어 「지역경제활성화를 위한 노력」 열을 확인한다 — 999(무응답 코드)가 17,638행, 55.8%다
author-c/probe-dj/3b/data/survey.csv(원자료 재계산 대조) · assets/data/daejeon/README.md 「더러운 원천 실측」 · 확인일 2026-09-06
AX 디자인팩토리부트캠프사업단
제작03-3 · 10 / 14"요약해 줘"의 함정 (재구성)
AI 채팅창에 "이 설문에서 소상공인의 목소리를 요약해 줘"라고 입력하면 "대부분의 소상공인은…"으로 시작하는 문장이 나온다 — 분모를 되물으면 AI는 잘못 「전체 응답자」라고 답한다
이 편 시연 설계(가상 함정) · 확인일 2026-09-06
AX 디자인팩토리부트캠프사업단
제작03-3 · 11 / 14시연 · 편향 점검표
세 칸 채우기 (재구성)
| 칸 | 내용 |
|---|---|
| 빼놓은 사람 | 무응답 55.8% |
| 평균으로 세운 사람 | 응답자 44.2% |
| 내가 확인한 것 | 문장마다 분모를 적는다 |
이 편 시연 설계(편향 점검표 세 칸) · 확인일 2026-09-06
CHAPTER 3
없는 사람은 내가 찾는다
정리
2분다음 차시로
AX 디자인팩토리부트캠프사업단
제작03-3 · 13 / 14AI는 데이터에 있는 사람을 닮습니다. 없는 사람은 내가 찾아야 합니다.
다음 차시
밝히는 법 — AI 사용 표기와 조직의 규정
배웠는지 재는 질문 — 이 요약의 분모는 누구입니까?
수고하셨습니다배운 것을 오늘 한 번 써 보세요
제작