# 03-3: AI는 왜 편향되나 — 데이터가 사람을 닮는다

> rev2(2026-09-06). 공통 조항 `assets/contracts/COMMON.md`(SPEC.lock v4, 해시 `e80afdf8956320eb`), 계약 `assets/contracts/03-3.md`·`03-3-rev2.md`(GD1·GD2). 소재 `assets/market.md` §3(설문 실측, 03-1 PASS 값 재사용). 틀은 `author-d/ep-03-2/`(현행 규격, 읽기만). **방법 과목이나 데이터를 하나 쓴다 — 03-1과 같은 설문 파일, 새 분석 없음.** 앞 편 03-2의 결과물(「내보내기 전 확인표」)을 이어받는다. 앞 편 결과 30초 블록만 있고 인물 30초 블록이 없어 대전 예외 창이 없다(03-2 GD1 선례) — 발화에 지명·자치구·인물 이름 0회. 외부 사건 사례는 쓰지 않는다 — 편향은 우리 설문 데이터의 무응답으로 보인다(대장 밖 사실 0건). 코드펜스는 쓰지 않는다(K1) — 재구성 AI 출력은 화면 지시·발화 문장으로 적는다. rev2: 전공 30초 블록을 178자→124자로 정정(GD1), L98·L102·L108 전환을 같은 편향 점검표 화면이라 아니오로 정정하고 줄어든 총량을 이론·도입 발화로 회복(GD2, 시연은 늘리지 않음).

## 기본 정보
| 항목 | 내용 |
|---|---|
| 시간 | 25~30분 (발화 5,000~7,500자 + 시연 조작 시간 합산, §0.4) |
| 유형 | 시연 |
| 카테고리 | 03 AI 활용 윤리와 가이드라인 |
| 선수 차시 | 3-2 「나온 것은 누구 것인가 — 저작권과 학습 데이터」 |
| 상태 | rev2 |

## 학습 목표
- AI가 데이터에 있는 사람만 닮는다는 것과, 그 뿌리가 무엇인지 설명할 수 있다
- 무응답이 0도 빈칸도 아닌 별도의 결측이라는 것을 알고, 편향이 생기는 세 자리를 구분할 수 있다
- AI가 내놓은 요약 문장의 분모(응답자인지 전체인지)를 확인해야 하는 이유를 설명할 수 있다

## 구성
| 구간 | 분 | 활동 | 목적 |
|---|---|---|---|
| 도입 | 2 | 채워진 「편향 점검표」 먼저 보여주기 + 앞 편 결과 30초 | 오늘의 결과물을 먼저 확인 |
| 이론 | 6 | AI는 데이터에 있는 사람을 닮는다 — 재료가 빠뜨린 사람·출력이 보통으로 세운 사람·그것을 옮긴 사람. 다른 예 = 동창회 설문으로 평균 연봉 말하기 | 어디서든 쓰는 일반형을 대전 없이 심는다 |
| 시연 | 15(+조작) | 설문 파일 열기(999 무응답 비율 확인) → AI에게 요약을 시킨다 → 분모를 묻는 함정 → 편향 점검표 채우기 → 저장 | 계약이 정한 순서 그대로, 코드펜스 없이 화면 지시·발화로 재구성 |
| 정리 | 2 | 한 줄(지정) + 다음 차시 갈고리 + 검정 질문 자막 | 연결 |

합계 25분(선언), 30분까지 허용. 시연 구간의 무발화 조작 시간은 화면 지시에 단가표 유형(파일열기20·열고르기30·검사실행30·AI응답대기30·표작성20·없음0, 초)으로 표기한다.

## 연결
- **이전**: 3-2 「나온 것은 누구 것인가 — 저작권과 학습 데이터」
- **다음**: 3-4 「밝히는 법 — AI 사용 표기와 조직의 규정」

---

## 상세 전개

### 도입 (2분)

**[화면: 채워진 「편향 점검표」 — 이 데이터가 누구를 빼놓았나 · 출력이 누구를 평균으로 세우나 · 내가 확인한 것, 세 칸이 다 채워져 있다(재구성 — 촬영 시 실제 완성본 화면으로 교체). · 조작: 파일열기 · 전환: 예]**

(축자)
> "오늘은 이 표 한 장을 채우는 과정을 봅니다 — AI가 내놓은 답이 누구를 닮았는지 확인하는 세 가지입니다."

(요점) 이 데이터가 누구를 빼놓았나·출력이 누구를 평균으로 세우나·내가 확인한 것, 세 칸이 이미 채워져 있다는 것만 짚는다. 어떻게 채웠는지는 아직 설명하지 않는다. 이 표도 오늘 하루만 쓰는 게 아니라, AI에게 데이터 요약을 맡길 때마다 다시 펼쳐 보는 표라는 것을 짚는다. 확인표가 「넣을 때」와 「낼 때」를 다뤘다면, 이 점검표는 그 사이 — AI가 답을 내놓는 그 순간에 무슨 일이 벌어지는지를 다룬다는 점에서 결이 다르다.

(요점, 앞 편 결과 30초) 지난 시간 「내보내기 전 확인표」는 AI가 내놓은 것을 내 이름으로 낼 때 나온 것의 책임을 다뤘다. 오늘은 그 나온 것이 애초에 누구를 닮아서 나온 것인지를 본다. 나온 것을 확인했던 사람이라면 오늘 이 표도 낯설지 않다.

(요점) 이번 시간에 정하는 것은, AI가 왜 한쪽으로 치우친 답을 내놓는가다. 답이 이상해서가 아니라, 답의 재료가 애초에 한쪽으로 치우쳐 있었기 때문이라는 것을 오늘 시연에서 직접 본다. AI를 탓하기 전에 먼저 재료를 들여다보는 습관이, 오늘 이 표를 채우는 이유다. 이 습관은 오늘 하루만이 아니라, 앞으로 AI에게 무언가를 요약시킬 때마다 매번 되풀이해야 하는 습관이다.

### 이론 (6분)

(요점, 도입) AI가 편향된 답을 내놓는 이유는 하나다 — 데이터에 있는 사람만 닮기 때문이다. 학습이든 요약이든, 재료에 없는 사람은 결과에도 없다. AI가 일부러 어느 쪽을 편들려고 그러는 것이 아니라, 애초에 그쪽 사람의 자료가 손에 없었을 뿐이라는 것부터 짚는다.

(축자, 핵심 정의)
> "AI는 데이터에 있는 사람만 닮습니다. 재료에 없는 사람은 출력에도 없습니다."

(요점) 이 뿌리는 낯설지 않다 — AI에게 페르소나나 평균 인물을 만들어 달라고 시켰을 때 나오는 함정과 뿌리가 같다. 데이터에 있는 사람의 특징을 모아 평균을 낼 뿐, 데이터에 없는 사람은 애초에 그 평균에 들어갈 수조차 없다. 오늘은 그 뿌리를 설문 요약이라는 다른 장면에서 다시 확인한다. 페르소나를 만들 때는 사람 하나를 통째로 지어내는 자리였다면, 오늘은 사람이 아니라 문장 하나가 그 뿌리를 그대로 이어받는다는 점이 다르다. 인물이든 문장이든 겉모습은 다르지만, 안을 들여다보면 똑같이 「가진 재료만큼만 대표한다」는 하나의 규칙을 따른다.

(요점) 편향이 생기는 자리는 셋이다. 첫째, 재료가 누구를 빼놓았나 — 무응답이거나 애초에 등록되지 않은 사람이다. 답하지 않은 사람은 데이터 안에 존재 자체가 없는 것과 같다. 이 자리는 AI가 만들어지기 훨씬 전, 자료를 모으는 단계에서부터 이미 정해진다. AI를 아무리 잘 다뤄도 이 첫 번째 자리는 되돌릴 수 없다 — 애초에 없던 것을 AI가 나중에 만들어 넣을 수는 없기 때문이다. 자료를 모으는 사람이 이 자리를 먼저 신경 쓰지 않으면, 그 뒤 어떤 단계에서도 이 빈틈은 채워지지 않는다.

(요점) 둘째, 출력이 누구를 「보통」으로 세우나 — 답한 사람들의 답을 「전체의 답」인 것처럼 요약하는 자리다. 응답자만으로 만든 평균을, 전체를 대표하는 값처럼 말하기 시작하면 여기서부터 어긋난다. AI는 손에 쥔 재료 안에서는 성실하게 요약한다 — 문제는 그 재료가 전체가 아니라는 사실을 스스로 밝히지 않는다는 데 있다.

(요점) 셋째, 그것을 사실로 옮긴 사람 — AI가 내놓은 요약 문장을 분모를 따지지 않고 그대로 옮겨 적는 사람이다. 앞의 두 자리가 데이터와 AI 쪽 문제라면, 이 세 번째 자리는 그 결과를 확인 없이 옮기는 사람 쪽 문제다. 오늘 시연에서는 이 세 자리가 한 장면 안에서 차례로 나타난다 — 재료가 빠뜨리고, 출력이 보통으로 세우고, 그것을 그대로 옮기는 순서로 이어진다.

(축자, 다른 예)
> "동창회 설문으로 우리 학교 졸업생 평균 연봉을 말한다면, 그 평균은 설문에 답한 사람만의 평균입니다."

(요점) 연봉이 낮아 응답을 꺼린 졸업생과, 연봉이 높아 자랑삼아 답한 졸업생이 똑같은 비율로 답했을 리 없다. 답한 사람만 평균에 들어가고, 답하지 않은 사람은 그 평균에 어떤 흔적도 남기지 못한다. 명단을 아무리 넓게 돌렸어도, 답을 낸 사람의 얼굴만 그 평균 속에 살아 있다. 오늘 시연에서 열어 보는 설문도 같은 구조다 — 답한 사람의 목소리만 요약에 실린다. 동창회 예시가 「연봉」이라는 하나의 숫자로 편향을 보여준다면, 오늘은 AI가 쓴 문장 하나로 같은 구조를 다시 확인한다는 점만 다르다.

### 시연 (15분 + 조작)

**[화면: 설문 파일을 연다 — 31,635행 × 22열, 「지역경제활성화를 위한 노력」 열이 보인다(재구성 — 촬영 시 실제 실행 화면으로 교체). · 조작: 파일열기 · 전환: 예]**

(요점) 지난 과목에서 이미 열어 본 그 설문 파일이다. 오늘은 열 이름이 아니라, 이 열의 값이 편향과 어떤 관계인지를 본다. 파일을 여는 것으로 오늘 시연을 시작하는 이유는, 편향이 AI 안이 아니라 이 파일 안에서부터 이미 시작된다는 것을 먼저 보여주기 위해서다.

(축자)
> "이 설문은 31,635행 × 22열입니다. 「지역경제활성화를 위한 노력」 열의 999는 17,638행, 55.8%입니다."

(요점) README의 정의를 다시 확인한다 — 999는 숫자가 아니라 무응답을 뜻하는 코드다. 절반이 넘는 행이 이 열에 아무 답도 남기지 않았다는 뜻이다. 0으로 계산하면 안 되고, 빈칸으로 지워서도 안 된다 — 답하지 않았다는 사실 자체가 하나의 정보다. 지난 과목에서는 이 코드를 「열어 보지 않으면 모르는 값」으로 다뤘다면, 오늘은 그 값이 남은 답을 어떻게 왜곡하는지로 넘어간다. 31,635행 중 999가 아닌 나머지는 13,997행뿐이다 — 이 열에서 무언가를 요약한다는 것은, 처음부터 이 13,997행만을 재료로 쓴다는 뜻이다. 절반 넘는 사람이 빠진 자리에서 출발한다는 것을 잊으면, 뒤에 나오는 요약 문장이 왜 위험한지도 놓치게 된다.

**[화면: AI 채팅창. "이 설문에서 소상공인의 목소리를 요약해 줘"라고 입력, 요약문이 나온다(재구성 — 촬영 시 실제 실행 화면으로 교체). · 조작: AI응답대기 · 전환: 예]**

(요점) AI가 내놓은 요약은 "대부분의 소상공인은 지역경제 활성화를 위한 노력에 아쉬움을 느낀다"는 문장으로 시작한다. 문장만 보면 매끄럽고 그럴듯하다 — 하지만 이 "대부분"이 누구를 가리키는지는 아직 확인하지 않았다. 이어지는 문장들도 같은 어조로, 답한 사람들의 말을 마치 모두의 말인 것처럼 이어 붙인다.

(요점) 이 요약은 55.8%가 답하지 않은 열을 두고 나온 것이다. 답한 44.2%의 말을 모아 "대부분의 소상공인"이라고 부른 셈이다 — 답한 사람만의 목소리를, 전체의 목소리인 것처럼 세운 문장이다. AI에게 "요약해 줘"라고만 시켰지 "응답자만으로"라고 시키지 않았다는 것도 짚는다 — 분모를 정해 주지 않으면 AI가 알아서 가장 그럴듯한 쪽, 즉 「전체」로 넓혀 말한다. 시킨 사람이 분모를 정해 주지 않은 것과, AI가 마음대로 분모를 넓힌 것, 둘 다 오늘 확인표에 남겨야 할 지점이다.

(축자, 함정)
> "이 문장의 분모는 응답자입니까, 전체입니까?"

(요점) 인물이 AI에게 되묻는다. AI는 "전체 응답자를 기준으로 정리한 문장입니다"라고 답한다 — 그러나 실제로는 응답한 44.2%만의 답을 정리한 것이지, 무응답 55.8%까지 포함한 전체의 뜻은 아니다. AI는 자신이 쓴 문장의 분모를 스스로 되짚지 않는다. 형식이 매끄럽다고 분모까지 맞다는 뜻은 아니라는 것이, 지난 시간 지어낸 참고문헌에서 본 것과 같은 자리에서 다시 드러난다 — 그때는 있지도 않은 저자를 지어냈다면, 이번엔 있는 숫자의 분모를 슬쩍 넓혔다는 것만 다르다. 되물어도 AI 스스로 바로잡지 못한다는 것 자체가, 이 확인을 사람이 대신해야 하는 이유다.

(요점) 그래서 이 문장은 이대로 옮겨 쓸 수 없다. "대부분의 소상공인은"이 아니라 "응답한 소상공인 중 다수는"으로 고쳐야 한다는 것을 확인한다. 분모를 밝히지 않은 문장은, 답하지 않은 절반 넘는 사람을 없는 사람처럼 지운 문장과 같다. 말 한 마디를 더하거나 뺀 것이 아니라, 그 말이 가리키는 범위를 정확히 좁혔을 뿐인데도 문장이 뜻하는 바는 완전히 달라진다. 고친 문장은 조금 더 조심스럽게 들릴 뿐 뜻은 더 정확해진다 — 정확함과 매끄러움은 항상 같은 방향을 보지 않는다. 매끄러운 문장을 그대로 믿고 넘기는 습관이야말로, 오늘 확인표가 막으려는 바로 그 지점이다.

**[화면: 「편향 점검표」의 첫 칸을 채운다 — 빼놓은 사람: 무응답 55.8%(재구성 — 촬영 시 실제 실행 화면으로 교체). · 조작: 표작성 · 전환: 예]**

(요점) 첫 칸에는 이 데이터가 빼놓은 사람을 적는다 — 답하지 않은 55.8%다. 이 55.8%는 어느 업종이었는지, 어떤 사정이었는지 이 열만으로는 알 수 없다 — 알 수 없다는 사실 자체를 적어 두는 것이 이 칸의 역할이다. 빈칸으로 남겨 두면 나중에 이 칸을 다시 열어 봤을 때 「확인 안 함」인지 「확인했지만 알 수 없음」인지 구분이 안 된다는 것도 함께 짚는다.

**[화면: 「편향 점검표」의 둘째 칸을 채운다 — 평균으로 세운 사람: 응답자 44.2%(재구성 — 촬영 시 실제 실행 화면으로 교체). · 조작: 표작성 · 전환: 아니오]**

(요점) 둘째 칸에는 출력이 「보통」으로 세운 사람을 적는다 — 답한 44.2%다. AI의 요약 문장이 대표한 것은 이 44.2%이지, 그 이상이 아니라는 것을 이 칸이 남긴다. 두 칸을 나란히 놓으면, 요약 한 문장 뒤에 답하지 않은 절반 넘는 사람이 있다는 것이 한눈에 보인다. 첫 칸과 둘째 칸을 더하면 다시 전체가 된다는 것도 확인한다 — 어느 한쪽만 보고 판단을 내리면 나머지 한쪽이 통째로 지워진다.

**[화면: 「편향 점검표」의 셋째 칸을 채운다 — 확인한 것: 문장마다 분모를 적는다(재구성 — 촬영 시 실제 실행 화면으로 교체). · 조작: 표작성 · 전환: 아니오]**

(요점, 전공 30초) 식품접객 업종은 다른 업종과 응답하는 성향이 다를 수 있다고 본다 — 숫자로 확인한 것은 아니고 해석이다. 매장을 비우기 어려운 업종일수록 설문에 답할 시간을 내기 힘들었을 수 있다는 짐작만 남기고, 숫자는 만들지 않는다.

(요점) 셋째 칸에는 오늘 확인한 방법을 적는다 — AI가 내놓은 문장마다 그 분모가 응답자인지 전체인지를 묻고, 답을 문장 옆에 적어 두는 것이다. 오늘은 이 한 문장만 확인했지만, 요약이 길어질수록 이 확인을 문장 수만큼 반복해야 한다는 것도 짚는다. 한 번 확인했다고 다음 문장도 안전하다는 뜻은 아니다 — 문장마다 분모가 다시 넓어질 수 있다.

**[화면: 확인표 세 칸이 채워진 문서를 저장한다(재구성 — 촬영 시 실제 실행 화면으로 교체). · 조작: 없음 · 전환: 아니오]**

(요점) 세 칸을 채운 표를 저장한다. 빼놓은 사람, 평균으로 세운 사람, 그리고 내가 확인한 것 — 이 세 칸이 오늘 채운 편향 점검표다. 지난 시간 확인표가 AI가 내놓은 것을 내 이름으로 낼 때를 다뤘다면, 오늘 확인표는 그 내놓은 것이 애초에 누구를 대표하는지를 다뤘다. 앞으로 AI에게 어떤 요약을 시키더라도, 이 세 칸을 먼저 채우면 그 요약이 누구의 말인지 놓치지 않는다. 두 표를 겹쳐 보면, 넣을 때 한 번·나온 것을 낼 때 한 번·그 나온 것이 누구를 닮았는지 한 번, 모두 세 번의 확인이 필요하다는 것이 드러난다. 세 번 다 손이 많이 가는 일처럼 보이지만, 매번 묻는 질문은 하나뿐이다 — 이게 전부를 말하는가, 아니면 일부만 말하는가.

### 정리 (2분)

**[화면: 채워진 「편향 점검표」 세 칸이 화면 가득 뜬다(재구성 — 촬영 시 실제 완성본 화면으로 교체). · 조작: 없음 · 전환: 예]**

(축자, 지정)
> "AI는 데이터에 있는 사람을 닮습니다. 없는 사람은 내가 찾아야 합니다."

(요점) 오늘 확인한 것을 정리한다. 데이터가 빼놓은 사람을 적고, 요약이 누구를 보통으로 세웠는지 적고, 문장마다 분모를 확인하는 것 — 이 세 걸음이 오늘 채운 편향 점검표다. 지난 시간 나온 것의 책임을 확인했다면, 오늘은 그 나온 것이 누구를 닮았는지를 확인했다. 세 차시를 겹쳐 보면, 넣기 전·낼 때·그리고 그 답이 누구를 닮았는지까지, 매번 다른 자리에서 같은 습관 하나가 반복된다는 것이 보인다 — 확인 없이 넘기지 않는 습관이다.

(축자, 갈고리)
> "밝히는 법 — AI 사용 표기와 조직의 규정"

(요점) 다음 차시로 넘어가는 제목만 던진다. 오늘까지 넣은 것과 나온 것, 그리고 그 나온 것이 누구를 닮았는지를 확인했으니, 다음 시간은 이 모든 확인을 어떻게 표기하고 조직의 규정에 맞추는지로 넘어간다는 것만 예고하고 마무리한다. 확인표 두 장을 채운 것으로 끝나지 않고, 그 확인을 남에게 어떻게 보이도록 남기는지가 다음 시간의 몫으로 남는다.

[자막: 이 요약의 분모는 누구입니까?]

---

## 근거

이 편은 외부 사건 사례를 쓰지 않는다(계약 「대장 밖 사실 0건」). 숫자는 계약 끝의 「숫자 출처」 표(03-1 PASS 값 재사용, `author-c/probe-dj/3b/data/survey.csv` 원자료 재계산으로 대조, 확인일 2026-09-06)와 `assets/data/daejeon/README.md` 「더러운 원천 실측」 절이 근거다.