Appearance
Ch.11: 윤리와 안전 — AI와 함께하는 교실
이 챕터를 읽으면, 학생 데이터를 안전하게 다루고, AI 출력물의 저작권을 이해하며, 학교 AI 정책을 동료와 함께 만들 수 있습니다.
11-1. 시나리오: 박선생님의 뒤늦은 깨달음
학기말 평가가 끝난 오후였어요.
박선생님은 성적 분석이 급했어요. 30명의 단원평가·수행평가 점수를 표로 정리해야 했는데, 엑셀 함수를 다루기가 버거웠거든요. 그래서 Claude Code에 이렇게 입력했어요.
"다음 학생들의 성적을 분석해줘. 김민준 78점, 이서연 92점, 박지호 45점, 정하은 88점..."
30명의 이름과 점수를 쭉 붙여넣었어요. Claude Code는 순식간에 평균, 표준편차, 등급 분포까지 깔끔하게 정리해줬어요. "역시 AI!" 하고 감탄하며 결과를 저장하려는 순간, 뭔가가 머릿속을 스쳤어요.
"잠깐... 이거 학생 실명이랑 성적이 다 들어간 건데, 괜찮은 건가?"
심장이 쿵 했어요. 학부모가 알면? 교감 선생님이 알면? 개인정보보호법에 걸리는 건 아닌가?
당황하지 마세요. 박선생님이 느낀 이 불안감은 아주 건강한 반응이에요. 문제를 인식한 것 자체가 이미 올바른 방향으로 가고 있다는 증거예요. 이 챕터에서는 그 불안감을 구체적인 원칙과 실천법으로 바꿔드릴게요.
김선생님 한마디: AI 활용의 마지막 관문은 기술이 아니라 윤리예요. 기술은 배우면 되지만, 원칙은 알아야 안심하고 쓸 수 있어요.
11-2. 학생 데이터를 안전하게 활용하기
결론 먼저: 학생의 실명, 주민등록번호, 상세 건강정보 등 민감 개인정보는 AI에 직접 입력하지 않아요. 번호로 바꿔서 입력하고, 결과를 받은 뒤 다시 실명으로 복원하면 돼요.
이게 왜 되나요?
우편물을 발송할 때를 떠올려보세요. 택배 회사에 보내는 운송장에는 받는 사람의 전화번호 뒷자리만 적혀요. 실제 주소와 이름은 내부 시스템에서만 확인하죠. 외부 택배 기사가 알아야 할 정보와 회사 내부에서만 관리할 정보를 분리하는 거예요.
AI도 마찬가지예요. Claude Code는 외부 서비스예요. 아무리 똑똑한 조교라도, 우리 학생의 실명과 성적을 동시에 알 필요는 없어요. 번호로 바꿔서 보내면 AI는 "학생01이 78점"이라는 데이터만 보고 분석하고, 선생님은 나중에 "학생01 = 김민준"으로 복원하면 돼요.
이것을 가명 처리라고 해요. 기술적으로 어려운 게 아니에요. 그냥 이름을 번호로 바꾸는 것뿐이에요.
법적 근거를 알아두면 든든해요
학생 데이터를 다룰 때 알아두면 좋은 법률이 두 가지 있어요.
개인정보보호법 제17조는 개인정보를 제3자에게 제공할 때의 원칙을 정해요. AI 서비스에 학생 정보를 입력하는 것은 제3자 제공에 해당할 수 있어요. 정보 주체(학생, 미성년자의 경우 학부모)의 동의 없이 제공하면 문제가 될 수 있어요.
초중등교육법 제30조의6제1항은 학생 정보의 보호를 명시해요. 학교가 보유한 학생 정보는 교육 목적 외에 함부로 활용할 수 없어요.
어렵게 들리지만 핵심은 하나예요. "실명 + 민감정보"를 동시에 외부 서비스에 보내지 마세요. 이것만 지키면 대부분의 법적 위험에서 벗어나요.
실습해보기: 안전한 작업 3단계
1단계: 실명을 번호로 바꾸기
변환 전: 김민준 78점, 이서연 92점, 박지호 45점
변환 후: 학생01 78점, 학생02 92점, 학생03 45점엑셀이나 메모장에 "학생01 = 김민준" 매핑표를 따로 저장해두세요. 이 매핑표는 AI에 보내지 않아요.
2단계: 가명 데이터로 AI에 요청하기
프롬프트: "다음 학생들의 성적 분포를 분석해줘.
학생01: 78, 학생02: 92, 학생03: 45..."AI는 번호만 보고 분석해요. 누가 누군지 알 수 없어요.
3단계: 결과물에서 번호를 실명으로 복원하기
AI가 준 분석 결과에서 "학생01"을 "김민준"으로 바꿔요. 이 작업은 선생님의 컴퓨터에서만 해요.
로컬 Claude Code의 장점
Claude Code는 선생님의 컴퓨터에서 실행돼요. 채팅형 AI(ChatGPT, Claude.ai)와 달리, 파일을 서버로 업로드하지 않고도 로컬에서 처리할 수 있어요. 가명 처리를 했더라도, 로컬 환경에서 작업하면 데이터가 외부로 나갈 가능성이 한층 더 줄어들어요.
물론 Claude Code도 프롬프트 내용은 Anthropic 서버로 전송돼요. 그래서 가명 처리는 여전히 필요해요. 하지만 파일 자체를 서버에 올려야 하는 웹 기반 서비스보다는 훨씬 안전한 구조예요.
11-3. AI 출력물의 저작권 이해하기
결론 먼저: AI가 만든 수업 자료는 수업 안에서 자유롭게 쓸 수 있어요. 다만 외부 공개나 출판에는 별도의 검토가 필요해요. 선생님이 편집하고 수정한 부분은 선생님의 저작물로 보호받을 수 있어요.
이게 왜 되나요?
요리사가 레시피 앱의 추천을 받아 새 요리를 만들었다고 해봐요. 앱이 "토마토소스에 바질을 넣어보세요"라고 제안했고, 요리사가 거기에 본인만의 양념과 조리법을 더해 완성했어요. 이 요리의 레시피는 누구 것일까요? 앱의 제안을 참고했지만, 최종 요리는 요리사의 창작물이에요.
AI 생성물의 저작권도 비슷한 구조예요.
현재 한국 저작권법의 입장
한국 저작권법은 인간의 사상 또는 감정을 표현한 창작물에 저작권을 부여해요. AI가 단독으로 생성한 결과물은 "인간의 창작"으로 보기 어렵기 때문에, 현재로서는 저작권이 인정되지 않아요.
하지만 교사가 AI 출력물을 바탕으로 편집하고, 수정하고, 교육적 판단을 더해 완성한 자료는 다른 이야기예요. 교사의 창작적 기여가 들어간 부분은 교사의 저작물로 보호받을 수 있어요.
정리하면 이래요.
| 상황 | 저작권 보호 여부 |
|---|---|
| AI가 100% 생성한 원본 그대로 | 저작권 인정 어려움 |
| 교사가 AI 출력물을 편집·수정한 결과 | 교사 저작물로 보호 가능 |
| AI를 도구로 활용해 교사가 주도적으로 창작 | 교사의 저작물 |
AI 생성물 출처 표시, 이렇게 해요
수업 자료에 한 줄만 넣으면 돼요.
"이 자료는 AI 도구(Claude Code)의 도움을 받아 작성되었습니다."
의무는 아니에요. 하지만 솔직하게 밝히는 것이 교육자로서 바른 태도예요. 학생에게 "출처를 밝히세요"라고 가르치면서 교사가 먼저 실천하는 것, 그 자체가 교육이에요.
학생 과제에서 AI 활용 표시
학생이 AI를 활용해 과제를 제출할 때의 기준도 필요해요.
아직 국가 표준은 없어요. 하지만 학기 초에 교과별로 다음 세 가지를 안내해두면 혼란을 줄일 수 있어요.
- 어디까지 허용하는가: "아이디어 구상에 AI 사용 가능, 최종 글쓰기는 본인이 작성" 같은 구체적 범위
- 어떻게 표기하는가: "AI 활용 여부와 방법을 과제 끝에 1~2줄로 기재" 같은 형식
- 위반 시 어떻게 되는가: "재제출 요청" 같은 명확한 절차
이 기준을 만드는 것 자체가 선생님의 전문성이에요. AI가 대신 정해줄 수 없는 영역이에요.
🖥️ 실습해보기 — 수업 자료에 출처 표시 한 줄 넣기
다음 번에 클로드코드로 만든 수업 자료 파일을 저장할 때, 마지막 줄에 이 한 줄을 추가해보세요.
> "이 자료는 AI 도구(Claude Code)의 도움을 받아 작성되었습니다."또는 클로드코드에게 바로 요청할 수 있어요.
> 방금 만든 수업 자료 끝에 "이 자료는 AI 도구(Claude Code)의 도움을 받아
교사가 편집·검토하여 제작되었습니다."라는 출처 표시 한 줄을 추가해줘.11-4. AI 의존 위험과 교사의 역할
결론 먼저: AI는 초안을 만드는 도구예요. 최종 판단과 확인은 반드시 교사가 해요. "AI가 했어요"는 면책 사유가 되지 않아요.
이게 왜 되나요?
내비게이션을 떠올려보세요. 내비가 "300미터 후 우회전"이라고 안내해도, 막상 가보면 공사 중이거나 일방통행인 경우가 있어요. 내비가 알려준 길을 무조건 따라가면 낭패를 볼 수 있어요. 운전자가 눈으로 확인하고 판단해야 해요.
AI도 똑같아요. AI는 그럴듯한 방향을 제안하는 내비게이션이에요. 하지만 실제 교실의 상황, 학생의 감정, 교육과정의 맥락은 선생님만 알아요. AI가 제안한 초안을 교사의 눈으로 확인하고, 필요하면 수정하는 것. 이것이 AI 시대 교사의 핵심 역량이에요.
AI가 그럴듯하게 틀리는 경우
AI는 틀릴 때도 자신감 있게 틀려요. 이것을 **환각(hallucination)**이라고 하는데, 쉽게 말하면 "그럴듯한 거짓말"이에요. 면접에서 모르는 질문을 받았을 때 아는 척 대답하는 것과 비슷해요.
교육 현장에서 특히 조심해야 할 세 영역이 있어요.
생활기록부: 학생의 공식 기록이에요. AI가 "학생은 리더십이 뛰어나며 협동심이 강합니다"라고 썼는데, 실제로는 내성적인 학생이라면? AI 초안의 단어 하나하나를 교사가 직접 검토해야 해요.
학생 평가: AI가 만든 피드백이 특정 학생에게 상처가 될 수 있어요. "노력이 부족합니다"라는 피드백이 가정 사정으로 공부할 환경이 없는 학생에게 전달되면 어떨까요. 학생을 아는 교사만이 적절한 피드백을 쓸 수 있어요.
상담 기록: AI는 학생의 가정 환경, 심리 상태, 교우 관계를 모르는 상태에서 문장을 생성해요. 위기 학생 대응 문서를 AI에 맡기는 것은 위험해요. 그 학생을 가장 잘 아는 교사가 직접 다듬어야 해요.
교사의 새로운 역할 세 가지
AI 시대에 교사의 역할이 사라지는 것이 아니에요. 오히려 더 중요해져요. 다만 역할의 성격이 달라져요.
AI 큐레이터: 좋은 프롬프트를 써서 좋은 결과물을 이끌어내는 역할이에요. 같은 AI라도 프롬프트에 따라 결과물의 품질이 크게 달라져요. "좋은 질문"을 할 수 있는 교사가 "좋은 자료"를 만들 수 있어요.
AI 편집자: AI 초안을 교육적 관점에서 검토하고 수정하는 역할이에요. 학생의 수준, 교실의 맥락, 교육과정의 의도를 반영해서 AI 출력물을 다듬어요. 이 편집 과정에서 교사의 전문성이 드러나요.
AI 코치: 학생이 AI를 올바르게 사용하도록 지도하는 역할이에요. 어떤 상황에서 AI를 쓰면 좋고, 어떤 상황에서는 본인의 힘으로 해야 하는지 안내해요. AI 리터러시를 가르치는 교사, 이것이 AI 시대가 요구하는 새로운 교사상이에요.
"AI가 했어요"는 면책이 되지 않아요
법적으로도, 교육적으로도 "AI가 써줬어요"는 책임 회피 사유가 안 돼요.
교사가 출력물을 검토하고 학생에게 전달한 순간, 그 내용의 책임은 교사에게 있어요. 계산기 오류로 시험 점수가 틀렸을 때 "계산기가 틀렸어요"가 통하지 않는 것과 같아요. 도구를 선택하고 결과를 확인하는 것은 도구를 쓰는 사람의 몫이에요.
이것이 무섭게 들릴 수도 있어요. 하지만 사실은 이래요. 교사가 AI보다 항상 우선이라는 뜻이에요. AI는 교사의 판단 속도를 높이는 도구예요. 판단 자체를 대신하는 존재가 아니에요. 이것을 알면, 오히려 AI를 더 자신감 있게 쓸 수 있어요.
실습해보기: AI 출력물 검토 체크리스트
AI가 만든 수업 자료를 학생에게 전달하기 전에, 아래 다섯 가지만 확인하세요.
- [ ] 사실 확인: 날짜, 숫자, 인물 이름, 역사적 사건이 정확한가?
- [ ] 수준 적합성: 우리 반 학생의 수준에 맞는 어휘와 난이도인가?
- [ ] 편향 점검: 특정 성별, 문화, 지역에 대한 편향된 표현은 없는가?
- [ ] 개인정보 누출: 실명이나 특정 가능한 정보가 포함되지 않았는가?
- [ ] 교육적 적절성: 이 자료가 학습 목표 달성에 실제로 도움이 되는가?
5개 항목을 모두 확인하는 데 3분이면 충분해요. 이 3분이 사고를 막아줘요. 이 체크리스트를 프린트해서 책상 위에 붙여두면, 습관이 돼요.
11-5. 학교 AI 정책 가이드라인 만들기
결론 먼저: 개인 교사의 실천을 넘어, 학교 차원의 AI 정책이 필요해요. 교무 회의에서 다룰 세 가지 핵심 의제가 있어요.
이게 왜 되나요?
교통법규를 떠올려보세요. 운전자마다 "나는 우회전할 때 이렇게 한다"는 개인 습관이 있어요. 하지만 교차로에서 모든 운전자가 각자의 습관대로 움직이면 사고가 나요. 교통 신호와 규칙이 있어야 모두가 안전하게 다닐 수 있어요.
학교에서 AI를 사용하는 것도 마찬가지예요. 교사마다 AI 활용 기준이 다르면 학생과 학부모에게 혼선을 줘요. "국어 선생님은 AI 써도 된다고 했는데, 영어 선생님은 안 된다고 해요" 같은 상황이 벌어지죠. 학교 차원의 공통 기준이 필요한 이유예요.
교무 회의 안건 세 가지
안건 1: 학생 AI 사용 기준
어떤 과제에서 AI 사용을 허용하고, 어떤 과제에서 제한할 것인가.
체크리스트:
- [ ] 교과별 AI 허용 범위를 정했는가? (예: 아이디어 구상만 허용 / 초안 작성까지 허용 / 전면 허용)
- [ ] AI 활용 표기 방식을 통일했는가?
- [ ] AI 활용 과제의 평가 기준을 별도로 마련했는가?
- [ ] 학생에게 기준을 공지하는 시점과 방법을 정했는가?
안건 2: 교사 AI 활용 공개 기준
교사가 AI로 만든 수업 자료를 학생·학부모에게 어떻게 안내할 것인가.
체크리스트:
- [ ] 교사의 AI 활용 사실을 학부모에게 안내하는 방법을 정했는가?
- [ ] AI 생성 평가 자료의 검수 절차를 마련했는가?
- [ ] 학부모 문의에 대한 표준 답변을 준비했는가?
안건 3: AI 생성 평가 자료 검토 절차
AI로 만든 시험 문제, 루브릭, 피드백의 검수 프로세스.
체크리스트:
- [ ] AI 생성 시험 문제의 교차 검토자를 지정했는가?
- [ ] 오류 발견 시 수정 및 재출제 절차가 있는가?
- [ ] AI 생성 피드백의 민감도 검토 기준이 있는가?
Claude Code로 정책 초안 만들기
이 체크리스트를 보면서 "이걸 언제 다 만들어?"라고 느끼실 수 있어요. 여기서 Claude Code가 도와줄 수 있어요.
프롬프트: "초등학교 기준으로 학교 AI 사용 정책 초안을 만들어줘.
학생 AI 사용 기준, 교사 AI 활용 공개 기준,
AI 생성 평가 자료 검토 절차 3가지를 포함해줘.
교무회의에서 바로 논의할 수 있는 형태로 작성해줘."AI가 만든 초안을 가져다 교무 회의에서 논의하세요. 완벽한 정책이 아니어도 괜찮아요. 논의를 시작하는 것 자체가 중요해요. 교사 한 명의 제안이 학교 정책이 되는 경험, 이 책을 읽은 선생님이라면 충분히 할 수 있어요.
11-6. 이번 주 딱 한 가지
이번 주에 딱 하나만 실천하세요.
학교 동료 교사 한 명과 "AI 사용 기준"에 대해 5분 이야기 나눠보기.
복도에서 만난 옆반 선생님에게 이렇게 물어보세요. "선생님, 혹시 수업 자료 만들 때 AI 써보신 적 있어요?" 이 한마디가 학교 AI 정책의 시작이 될 수 있어요.
완벽한 정책을 만들 필요 없어요. 대화를 시작하는 것. 그것만으로 충분해요.