## 학습 자료 ### 원본 자료 - 대화를 통한 질의응답 학습 ### 추가 조사 자료 - 민스키와 페이퍼트의 "Perceptrons" (1969) - 역전파 알고리즘과 다층 퍼셉트론 ## 핵심 요약 ### 3줄 요약 1. XOR은 "정확히 하나만 참일 때 참"을 출력하는 배타적 OR 연산이다 2. XOR 문제는 직선으로 분리할 수 없는 대표적인 비선형 문제이다 3. 단층 퍼셉트론의 한계를 보여주며, 다층 신경망의 필요성을 증명한다 ### 상세 요약 #### XOR 논리 게이트 XOR(배타적 OR)은 두 입력이 서로 다를 때만 1(참)을 출력하는 논리 연산 **진리표:** | 입력 A | 입력 B | XOR 출력 | |--------|--------|----------| | 0 | 0 | 0 | | 0 | 1 | 1 | | 1 | 0 | 1 | | 1 | 1 | 0 | #### OR vs XOR 차이점 - **OR**: "둘 중 하나라도 참이면 참" → (1,1)도 참(1) 출력 - **XOR**: "정확히 하나만 참일 때 참" → (1,1)은 거짓(0) 출력 **쉬운 비유:** - OR: "커피 또는 차를 마실래?" (둘 다 가능) - XOR: "한식 또는 양식 중 하나만 선택해" (하나만 가능) #### 왜 직선으로 분리 불가능한가? **XOR 데이터의 좌표평면 배치:** ``` B | 1 | ○(0,1) ●(1,1) | | 0 | ●(0,0) ○(1,0) |______________ 0 1 A ``` - 검은점(●): (0,0), (1,1) - 출력 0 - 흰점(○): (0,1), (1,0) - 출력 1 - **대각선 패턴**으로 배치되어 어떤 직선으로도 완전 분리 불가능 #### 단층 퍼셉트론의 한계 **퍼셉트론의 계산 방식:** ``` 출력 = w1×A + w2×B + bias ``` - 이 식은 **일차 방정식 = 직선의 방정식** - 결정 경계: `w1×A + w2×B + bias = 0` (직선) - 가중치들의 일차결합만 가능 - 곱셈(A×B), 제곱(A²), 복잡한 함수 불가능 - 따라서 **무조건 직선 경계**만 생성 가능 #### 선형 vs 비선형 분류 - **선형적 구분**: 하나의 직선(또는 평면)으로 두 그룹을 나눌 수 있음 - **비선형적 구분**: 곡선, 원, 복잡한 모양의 경계가 필요 **해결 방법: 다층 퍼셉트론** - 은닉층 추가로 비선형 활성화 함수 사용 - 최소 구조: 입력층(2) → 은닉층(2) → 출력층(1) - 복잡한 곡선 경계 생성 가능 ## 개념 체크리스트 ### 이해한 개념 - [x] XOR과 OR의 차이점 ✅ 2025-07-10 - [x] XOR 진리표 ✅ 2025-07-10 - [x] 좌표평면에서 XOR 데이터의 대각선 패턴 ✅ 2025-07-10 ### 중요한 개념 (더 연습 필요) - [ ] 단층 퍼셉트론이 직선 경계만 만드는 수학적 이유 - [ ] 선형 분류와 비선형 분류의 구분 - [ ] 다층 퍼셉트론을 통한 XOR 문제 해결 ### 헷갈리는 개념 - [x] 왜 일차방정식이 직선을 의미하는지 ✅ 2025-07-10 - [x] 비선형 활성화 함수의 역할 ✅ 2025-07-10 - [x] 은닉층이 어떻게 비선형성을 만드는지 ✅ 2025-07-10 ## 복습 기록 ### 1일 복습 - 요약 확인: - 개념 체크: - 느낀 점: ### 4일 복습 - 심화 학습: - 연결관계: - 느낀 점: ### 7일 복습 - 통합 이해: - 타 단원 연관성: - 느낀 점: ### 14일 복습 - 최종 점검: - 실전 적용: - 느낀 점: ## 역사적 의미 - 1969년: 민스키와 페이퍼트가 "Perceptrons"에서 XOR 문제 지적 - 첫 번째 AI 겨울의 원인 중 하나 - 1980년대: 역전파 알고리즘으로 다층 신경망이 XOR 해결 - 신경망 연구 재활성화의 전환점 ## 실습 아이디어 - [ ] 다양한 직선을 그어서 XOR 분리 시도해보기 - [ ] 단층 퍼셉트론으로 AND, OR 구현해보기 - [ ] 다층 퍼셉트론으로 XOR 구현해보기 - [ ] 다른 비선형 문제들 찾아보기 ## 연관 개념 - 퍼셉트론과 신경망 - 활성화 함수 - 역전파 알고리즘 - 비선형성과 딥러닝의 필요성 ## 관련 문서 - [[미분과 역전파에서 비선형성의 필요성]] - 수학적 관점에서의 비선형성 필요성