1. Gemini 볶음을 먹는 Chat-GPT
2. Chat-GPT 구이를 먹는 Gemini
3. 2차로 Claude탕+중국산 Claude 증류주 마시고 알딸딸해진 Chat-GPT와 Gemini
1. Gemini 볶음을 먹는 Chat-GPT, Chat-GPT 구이를 먹는 Gemini
- 추론 강화
- B2C (일반인 타겟)에서 B2B (기업 타겟)으로
- 개발 트랜드는 코딩
가장 중요한 동향이라면 인터넷에 AI가 생성한 콘텐츠의 범람. 인간이 생성한 콘텐츠는 학습용으로 턱없이 부족하고, 인간이 생성한 콘텐츠라 하더라도 AI를 어느 정도 사용한 콘텐츠가 많음. 그 결과, 아무리 AI 생성물을 학습에서 배제하려 해도 배제시킬 수 없는 지경이 되었음. 이제 서로가 서로 생성한 콘텐츠로 학습시키고 있는 중
2. 2차로 Claude탕+중국산 Claude 증류주 마시고 알딸딸해진 Chat-GPT와 Gemini
- 2026년, 앤트로픽은 중국 AI 회사들이 자신들의 AI인 Claude를 증류했다고 폭로
- 방법은 중국이 대규모 허위 계정을 생성해서 Claude에 수많은 질문을 던지고, 질문과 답변을 자사 AI에 학습시키는 방법
- AI는 증류시킬 수록 성능이 떨어지고 환각이 폭증함
- 대신 경량화에 매우 효과적
- 그래서 저렴한 비용 때문에 중국 AI를 도입하거나 도입 검토하는 곳들이 증가 중
- 저렴한 비용 때문에 이미 증류 , 양자화 등 경량화를 거쳐서 출시한 미국 AI를 다시 증류해서 내놓은 중국 AI 사용이 많아지면 중국 AI 콘텐츠가 그만큼 증가하고, 이는 그만큼 AI의 할루시네이션 발생 확률이 증가함을 의미함
3. AI 학습 증류란?
- 빠른 이해 : 답지 외우기
- AI는 학습을 하며 사고, 추론 능력을 키움
- 하지만 답변할 때는 답변을 도출하기 위한 모든 사고, 추론 과정을 출력하지는 않음
- 즉, AI 학습에서 증류란 '선생님 모델'과 '학생 모델'이 있음
- '선생님 모델'에게 질문을 함. 이때 왜 그런 답이 나오는지도 알려달라고 함
- 이렇게 생성된 답변을 '학생 모델'에게 학습시킴
- 선생님 모델이 답변을 생성할 때 아무리 모든 사고, 추론 과정을 알려달라고 해도 그것을 다 출력하지는 않음. 즉 사고, 추론 과정의 일부가 제거됨
- 학생 모델은 이렇게 사고, 추론 과정의 일부가 제거된 답지를 그대로 외우는 것임
- 증류를 거칠 수록 이렇게 사고, 추론 과정이 일부 제거됨
AI 학습 증류의 장점
- 경량화가 쉬움 (문제집 답지와 해설을 보고 외우는 것)
- 저렴한 비용
- 가격을 많이 낮췄다면 여러 개의 AI 모델/AI 모듈을 묶어서 돌리는 방식으로 답변 품질을 높일 수 있음 (작업의 분배, 교차 검증)
AI 학습 증류의 단점
- 생암기를 생각하면 됨
- 사고, 추론 능력이 떨어짐
- 증류를 너무 많이 돌리면 사고, 추론 능력이 너무 형편없어져서 사고, 추론에서 응용이 제대로 안 됨. 이때 억지로 답변을 지어내려고 하며 모르는 부분을 마구 지어냄. 즉 할루시네이션이 폭증
- 지나치게 증류를 많이 돌린 모델은 벤치마크는 매우 잘 나옴. 대신 조금만 문제가 달라져서 할루시네이션이 폭발함. 이를 벤치마크 과적합이라고 함
AI 학습 증류의 예시
예시문제) 7-x=5
(1번) 1 (2번) 2 (3번) 3 (4번) 4 (5번) 5
선생님 모델 예시
- 양쪽에 x를 더해준다. 이러면 7-x+x=5+x -> 7=5+x가 되며 좌변의 x는 없어지고 우변에는 x가 생긴다. 원래 있던 좌변의 x와 새로 생긴 우변의 x의 부호는 반대다. 즉 좌변의 항을 지우고 우변에 항을 써줄 때 부호를 바꿔야 한다. 이것을 이항이라고 한다. 우변의 5 역시 이와 같은 방식으로 처리할 수 있다. 그러면 7-5=x가 된다. 7-5를 계산하면 2다. 2=x이다. 그러므로 답은 2번
1차 증류 예시
예) 좌변의 x를 우변으로, 우변의 5를 좌변으로 이항한다. 그러면 7-5=x가 된다. 7-5=2, 그러므로 x=2, 정답 2번
2차 증류 예시
예) 한쪽에 x만 남기고 이항으로 정리. 7-5=x, 그러므로 정답 2
3차 증류 예시
예) 7-x=5, x=2, 정답 2
3차 증류 모델에서 할루시네이션이 발생하는 예시
예) 7-(-x)=5 -> 7, -, x, =, 5 공통, 그러므로 x=2 (실제 정답은 -2)