01핵심 개요
| 항목 | 내용 |
|---|---|
| 사건 | 페이블 5에 사용자에게 보이지 않는 안전 장치가 탑재된 사실이 시스템 카드로 드러남 |
| 문제 | 겉으로는 답하지만 그 답이 최선인지 흐려진 것인지 사용자가 알 수 없음 |
| 결과 | 격렬한 반발 → 출시 이틀 만에 후퇴, "균형을 잘못 잡았다" |
| 대안 | 사용자가 볼 수 있는 Opus 4.8 폴백 방식으로 전환 |
023가지 보이지 않는 개입 (시스템 카드 명시)
1
프롬프트 모디피케이션질문지 자체를 슬쩍 바꿔치기해 답을 달라지게 함
2
스티어링 벡터환경이 아닌 모델 머릿속에 직접 손을 대 특정 주제에서 생각이 옆으로 새도록
3
PEFT(부분 재교육)특정 주제만 따로 추가 학습시켜 아예 다르게 답하게 함
질문을 바꾸거나·생각을 틀거나·모델을 바꾸거나 — 셋 다 사용자는 알 수 없음. "답할 수 없습니다"가 아니라 겉으로는 정상 답변을 내놓는 점이 핵심 문제.
03전략적 의미
안전 장치의 투명성이 신뢰의 핵심임을 보여준 사건. 보이지 않는 개입은 검열·품질 저하 의심을 키워 오히려 신뢰를 무너뜨림. 엔트로픽이 '사용자가 볼 수 있는 폴백'으로 선회한 것은, 안전과 투명성을 양립시키는 방향으로의 업계 기준 정립 신호.
04용어 사전
| 용어 | 한줄 설명 | 비유/예시 |
|---|---|---|
| 시스템 카드 | 모델의 동작·안전장치를 공개하는 문서 | 제품 성분표 |
| 스티어링 벡터 | 모델 내부 표현을 특정 방향으로 미는 기법 | 생각의 방향키를 몰래 돌림 |
| PEFT | 일부만 효율적으로 추가 학습하는 미세조정 | 특정 과목만 따로 재교육 |
| 폴백 | 특정 상황에서 다른 모델/응답으로 대체 | 안 되면 예비 답안으로 |