사용 사례모델 변경
모델은 발밑에서 바뀝니다. 사용자보다 먼저 알아내세요.
벤더는 자체 일정에 따라 모델을 종료하고, 스냅샷을 바꾸고, 기본값을 변경합니다. INFRO는 종료 예정 모델을 계속 보내는 동안 경고하고, 교체 모델을 알려 주며, 라우트로 배포 없이 트래픽을 옮기게 하고, 오류 없이 나타나는 트래픽 변화를 보고합니다.
발견 사항 예시입니다. INFRO는 응답이 아니라 요청 메타데이터를 보므로 응답 품질은 판단하지 않습니다.
문제
컨트롤 플레인 없이
- 종료된 모델은 벤더의 종료일에 프로덕션에서 실패합니다.
- 새 스냅샷이 조용히 더 길게, 더 느리게, 또는 캐시 없이 답합니다.
- 새 모델로 옮기는 것은 모든 서비스의 코드 변경입니다.
INFRO 사용 시
- 아직 보내고 있는 종료 예정 모델을 날짜와 함께 표시합니다.
- 가능한 원인과 주간 비용 영향과 함께 보고되는 트래픽 변화.
- 대상이 바뀌어도 라우트 이름은 계속 작동합니다.
작동 방식
경고 받기
INFRO는 각 벤더의 지원 중단과 종료일을 기록하고, 종료 예정 모델에 계속 요청을 보내는 조직에 경고합니다.
라우트로 이동
이전 이름을 가진 라우트가 교체 모델을 가리키게 하세요. 라우트 이름은 카탈로그 모델보다 먼저 해석되므로 호출자는 바꿀 것이 없습니다.
무엇이 바뀌었는지 살펴보기
트래픽 변화는 새 스냅샷, 더 긴 응답, 프롬프트 캐시 손실, 더 많은 폴백, 더 느린 응답을 표시하며 각각 가능한 원인을 함께 보여 줍니다.
제공되는 것
모두 문서화되어 있으며, 각각 어느 요금제에 포함되는지 명시합니다. 요금제가 명시되지 않은 항목은 모든 요금제에 포함됩니다.
종료 예정 경고
종료 예정 모델을 계속 보내는 조직은 종료일 전에 경고를 받습니다.
문서이름을 밝히며 거부하고, 바꿔치지 않음
종료일부터는 모델이 호출 전에 model_shut_down으로 거부되며, 교체 모델을 알려 줍니다.
문서안정적인 이름으로서의 라우트
라우트가 이전 모델의 이름을 가지고 교체 모델을 가리킬 수 있으므로 호출자는 바꿀 것이 없습니다.
문서트래픽 변화
오류 없는 변화: 새 스냅샷, 더 긴 응답, 프롬프트 캐시 손실, 더 많은 폴백, 잘린 응답, 더 느린 응답.
문서자체 키로 확보하는 가용성
자체 키의 모델 목록을 세 시간마다 읽으며, 목록에서 빠진 모델은 더 이상 제공되지 않습니다.
문서일하는 곳에서 받는 발견 사항
발견 사항은 모든 요금제에서 이메일로 오고, 알림 채널이 포함된 곳에서는 Slack, Teams, PagerDuty 또는 서명된 웹훅으로도 옵니다.
문서
대상
- 플랫폼 팀벤더의 지원 중단 공지가 일정 알림이 아니라 트래픽이 연결된 발견 사항이 됩니다.
- 온콜 엔지니어UTC 00:00의 일반적인 404 대신 교체 모델을 알려 주는 거부.
- 엔지니어링 매니저벤더 스냅샷에서 생긴 비용 변화를 다음 달 청구서가 아니라 며칠 안에 포착합니다.
FAQ
INFRO가 트래픽을 교체 모델로 자동으로 옮기나요?
아니요. INFRO가 사용자를 대신해 다른 모델로 응답하는 일은 없습니다. 종료된 모델은 이름을 밝히며 거부하고, 라우트가 교체 모델을 가리킬지는 사용자가 정합니다.
INFRO는 새 스냅샷이 더 낫게 답하는지 더 못하게 답하는지 판단하나요?
아니요. 응답이 아니라 요청 메타데이터를 보므로, 길이, 지연 시간, 캐시, 폴백, 오류 같은 측정 가능한 변화와 그 예상 비용 영향을 보고하며 품질은 판단하지 않습니다.
종료 날짜는 어디서 가져오나요?
각 벤더 자체의 지원 중단 페이지에서 가져와 읽은 날짜와 함께 기록합니다. 공개 AI 업데이트 타임라인에도 같은 릴리스와 종료가 나열됩니다.
전체 계약은 트래픽 변화 문서에 있으며, 그 밖의 모든 질문은 FAQ에 있습니다.
실무 가이드
- 실무 가이드September 3, 2026: provider incidents and failoverOn 3 September 2026 three AI providers posted incidents within hours of each other. Their own status pages tell a more precise story than the headlines, and it is the story failover has to be designed for.
- 실무 가이드Failover drills: test LLM provider failure before it happensThe failover path is the least-exercised code in most AI applications, and it runs for the first time during an outage. A method for drilling it on purpose: which faults to inject, a mock upstream that injects them, and the assertions that prove recovery happened.