FedEx Express는 220개의 국가 및 지역에서 하루 650만 개 이상의 소포를 처리합니다. FedEx의 비즈니스가 성장하고 기술이 발전함에 따라 고객의 기대는 변화해왔습니다. 운영을 간소화하고 더 나은 서비스로 고객 요구 사항을 충족하기 위해 FedEx는 Microsoft Azure Machine Learning의 기계 학습 운영 기능을 사용하여 소포 분석 솔루션을 개발했습니다. 이를 통해 고객 응대 전화를 줄이고 실시간 가시성을 개선했으며 지속적인 혁신을 위한 토대를 마련했습니다.
FedEx의 데이터 과학자 대표인 Eric Brosch는 이렇게 말합니다. “수년간 우리는 뛰어난 연구원이 모델을 구축하고 테스트한 다음 버튼 하나만 누르면 FedEx 전체의 응용 프로그램에서 이를 사용할 수 있도록 하는 꿈을 꾸었습니다. Azure Machine Learning의 MLOps 기능을 통해 이 꿈은 마침내 현실이 되었습니다.”
선도적인 패키지 배송
화물에서 소비재에 이르기까지 FedEx는 세상을 윤택하게 하는 수백만 개의 소포를 제공합니다. 각 소포를 추적하면 많은 데이터가 생성되며 회사는 오랜 역사에 걸쳐 이 데이터를 평가해왔습니다. 1978년 FedEx의 창립자이자 회장이자 CEO인 Fred Smith는 “소포에 대한 정보는 소포 자체만큼이나 중요하다.”라고 말했을 정도입니다.
그 어느 때보다 많은 소포와 데이터를 관리함에 따라 FedEx는 항상 대규모의 문제를 해결하고 프로세스를 최적화하며 운영 효율성을 창출하기 위해 노력하고 있습니다. FedEx는 픽업 피크 시간에 분당 약 10,000개 이상의 US Express 소포를 처리하고 소포 배송 프로세스를 최적화하면서 배송 시간을 예측하기를 원했습니다. 모든 패키지에 대한 분석을 생성하고 공유하는 능력을 향상시킬 수 있다면 고객에게 더 나은 서비스를 제공하고 고객 응대 전화를 줄일 수 있다고 판단했습니다. 그래서 FedEx는 머신러닝을 사용하여 기술 역량을 발전시키는 방법을 모색하기 시작했습니다.
새로운 플랫폼의 빠른 채택
FedEx는 분석 솔루션에 대한 요구를 지원할 수 있는 것을 찾기 위해 수년에 걸쳐 다양한 클라우드 플랫폼과 온프레미스 컨테이너화 솔루션을 평가했습니다. 그리고 마침내 FedEx Express는 테스트를 통해 Azure 플랫폼이 그들이 매일 경험하는 엄청난 양의 데이터를 효과적으로 처리할 수 있다고 결론 내렸습니다.
FedEx는 Azure Databricks 를 사용하여 신속하게 모델을 개발하고 Azure Machine Learning 을 사용하여 워크플로를 테스트하고 모델을 배포 하는 패키지 분석 솔루션을 만들었습니다. 데이터 처리, 모델 교육, 모델 배포 및 모델 업데이트의 자동화를 지원하기 위해 회사는 Azure DevOps , Azure Data Factory 및 Azure Machine Learning의 기계 학습 노트북을 사용합니다.
협업의 힘
Microsoft와의 협력 외에도 FedEx는 자체 데이터 과학/운영 연구, IT, 마케팅 및 정보 보안 팀 간의 긴밀한 협력으로 프로젝트의 성공을 인정합니다. 과거에는 운영 연구 팀에서 일하는 데이터 과학자들이 모델 구축에 집중했고 IT 직원은 모델을 준비하고 배포했습니다. Eric Brosch는 몇 년 전에 운영 연구원이 개발한 모델을 프로덕션에 배포하는 것이 얼마나 어려운지에 대해 Raymond Igharas와 이야기한 것을 회상합니다. Azure Machine Learning에서 기계 학습 작업 (MLOps) 기능을 사용하여 데이터 과학자는 리소스를 재사용하고, 노트북으로 개발할 때 공동 작성하고, 사용자 지정 보기 및 대시보드를 공유할 수 있습니다.
Eric Brosch는 “이전에는 기존 모델을 FedEx 데이터 센터에서 작동하는 코드로 전환하기 위해 매우 수동적인 프로세스를 따라야 했습니다.”라고 말합니다. “수년 동안 우리는 뛰어난 운영 연구원이 모델을 구축하고 테스트한 다음 버튼 하나만 누르면 FedEx 전체의 응용 프로그램에서 사용할 수 있도록 하는 꿈을 꾸었습니다. Azure Machine Learning의 MLOps 기능이 마침내 현실이 되었습니다. Azure를 사용하여 운영 연구와 IT 간의 설계 문서 교환 및 회의를 포함하는 프로세스를 자동화했습니다.”
Azure에서 빠르고 쉬운 모델 테스트
FedEx 개발자가 Azure에서 빠르게 작업할 수 있었던 이유 중 하나는 다양한 서비스가 원활하게 함께 작동하기 때문입니다. Eric Brosch는 “Azure를 채택함으로써 우리는 잘 지원되고 완전히 상호 운용 가능한 종단 간 환경을 갖게 되었습니다.”라고 말합니다. “여러 공급업체 솔루션을 통합하고 솔루션을 통합하기 위해 6개의 서로 다른 접점을 처리하는 것에 대해 걱정할 필요가 없습니다. 이 프로젝트만큼 빠르게 진행되는 프로젝트는 본 적이 없는 것 같습니다.”
FedEx는 또한 Azure Machine Learning의 기계 학습 프로세스에 DevOps 사례를 적용할 때 제공되는 자동화 기능 덕분에 개발 속도를 높였습니다. FedEx Express의 수석 운영 연구 분석가인 Xiaoge Zhang은 “개발자이자 기술 책임자로서 이제 클러스터를 자동으로 생성할 수 있는 기능에 정말 감사드립니다.”라고 말했습니다. “Azure의 기계 학습 운영 기능이 없었다면 이 프로젝트는 골치거리였을 것입니다.”
확장성 제공
FedEx 팀 구성원은 늦은 오후에 가장 많은 수의 US Express 소포를 수령하며 회사는 Azure 분석 솔루션이 문제없이 피크타임 소포 관련 트랜잭션 수요를 충족하도록 확장된다는 것을 발견했습니다. FedEx Services의 고급 분석 및 데이터 과학 관리자인 Srikant Chari는 “Azure를 사용하면 컴퓨팅 리소스 또는 데이터 액세스를 비롯한 리소스를 즉시 확보하고 확장 및 축소할 수 있습니다. “데이터의 양은 계절과 시간에 따라 변하는 패키지 양에 따라 변하는데, 우리는 그것을 온프레미스로 해결할 수 없었습니다.”
Raymond Igharas는 다음과 같이 덧붙입니다. “픽업 주기가 최고조에 달하는 2시간 동안 Azure에서 오류율이 1% 미만입니다. 이는 매우 낮고 우리의 운영 요구 사항을 초과합니다.”
로드맵에 대해 자세히 알아보기
FedEx는 패키지 분석 솔루션을 회사의 Azure 여정의 시작에 불과하다고 생각합니다. 다음으로 직원은 Azure Machine Learning 관리형 끝점을 미리 보고 Azure에서 IT 관리형 모델 배포를 제공할 수 있는 가능성과 명령줄을 사용하여 현재 모델과 새 모델 간에 트래픽을 분할할 수 있는 기능을 조사합니다. Eric Brosch는 “이미 Azure Machine Learning을 사용하여 패키지를 예측하고 있습니다. “관리형 엔드포인트를 사용하여 대규모로 모델과 추론을 배포할 수 있기를 기대합니다. 인프라를 관리하는 데 걸리는 시간을 줄여 비즈니스 문제에 집중할 수 있기 때문입니다.”
FedEx는 내부 운영을 간소화하기 위해 이러한 프로젝트를 수행하며, 궁극적인 목표는 고객에게 패키지에 대한 더 많은 정보를 제공하여 고객의 만족도를 높이고 지원 요청의 필요성을 줄이는 것입니다. 그리고 패키지 분석 솔루션을 출시한 이후로 회사는 고객 지원 전화 통화가 줄어들었습니다. FedEx Services의 AI 및 기계 학습 제품 관리자인 Bikram Virk는 다음과 같이 결론을 내렸습니다. “고객은 패키지에 대한 시기적절하고 정확한 정보와 데이터 기반 배송 경험을 기대합니다. 우리는 Azure Machine Learning을 통해 FedEx가 선두를 유지하도록 돕고 있으며 미래 프로젝트를 위한 전문 지식을 구축하고 있습니다.”
고객은 패키지에 대한 시기적절하고 정확한 정보와 데이터 기반 배송 경험을 기대합니다. 우리는 Azure Machine Learning을 통해 FedEx가 선두를 유지하도록 돕고 있으며 향후 프로젝트를 위한 전문 지식을 구축하고 있습니다.
Bikram Virk: AI 및 기계 학습 제품 관리자
페덱스 서비스
픽업 주기가 최고조에 달했을 때 2시간 동안 Azure에서 1% 미만의 오류율이 발생했습니다. 이는 매우 낮고 운영 요구 사항을 초과합니다.
Raymond Igharas: 관리자, 운영 연구 및 공간 분석
페덱스 익스프레스
