2025 책임 있는 AI 투명성 보고서

AI 구축부터 고객 지원 및 성장에 이르기까지

본 보고서는 신뢰할 수 있는 AI 기술 개발에 대한 마이크로소프트의 지속적인 노력을 강조하며,

AI 시스템을 책임감 있게 설계하고 배포하는 방식,

고객과 광범위한 생태계를 지원하는 방법, 그리고 우리가 학습하고 진화해 나가는 과정 속에서 이룬 주요 성과들을 담고 있습니다.

주요 내용

2024년 마이크로소프트는 AI 혁신에 발맞추기 위해 책임 있는 AI 도구 및 정책, 실행 방안에 대한 대규모 투자를 단행했습니다.

책임 있는 AI 도구 개선으로 리스크 측정 및 완화 기능 고도화

책임감 있는 AI 도구를 개선하여 텍스트뿐만 아니라 이미지, 오디오, 비디오 등 다양한 형태의 리스크를 측정하고 완화하는 범위를 확대했으며, 2025년 이후 주요 AI 투자 및 혁신의 핵심 분야로 주목받고 있는 에이전트 기반 시스템(agentic systems)에 대한 지원을 확대했습니다.

AI 규제 대응을 위한 선제적·다각적 접근

유럽연합 AI 법안(EU AI Act) 등 새로운 규제 요건을 준수하기 위해 선제적이고 다각적인 접근 방식을 수립하고, 고객들이 규정을 준수하면서 지속적으로 혁신을 이어갈 수 있도록 다양한 리소스와 자료를 제공했습니다. 업계를 선도하는 포괄적이고 책임 있는 AI 프로그램 구축을 위한 초기 투자 덕분에, 2024년에는 본격적으로 AI 규제에 효과적으로 대응할 수 있는 기반을 마련했습니다.

일관된 AI 리스크 관리 시스템 및 중앙 집중식 내부 워크 플로우 도구 런칭

사전 배포 전 검토와 규제팀(red team) 활동을 통해 일관된 리스크 관리 시스템을 지속적으로 적용했습니다. 이는 Azure OpenAI 서비스에 새롭게 추가되는 주요 모델 및 모든 PHI(개인 건강 정보) 모델 출시를 포함하여 AI 및 생성형 AI의 고영향 및 고위험 사용에 대한 철저한 감독과 검토를 포함합니다. 이러한 검토의 일환으로 책임 있는 AI 문서화를 효과적으로 지원하기 위해 책임 있는 AI 표준(Responsible AI Standard)에 명시된 다양한 요구사항을 중앙에서 관리할 수 있도록 내부 워크플로우 도구를 런칭했습니다.

새로운 리스크 대응에 대한 선제적 가이드 제공

민감한 사용 및 신기술 전담 조직(Sensitive Uses and Emerging Technologies Team)을 통해 고위험 및 고영향 AI 활용 사례에 대한 실질적인 자문을 지속적으로 제공하고 있습니다. 2024년에는 헬스케어 및 과학 분야에서 생성형 AI의 활용이 크게 확대될 것으로 예상하며, 이에 대비해 해당 조직은 다양한 사례를 분석하고, 연구진과 긴밀히 협업하며, 새롭게 부상하는 위험 요소와 신기술에 대한 초기 가이드를 제공함으로써 혁신을 촉진하고 새로운 내부 정책 및 가이드라인 수립을 지원했습니다.

AI 기술의 사회·기술적 영향 분석과 핵심 기술 투자

AI 기술 발전에 따른 사회기술적 이슈를 이해하기 위해 연구 기반 인사이트를 지속적으로 활용하고 있으며, AI 시스템의 성능, 효율성, 안전성을 극대화하기 위한 핵심 기술에 대한 전략적 투자를 하기 위해 AI 프런티어 연구소(AI Frontiers Lab)을 설립했습니다.

AI를 위한 일관성 있는 거버넌스 프레임워크 구축

전 세계 이해관계자들과 협력하여 모든 조직이 국경을 넘어 AI를 혁신하고 사용할 수 있도록 일관된 거버넌스 프레임워크를 구축했습니다. 이 노력의 일환으로 다양한 분야의 거버넌스 관련 서적을 발간하고 AI 시스템 테스트를 위한 통합 표준 마련에도 기여했습니다.

2025년 하반기 및 그 이후의 계획

AI 혁신과 도입이 지속적으로 발전하는 가운데 마이크로소프트의 핵심 목표는 변함없이 ‘신뢰 구축’에 있습니다. 전 세계적으로 AI를 폭넓고 이롭게 활용하기 위한 필수 기반은 신뢰이며, 이를 바탕으로 Microsoft는 앞으로의 여정에서 변화하는 환경 속에서도 유연성을 유지하면서 AI 거버넌스에 대한 확고한 약속을 지키기 위해 다음 세 가지 영역에 집중할 계획입니다.

1 AI 발전 속도에 맞춘 유연하고 민첩한 리스크 관리 도구 및 실행 방안 개발

AI의 혁신적인 잠재력을 전 세계 개인과 조직이 온전히 활용하기 위해서는 리스크를 예측하고 관리할 수 있는 역량이 함께 진화해야 합니다. 이를 위해 우리는 AI 기술의 발전과 다양해지는 활용 시나리오에 따라 빠르게 대응할 수 있는 유연한 도구와 실행 방안을 갖추고 있으며, 앞으로도 이러한 리스크 관리 시스템에 대한 투자를 확대할 예정입니다.
특히, 가장 일반적으로 발생하는 리스크들을 효과적으로 해결할 수 있는 도구와 실행 전략을 제공할 것입니다. 또한, 마이크로소프트 전사적으로 테스트 세트, 리스크 완화 조치, 모범 사례를 공유할 수 있도록 체계를 마련할 계획입니다.

2 AI 공급망 전반에 걸친 효과적인 거버넌스 구현

신뢰할 수 있는 AI를 구축하고 유지하려면 모델 개발자, 애플리케이션 빌더, 시스템 사용자 등 모든 주체가 협력하여 신뢰할 수 있는 AI를 설계, 개발, 운영해야 합니다. 유럽연합 AI 법안(EU AI Act)과 같은 AI 규제 역시 공급망 참여자 간의 정보 공유 필요성을 반영하고 있습니다.
마이크로소프트는 이러한 공동 책임(shared responsibility) 개념을 적극 수용하고 있으며, 빠르게 변화하는 AI 생태계 속에서 각 주체의 역할과 책임이 어떻게 연결되어야 하는지를 명확히 정의하는 것은 여전히 복잡하다는 점을 인식하고 있습니다. 이에 따라, 내부 및 외부 이해관계자들과 함께 협업하여 공통된 이해를 넓히고, 역할과 기대치를 명확히 하기 위한 노력을 이어가고 있습니다.

3 AI 리스크 측정·평가를 위한 공통 규범과 실효성 있는 도구 확산을 통한 생태계 활성화

AI 리스크의 측정 및 평가는 아직 초기 단계에 있으며, 우리는 그 성장을 지원하기 위해 지속적으로 투자할 예정입니다. 여기에는 리스크 측정의 경계를 확장하는 연구와 대규모 운영 환경에 적용 가능한 평가 도구 개발이 포함됩니다.
뿐만 아니라, 생태계 전반에 걸쳐 이러한 도구와 모범 사례를 공유함으로써 AI 리스크 평가 및 측정에 대한 공통 표준과 규범이 확립될 수 있도록 적극 지원할 것입니다.