기술 분야의 현재 시장 동향을 살펴보면, 생성형 AI(GenAI)가 의심할 여지없이 미래를 형성하고 있음을 알 수 있습니다. GenAI는 다양한 작업을 자동화하여 인간이 혁신에 집중할 수 있는 시간을 확보할 수 있습니다. 또한 큰 규모의 데이터를 분석하고, 고객에게 맞춤형 경험을 제공하고, 강력한 학습 도구로서 역할을 할 수 있습니다.
그러나 GenAI의 발전이 기술 제공자들이 해결해야 할 중요한 보안 위험을 초래한다는 점을 주목해야 합니다. 생성형 인공지능(GenAI), 대규모 언어 모델(LLMs), 채팅 인터페이스 등을 조직의 방화벽을 넘어서 서드파티 솔루션과 연결하여 배포하는 것은 잠재적인 공격 표면을 확대하고 비즈니스에 더 큰 보안 위협을 가하고 있습니다.
GenAI와 스마트 맬웨어는 공격자의 효율성을 증대시키고, 자동화 수준을 높이고, 공격의 독립성을 확대할 것입니다. 이는 공격자와 방어자가 모두 사용할 수 있는 도구를 크게 강화하는 결과를 낳습니다. GenAI 프롬프트 주입과 모델 멘토링은 효과적으로 완화하기 어려운 데이터 보안 위험을 초래하기도 합니다.
이러한 위험들은 우려할 만한 사항이지만, 동시에 보안 기술 제공자들에게 새로운 기회를 제공하기도 합니다. Gartner의 최근 보고서는 이러한 위험들을 강조하고 사이버 보안 혁신을 위한 기회를 개요로 제시하며, 임원들과 그들의 팀에게 실질적이고 객관적인 통찰력을 전달합니다.
우리의 이해에 따르면, Gartner 보고서는 GenAI와 관련된 보안 위험들을 이해하고 준비하는 것의 중요성을 강조합니다. 보고서는 개인 정보 및 데이터 보안, 공격 효율성 증대, 오보, 사기 및 신원 위험 등 네 가지 주요 위험 영역을 제시합니다.
GenAI 도구들은 훈련과 출력 생성을 위해 데이터에 대한 접근 권한이 필요합니다. 데이터 익명화 기술이 부족하거나 충분히 사용되지 않고/또는 데이터가 타사와 공유되거나 API 인증 권한 관리가 미흡할 경우, 잠재적인 데이터 유출이나 침해가 발생할 수 있습니다. 명시적이고 감시되는 동의 없이는 개인 정보 권리나 데이터 보안 규정을 위반할 위험이 있습니다. 또한, GenAI 도구들은 데이터 침해에 취약할 수 있으며, 이로 인해 민감한 정보가 무단으로 접근되거나 공개될 수 있습니다.
GenAI 기술들은 원본 소스 콘텐츠의 대규모 저장소에서 학습하여 콘텐츠, 전략, 디자인 및 방법론의 새로운 파생 버전을 생성할 수 있습니다. GenAI는 콘텐츠의 검색, 생성, 진위 여부 및 규제; 인간의 작업의 자동화; 고객 및 직원 경험 등 비즈니스에 깊은 영향을 미칩니다. Gartner는 2025년까지 자율 에이전트가 ‘스마트 맬웨어’를 야기하는 고급 사이버 공격을 주도할 것이라고 예상하며, 이는 LLM과 GenAI의 고유한 위험과 위협을 해결하기 위한 혁신을 제공자들에게 요구할 것입니다.
GenAI 도구들은 음성, 비디오 및 텍스트 형식으로 신뢰할 수 있고 현실적인 새로운 콘텐츠를 생성할 수 있으며, 자동화 기능을 통해 상호작용 가능한 공격 시나리오를 제공합니다. 이러한 기능은 악의적인 행위자들이 가짜 정보를 확산하고 사회적, 정치적 문제에 대한 사람들의 의견에 영향을 미치는 방식을 점점 더 효과적이고 자동화된 방식으로 사용할 수 있습니다. 소셜 미디어 채널은 가짜 정보로 범람될 위험이 있습니다.
GenAI가 합성 이미지, 비디오 및 오디오 데이터를 생성하는 능력은 사람의 얼굴이나 음성에 초점을 맞춘 신원 확인 및 생체 인증 서비스에도 위험을 초래합니다. 이러한 프로세스가 훼손되면 공격자는 은행의 계좌 개설 프로세스를 전복하거나 정부 또는 의료 서비스에 있는 시민의 계좌에 액세스할 수 있습니다. 이는 기존 고객과 영업 잠재 고객 모두에게 딥페이크 이미지, 비디오 및 오디오가 제공될 경우 솔루션의 실행 가능성에 대한 우려가 커지고 있습니다.
보고서는 또한 2025년까지 자율 에이전트가 ‘스마트 맬웨어’를 야기하는 고급 사이버 공격을 주도할 것이라고 예상하며, 이는 LLM과 GenAI의 고유한 위험과 위협을 해결하기 위한 혁신을 제공자들에게 요구할 것입니다.
위와 같이 GenAI는 위험을 도래하기도 합니다. 반면에 생성형 AI의 등장으로 보안과 관련한 새로운 기회도 열렸습니다. 기술 공급업체가 변화하는 AI 시장과 그로부터 나오는 도구를 계속 탐색함에 따라 잠재적인 보안 위협에 대한 정보를 얻고 대비하는 것이 최우선 과제가 되어야 합니다.
클루커스는 글로벌 클라우드 보안 기업인 위즈와 파트너십을 체결하고, AI Security Posture Management (AI-SPM) 기능을 제공하는 위즈 솔루션을 제공합니다. AI 파이프라인과 그 위험 요소에 대한 전체 스택 가시성을 제공하는 AI-SPM은 AI보안을 강화하는 기능을 포함하고 있습니다. 이 솔루션은 AI 파이프라인 검색 및 구성 오류 감지, 보안 구성 기준 강화, 공격 경로 제거, 쉐도우 AI 탐지, AI 보안 대시보드 제공 등이 기능을 통해 기업들이 AI 서비스를 보다 안전하게 도입하고 관리할 수 있도록 지원합니다.
위즈는 올해 초 AI개발자와 데이터과학자가 AI 관련 위험으로부터 보호받으며 AI를 구축할 수 있도록 돕는 Wiz AI-SPM을 발표했습니다. 기존 구글 클라우드 버택스 AI와 마이크로소프트 애저 AI 서비스를 지원하는 데 이어 오픈AI API 플랫폼을 지원하는 오픈AI SaaS 커넥터도 출시했습니다. 이번 출시로 기업은 오픈AI 파이프라인의 가시성을 확보하고 주요 위험을 사전에 완화할 수 있습니다.
클루커스는 글로벌 최고의 벤더들과 광범위한 파트너십을 바탕으로 클라우드 환경에서 필수적인 엣지 솔루션을 End-to-End로 제공해드리고 있습니다.
WIZ 솔루션을 활용한 보안 서비스가 필요하시다면 아래 버튼을 통해 전문가 컨설팅을 신청하세요!
(주)클루커스
[본사] 서울특별시 강남구 논현로75길 6 (역삼동, 에비뉴75) | Tel.02-597-3400 | E-mail.marketing@cloocus.com
[지사] 부산광역시 해운대구 센텀중앙로 55, 13F (센텀산학캠퍼스) | Tel.051-900-3400
[United States] 500 7th Ave. Fl 8 New York, NY 10018 | Tel.+1 408.7722024 | E-mail.info_us@cloocus.com
[Malaysia] A-3A, Block A, Level 3A, Sunway PJ51A, Jalan SS9A/19, Seri Setia, 47300 Petaling Jaya. | Tel.+6016 331 5396 | E-mail.infoMY@cloocus.com
개인정보처리방침 서비스 이용약관 Privacy Update
Copyrights 2024 Cloocus co.,ltd. all rights reserved.