싱가포르 AI 에이전트 서비스 운영에 따른 책임과 데이터 관리
AI 에이전트는 이용자의 질문에 답하는 것을 넘어, 목표를 달성하기 위한 업무를 계획하고 외부 데이터와 시스템에 접근해 실제 작업까지 수행합니다.
고객 문의를 분석한 뒤 이메일을 발송하거나, 데이터베이스를 수정하고, 결제·환불 절차를 실행하는 방식입니다. AI가 실제 행동을 수행하기 시작하면서 잘못된 판단이나 보안 취약점이 곧바로 개인정보 유출, 무단 거래, 계정 변경 등의 피해로 이어질 가능성도 커졌습니다.
싱가포르는 이러한 위험에 대응하기 위해 AI 에이전트의 권한, 인간의 감독, 개인정보 처리 및 보안 통제를 중심으로 거버넌스 기준을 구체화하고 있습니다.
싱가포르 AI 에이전트 거버넌스 프레임워크의 도입
싱가포르 정보통신미디어개발청(IMDA)은 2026년 1월 「Model AI Governance Framework for Agentic AI」를 발표했습니다. 2026년 5월에는 실제 기업 사례와 새로운 운영 기준을 반영한 개정판을 공개했습니다. 개정 과정에는 AWS, DBS, Google, Salesforce 등 50개 이상의 기관이 의견을 제공했습니다.
해당 프레임워크는 AI 에이전트 사업자에게 새로운 라이선스를 요구하거나 직접적인 처벌 기준을 정한 법률은 아닙니다. 기업이 AI 에이전트를 책임 있게 배포하고 운영하기 위해 참고할 수 있는 비구속적 거버넌스 지침에 해당합니다. IMDA는 AI 에이전트를 운영하더라도 인간과 조직이 최종적인 책임을 부담한다는 점을 강조하고 있습니다.
다만 프레임워크 자체가 법률이 아니라는 이유만으로 실무상 의미가 작은 것은 아닙니다.
AI 에이전트가 개인정보를 처리하면 싱가포르 개인정보보호법(PDPA)이 적용될 수 있고, 금융·보험·의료·채용 등 규제산업에서는 분야별 법령도 함께 검토해야 합니다. 서비스 오류로 이용자에게 손해가 발생하는 경우에는 계약상 책임과 불법행위 책임이 문제 될 가능성도 있습니다.
업무 위험에 따라 AI의 자율성을 다르게 설계해야 합니다
싱가포르 프레임워크의 핵심은 AI 에이전트의 자율성을 일률적으로 낮추는 것이 아니라, 업무의 위험 수준에 따라 권한과 인간의 개입 범위를 다르게 설정하는 데 있습니다.
내부 문서를 검색하거나 초안을 작성하는 업무는 비교적 넓은 범위에서 자동화할 수 있습니다. 반면 고객 계정 정지, 계약 체결, 환불, 자금이체처럼 결과를 되돌리기 어렵거나 개인의 권리에 직접 영향을 미치는 업무에는 별도의 승인 절차가 필요합니다.
이때 사람의 감독은 단순히 AI가 제시한 결과를 형식적으로 승인하는 수준에 그쳐서는 안 됩니다.
담당자가 AI의 작업 내용과 판단 근거를 확인할 수 있어야 하며, 필요한 경우 작업을 중단하거나 이전 상태로 복구할 수 있어야 합니다. 기업 내부에서는 AI 에이전트의 운영 책임자와 사고 발생 시 대응 주체도 명확하게 정해야 합니다.
AI 에이전트에 부여하는 데이터와 시스템 접근권한 역시 업무 수행에 필요한 범위로 제한해야 합니다. 필요 이상의 고객정보나 관리자 권한을 부여하면 하나의 오류가 여러 시스템으로 확산될 수 있기 때문입니다.
개인정보 검토는 서비스 설계 단계부터 필요합니다
AI 에이전트는 이용자가 직접 입력한 정보뿐 아니라 고객관리 시스템, 이메일, 구매기록, 사내 문서 등 여러 출처의 데이터를 결합해 업무를 수행할 수 있습니다.
싱가포르 개인정보보호위원회(PDPC)는 2026년 7월 20일 「Advisory Guidelines on Use of Personal Data in Generative AI」를 발표했습니다. 이 가이드는 생성형 AI 모델과 시스템을 개발·배포하는 과정에서 개인정보를 어떻게 수집·이용하고 보호해야 하는지에 관한 기준을 제시합니다.
AI 에이전트가 생성형 AI 모델을 기반으로 작동하거나 고객정보를 외부 모델에 전달한다면, 기업은 다음과 같은 데이터 흐름을 확인해야 합니다.
어떤 개인정보가 에이전트에 입력되는지, 외부 모델 제공자가 해당 정보를 저장하거나 학습에 이용하는지, 처리 목적이 종료된 이후 언제 삭제되는지를 먼저 정리해야 합니다.
싱가포르 이용자의 개인정보가 한국이나 제3국 서버로 이전되는 경우에는 국외이전 규율도 검토해야 합니다. 싱가포르 PDPA는 개인정보를 국외로 이전할 때 현지 PDPA와 비교할 수 있는 수준의 보호조치를 확보하도록 요구합니다.
따라서 개인정보 처리방침에 국외이전 사실을 기재하는 것에 그치지 않고, 외부 AI·클라우드 사업자와의 계약에서 데이터 이용 목적, 재학습 여부, 보안 의무, 사고 통지 및 계약 종료 후 삭제 책임을 구체적으로 정할 필요가 있습니다.
AI 에이전트의 보안 위험은 실제 시스템 실행으로 이어질 수 있습니다
AI 에이전트가 이메일, 첨부파일, 웹사이트 등 외부 정보에 접근하면 공격자가 숨겨 놓은 명령을 정상적인 데이터로 받아들일 수 있습니다.
그 결과 원래 허용되지 않은 작업을 실행하거나 인증정보와 개인정보를 외부로 전송할 가능성이 있습니다. 여러 에이전트가 서로 업무를 위임하는 구조에서는 하나의 잘못된 명령이 결제, 고객관리, 개발 시스템 등으로 확산될 수도 있습니다.
싱가포르 사이버보안청(CSA)은 「Securing Agentic AI」 부속지침을 통해 AI 에이전트의 전체 업무 흐름을 파악하고, 외부 입력과 도구 연결 과정에서 공격자가 개입할 수 있는 지점을 식별하도록 제시하고 있습니다. 해당 자료는 시스템 소유자가 에이전틱 AI를 안전하게 운영하기 위한 공개 의견수렴용 지침으로 소개됐습니다.
기업은 에이전트별로 최소한의 접근권한만 부여하고, 사용할 수 있는 외부 도구를 제한해야 합니다. 중요 명령과 처리 결과를 기록하고, 비정상적인 행동이 확인되면 즉시 작업을 중단할 수 있는 기능도 필요합니다.
모델, 플러그인 또는 외부 도구가 변경되는 경우에는 기존 보안 검토가 여전히 유효한지도 다시 확인해야 합니다.
외부 AI 솔루션을 사용해도 운영기업의 책임이 사라지지는 않습니다
AI 에이전트를 직접 개발하지 않고 외부 사업자의 솔루션을 도입하는 경우에도, 서비스 운영과 관련된 책임이 공급업체에 자동으로 이전되는 것은 아닙니다.
고객에게 서비스를 제공하고 에이전트의 권한을 설정한 기업은 자신의 운영 구조와 관리 방식에 대한 책임을 부담할 수 있습니다. 모델의 결함이나 보안 취약점이 원인이라면 개발사 또는 솔루션 제공업체의 책임도 함께 검토될 수 있습니다.
따라서 AI 솔루션 공급·도입 계약에서는 이용료와 서비스 수준 외에도 데이터와 모델의 관리 주체, 보안사고 통지 시점, 오류 원인 조사, 기능 변경, 데이터 반환·삭제 및 손해배상 기준을 구체적으로 정해야 합니다.
서비스 이용약관에는 AI가 자동으로 수행하는 업무와 사람이 검토하는 업무를 구분하고, 잘못된 작업이 발생했을 때 이용자가 정정·취소 또는 담당자 검토를 요청할 수 있는 절차를 반영해야 합니다.
단순히 AI의 오류 가능성을 고지하는 것만으로 운영기업의 책임이 모두 면제되는 것은 아닙니다.
싱가포르 진출 전 정비해야 할 사항
싱가포르의 AI 에이전트 거버넌스는 특정 문서 하나만 작성해 대응할 수 있는 문제가 아닙니다. 서비스 기획과 개발, 개인정보 처리, 보안, 계약 및 고객 대응 구조를 함께 정비해야 합니다.
▪️ AI 에이전트가 수행할 수 있는 업무와 금지 업무
▪️ 접근 가능한 데이터·시스템 및 권한 범위
▪️ 인간의 사전 승인과 사후 검토가 필요한 단계
▪️ 개인정보의 수집·저장·국외이전·삭제 구조
▪️ 외부 AI 사업자와의 책임 및 사고 대응 기준
▪️ 작업기록 보존, 긴급 중단 및 복구 절차
특히 결제, 금융, 보험, 채용, 의료처럼 이용자의 권리나 경제적 이해관계에 직접 영향을 미치는 서비스를 제공한다면, 출시 이후가 아니라 설계 초기부터 현지 법률과 거버넌스 기준을 반영할 필요가 있습니다.
디센트 법률사무소의 싱가포르 AI 법률 자문
디센트 법률사무소 국제법무팀은 싱가포르에 진출하는 AI·핀테크·플랫폼 기업을 대상으로 AI 서비스 구조와 현지 규제에 관한 법률 자문을 제공합니다.
AI 에이전트의 업무 범위와 데이터 흐름을 분석하고, 인간 승인 체계와 접근권한 구조가 싱가포르의 거버넌스 및 개인정보보호 기준에 부합하는지 검토합니다.
외부 AI 솔루션 공급·도입 계약, 서비스 이용약관, 개인정보 처리방침, 개인정보 국외이전 및 사고 대응 체계에 관한 자문도 함께 진행합니다.
본 콘텐츠는 일반적인 법률 정보 제공을 목적으로 하며, 개별 사건이나 사업에 대한 법률 자문을 구성하지 않습니다.
