AI기본법 시행 6개월, 생성형 AI 기업이 점검해야 할 고지·표시의무
2026년 1월 22일 시행된 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 생성형 AI를 활용하는 사업자에게 투명성 확보 의무를 부과하고 있습니다.
다만 생성형 AI 서비스의 법률 검토는 화면에 표시 문구를 추가하는 작업으로 끝나지 않습니다.
어떤 AI 모델을 사용하고, 이용자 정보가 어디로 전달되며, 생성 결과물이 어떤 방식으로 활용되는지에 따라 개인정보·저작권·계약상 책임까지 함께 검토해야 합니다.
AI기본법상 사전 고지와 결과물 표시
AI기본법 제31조는 생성형 AI 관련 투명성 의무를 두 단계로 구분합니다.
먼저 생성형 AI를 이용한 제품이나 서비스를 제공하려는 인공지능사업자는 해당 제품·서비스가 생성형 AI에 기반해 운용된다는 사실을 이용자에게 사전에 고지해야 합니다.
이와 별도로 생성형 AI 또는 이를 이용한 서비스가 만든 결과물에는 해당 결과물이 생성형 AI에 의해 생성됐다는 사실을 표시해야 합니다.
특히 실제와 구분하기 어려운 음성·이미지·영상은 이용자가 AI 생성물임을 명확하게 인식할 수 있는 방식으로 고지하거나 표시해야 합니다.
즉, 서비스 이용 전에는 AI 활용 사실을 알리고, 결과물이 생성된 후에는 AI 생성물이라는 점을 표시하는 구조입니다.
결과물 표시는 워터마크만을 의미하지 않습니다
생성형 AI 결과물 표시는 반드시 눈에 보이는 워터마크 방식으로만 해야 하는 것은 아닙니다.
시행령은 사람이 직접 인식할 수 있는 방식과 기계가 판독할 수 있는 방식을 모두 허용합니다. 다만 기계 판독 방식만 적용한 경우에는 결과물이 생성형 AI로 만들어졌다는 사실을 안내 문구나 음성 등으로 한 번 이상 제공해야 합니다.
서비스명이나 이용 화면만으로 AI 활용 사실이 명백한 경우, 인공지능사업자의 내부 업무용으로만 사용하는 경우 등에는 고지·표시의무의 전부 또는 일부가 적용되지 않을 수 있습니다.
그러나 내부에서 생성한 자료를 광고·상담자료·보고서 등의 형태로 고객에게 제공한다면 내부 업무용 예외가 그대로 인정되는지는 별도로 검토해야 합니다.
서비스 화면에서만 제공되는 결과물인지, 다운로드하거나 외부에 공유할 수 있는 결과물인지에 따라 표시 방식도 다르게 설계할 필요가 있습니다.
외부 AI API를 이용하는 기업도 적용 대상이 될 수 있습니다
AI 모델을 직접 개발하지 않았다는 이유만으로 AI기본법 적용 대상에서 제외되는 것은 아닙니다.
AI기본법은 다른 사업자가 제공한 AI를 이용해 인공지능제품이나 인공지능서비스를 제공하는 자를 ‘인공지능이용사업자’에 포함합니다.
따라서 외부 대규모언어모델을 API로 연동해 챗봇, 이미지 생성, 문서 작성 또는 상담 서비스를 제공하는 기업도 인공지능사업자에 해당할 수 있습니다.
적용 여부를 판단할 때는 자체 모델을 보유했는지보다, 해당 기업이 외부 AI를 이용해 이용자에게 어떤 제품이나 서비스를 제공하는지를 확인해야 합니다.
표시의무와 개인정보·저작권 문제는 구분해야 합니다
생성형 AI 서비스에서는 이용자가 입력한 정보가 외부 AI 모델로 전달되고, 생성된 결과물이 다시 이용자나 기업에 제공됩니다.
이 과정에서 발생하는 개인정보와 저작권 문제는 AI기본법상 표시의무와는 별개의 법률 쟁점입니다.
1. 입력정보와 개인정보 처리
고객의 이름, 상담 내용, 계약서, 사진 또는 내부자료를 외부 AI에 입력한다면 다음과 같은 데이터 처리구조를 확인해야 합니다.
▪️ 입력정보의 저장 및 모델 학습 활용 여부
▪️ 개인정보가 처리되는 서버와 국가
▪️ 보관기간과 삭제 방법
▪️ 처리위탁·제3자 제공·국외 이전 해당 여부
▪️ 외부 플러그인이나 다른 서비스로의 재전달 여부
외부 AI 사업자와의 관계가 개인정보 처리위탁인지, 제3자 제공이나 국외 이전에 해당하는지는 계약서의 명칭보다 실제 데이터 흐름을 기준으로 판단해야 합니다.
2. 생성 결과물과 저작권
AI가 생성한 이미지·문구·영상·코드라고 해서 기업에 독점적인 저작권이 당연히 인정되는 것은 아닙니다.
결과물 작성 과정에서 사람이 어느 정도 창작적으로 관여했는지, 입력한 원본 자료를 적법하게 사용할 수 있는지, 해당 AI 서비스의 약관이 상업적 이용을 허용하는지 등을 확인해야 합니다.
생성 결과물이 기존 저작물이나 캐릭터, 사진, 디자인과 유사하다면 제3자의 권리를 침해할 가능성도 있습니다.
사람에 대한 판단에 사용된다면 고영향 AI 여부를 확인해야 합니다
모든 생성형 AI가 고영향 AI에 해당하는 것은 아닙니다.
다만 AI가 문서 작성이나 단순 안내를 넘어 채용, 대출, 의료, 교육 등 사람의 권리나 기회에 영향을 미치는 판단에 사용된다면 고영향 AI 해당 여부를 검토해야 합니다.
예를 들어 지원자의 이력서를 요약하는 기능과 합격 가능성을 평가해 점수화하는 기능은 동일하게 보기 어렵습니다.
고영향 AI에 해당하는 경우에는 다음과 같은 조치를 검토해야 합니다.
▪️ 위험관리방안 수립
▪️ 주요 판단 기준에 관한 설명 방안 마련
▪️ 이용자 보호 절차 운영
▪️ 사람에 의한 관리·감독
▪️ 관련 문서의 작성 및 보관
생성형 AI 서비스 출시 전 정비할 문서
생성형 AI 법률 검토는 이용약관이나 표시 문구부터 작성하는 방식으로 진행하기 어렵습니다.
먼저 사용 모델, 이용자가 입력하는 정보, 데이터 전송 경로, 생성 결과물의 이용 범위 및 사람의 검토 절차를 정리해야 합니다.
이후 실제 서비스 구조와 다음 문서가 서로 일치하는지 확인해야 합니다.
AI 고지·표시 문구
서비스 이용 전 사전 고지와 생성 결과물 표시를 구분해 설계
서비스 이용약관
AI 결과물의 이용 범위와 오류·권리침해 발생 시 대응절차 반영
개인정보처리방침
외부 AI 모델을 포함한 개인정보 처리·보관·이전 구조 반영
AI 공급계약 및 API 약관
데이터 이용, 보안사고, 지식재산권과 서비스 중단 책임 확인
사내 AI 사용기준
고객정보·계약서·영업비밀의 입력 제한과 내부 승인 절차 마련
생성형 AI 서비스 구조를 기준으로 한 법률 검토
AI기본법상 생성형 AI 투명성 의무는 서비스 이용 전 고지와 생성 결과물 표시로 구분됩니다.
그러나 실제 기업의 법률 리스크는 표시 방식에만 한정되지 않습니다. 외부 AI 모델의 이용 구조, 개인정보의 처리와 이전, 생성 결과물의 권리, 고영향 AI 해당 가능성 및 공급업체와의 책임 배분까지 함께 확인해야 합니다.
디센트 법률사무소 기업법무팀은 생성형 AI 서비스의 기능과 데이터 흐름을 기준으로 AI기본법 적용 여부, 고지·표시 방식, 개인정보·저작권 및 외부 AI 모델 계약구조를 종합적으로 검토합니다.
본 콘텐츠는 일반적인 법률 정보 제공을 목적으로 하며, 개별 사건이나 사업에 대한 법률 자문을 구성하지 않습니다.
