핵심 요약: AI기본법 제31조의 투명성 확보 의무는 층이 셋입니다. ① 고영향·생성형 인공지능을 이용한 제품·서비스가 그 인공지능에 기반해 운용된다는 사전 고지(제1항), ② 생성형 인공지능 결과물이라는 표시(제2항), ③ 실제와 구분하기 어려운 가상의 음향·이미지·영상에 대한 명확 인식 방식의 고지(제3항)입니다. 이 중 과태료가 직접 붙는 것은 ①뿐이며 1차 500만 원입니다(시행령 별표 2). 고지 방법은 시행령 제23조 제1항이 네 가지를 열거하고, 적용 예외는 같은 조 제4항이 세 가지를 둡니다. 외부 모델 제공자가 결과물에 심어 주는 워터마크는 우리 회사의 제31조 제2항 이행을 대신하지 못합니다.

"우리 서비스에 AI 붙였는데, 어디에 뭐라고 써야 하나요."

이 질문에 한 문장으로 답하기 어려운 이유가 있습니다. 제31조가 하나의 의무처럼 생겼지만 실제로는 서로 다른 세 상황을 겨냥하고 있어서입니다.

챗봇을 붙인 회사, 이미지 생성 기능을 넣은 회사, 실제 사람 목소리와 구분하기 어려운 음성을 만드는 회사가 해야 할 일이 각각 다릅니다.

제31조는 층이 셋입니다

먼저 지도부터 봅니다.

층근거무엇을언제위반 시
① 사전 고지법 §31①, 시행령 §23①이 제품·서비스가 고영향·생성형 AI에 기반해 운용된다는 사실제공 전과태료 1차 500만 원
② 생성물 표시법 §31②, 시행령 §23②이 결과물이 생성형 AI로 생성됐다는 사실결과물에시정명령 대상
③ 가상 결과물 고지법 §31③, 시행령 §23③실제와 구분하기 어려운 음향·이미지·영상이라는 사실결과물에, 명확 인식 방식으로시정명령 대상

①과 ②·③의 차이가 큽니다. ①은 사실조사 절차를 거치지 않고 곧바로 과태료가 부과되는 구조이고, ②·③은 사실조사(법 제40조 제1항)를 거쳐 중지·시정명령이 내려진 뒤 그 명령을 이행하지 않을 때 과태료 사유가 됩니다.

바꿔 말하면, 지금 당장 돈이 나가는 위험은 ①에 몰려 있습니다.

① 사전 고지 — 네 가지 방법 중 하나로

고영향 인공지능이나 생성형 인공지능을 이용한 제품·서비스를 제공하려는 경우, 그 제품·서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지해야 합니다(법 제31조 제1항).

방법은 시행령 제23조 제1항이 넷을 열거합니다.

  1. 제품등에 직접 기재하거나 계약서, 사용 설명서, 이용약관 등에 기재
  2. 이용자의 화면 또는 단말기 등에 표시
  3. 제품등을 제공하는 장소(해당 장소와 합리적으로 관련된 범위의 장소를 포함한다)에 인식하기 쉬운 방법으로 게시
  4. 그 밖에 제품등의 특성을 고려하여 과학기술정보통신부장관이 인정하는 방법

네 가지 중 하나면 됩니다. 다만 실무에서는 1호에만 기대는 구성이 자주 보입니다. 이용약관 어딘가에 한 줄 넣어 두는 방식입니다.

문언상으로는 그것도 열거된 방법입니다. 하지만 조항의 취지가 이용자가 알고 쓰게 하는 데 있는 이상, 챗봇 창을 여는 화면처럼 실제로 눈에 닿는 자리에 한 번 더 표시해 두는 편이 안전합니다.

키오스크나 매장 단말기처럼 화면 표시가 어려운 형태라면 3호가 쓰입니다. "해당 장소와 합리적으로 관련된 범위의 장소를 포함한다"는 괄호는 기기 바로 앞이 아니어도 된다는 뜻으로, 입구 안내판 같은 자리를 열어 준 것입니다.

② 생성물 표시 — 기계 판독 방식을 쓰면 안내가 따라붙습니다

생성형 인공지능 또는 이를 이용한 제품·서비스를 제공하는 경우, 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시해야 합니다(법 제31조 제2항).

시행령 제23조 제2항은 두 가지 방법을 허용합니다.

  1. 사람이 인식할 수 있는 방법
  2. 기계가 판독할 수 있는 방법. 이 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 1회 이상 안내 문구·음성 등으로 제공해야 한다

2호의 단서가 핵심입니다. 워터마크나 메타데이터만 심고 아무 안내도 하지 않는 방식은 이행이 되지 않습니다. 기계 판독 방식을 선택하는 순간 사람을 향한 안내가 한 번은 나가야 합니다.

"1회 이상"이 결과물 하나당인지 이용자 한 명당인지는 문언만으로 확정되지 않습니다. 안전한 설계는 서비스 진입 시점에 한 번 안내하고, 결과물 화면에도 표시를 함께 두는 것입니다.

③ 실제와 구분하기 어려운 결과물 — 명확 인식 방식으로

인공지능시스템으로 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우에는, 그 결과물이 인공지능시스템으로 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시해야 합니다(법 제31조 제3항).

여기에 예외가 붙습니다. 해당 결과물이 예술적·창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 않는 방식으로 고지·표시할 수 있습니다. 작품 화면 한가운데를 가리지 않아도 된다는 뜻이지, 표시를 생략해도 된다는 뜻은 아닙니다.

시행령 제23조 제3항은 두 가지 고려 요소를 답니다.

  1. 이용자가 시각, 청각 등을 통하거나 소프트웨어 등을 이용하여 쉽게 내용을 확인할 수 있는 방법으로 고지 또는 표시할 것
  2. 주된 이용자의 나이, 신체적·사회적 조건 등을 고려하여 고지 또는 표시할 것

2호는 실무 설계를 바꾸는 조항입니다. 아동이 주된 이용자인 서비스라면 성인 기준의 문구로는 부족할 수 있습니다. 시각장애 이용자 비중이 높은 서비스라면 시각 표시만으로는 부족합니다.

적용 예외 세 가지

시행령 제23조 제4항은 제1항부터 제3항까지의 규정 중 전부 또는 일부를 적용하지 않을 수 있는 경우를 셋으로 정합니다.

  1. 제품·서비스명, 이용자 화면이나 제품 겉면 및 결과물에 표시된 문구 등을 고려할 때 고영향 인공지능 또는 생성형 인공지능을 활용한 사실이 명백한 경우
  2. 인공지능사업자의 내부 업무 용도로만 사용되는 경우
  3. 그 밖에 제품등의 유형·특성이나 결과물의 내용, 이용형태 및 기술 수준 등을 고려하여 적용 예외가 필요하다고 과학기술정보통신부장관이 정하여 고시하는 경우

1호는 서비스 이름에 이미 "AI"가 들어가 있는 경우처럼, 다시 알릴 실익이 없는 상황을 덜어 주는 규정입니다. 다만 판단이 "명백한 경우"라는 평가에 걸려 있어서, 이 예외에만 기대는 설계는 위험합니다.

2호에서 갈리는 회사가 많습니다. 기준은 "내부 업무 용도로만"입니다. 사내 문서 요약에 쓰던 기능을 고객 화면에 열어 주는 순간 예외를 벗어납니다. 사내 도구와 고객용 기능이 같은 모델을 공유하는 구조라면, 어느 쪽 경로로 결과물이 나가는지를 기준으로 나눠 정리해야 합니다.

모델이 워터마크를 넣어주면 우리 표시의무는 끝나나

끝나지 않습니다. 이 질문이 최근 부쩍 늘었기에 따로 봅니다.

2026년 8월 2일부터 Anthropic이 Claude의 출력물에 표시를 심기 시작했습니다. 텍스트에는 눈에 보이지 않는 워터마크를, 이미지와 SVG 파일에는 C2PA 규격의 서명된 출처 메타데이터를 넣는 방식입니다. API로 부르는 경우는 물론 AWS·구글 클라우드·마이크로소프트 파운드리를 거쳐 쓰는 경우까지 포함하고, 적용 지역도 EU가 아니라 전 세계입니다.

근거는 우리 법이 아니라 EU 인공지능법 제50조입니다. 그 조항의 투명성 의무 적용일이 2026년 8월 2일이었습니다. 구글도 SynthID로 같은 방향을 잡고 있습니다. 외부 모델을 갖다 쓰는 회사라면, 자기가 심지 않은 표시가 결과물에 딸려 오는 상황을 앞으로 기본값으로 놓고 판단하는 편이 안전합니다.

문제는 그 표시가 우리 회사의 제31조 제2항 이행이 되지 않는다는 점입니다. 이유가 셋입니다.

안내가 빠집니다. 시행령 제23조 제2항 제2호는 기계 판독 방식을 택했다면 그 사실을 1회 이상 안내 문구·음성 등으로 제공하라고 요구합니다. 모델 제공자가 심어 주는 것은 워터마크까지이고, 안내는 이용자를 직접 대면하는 화면에서 나가야 합니다. 그 화면은 우리 서비스입니다.

표시가 가리키는 것이 다릅니다. 모델 제공자는 이 마크를 "해당 모델이 처리했을 수 있다"는 표시로 설명합니다. 사람이 쓴 초안을 모델에 넣어 다듬기만 해도 마크가 붙습니다. 반대로 결과물을 크게 고쳐 쓰거나 번역하거나 다른 모델을 한 번 더 거치면 마크는 사라집니다. 제31조 제2항이 표시하라고 한 것은 "생성형 인공지능에 의하여 생성되었다는 사실"입니다. 처리한 흔적과 생성한 사실은 눈금이 서로 다릅니다. 마크의 유무를 그대로 표시 근거로 삼으면, 표시가 있어야 할 결과물에 표시가 없거나 표시할 필요가 없는 결과물에 표시가 붙습니다.

딥페이크류에는 아예 쓸 수 없습니다. 제31조 제3항은 실제와 구분하기 어려운 음향·이미지·영상에 "명확하게 인식할 수 있는 방식"을 요구합니다. 눈에 보이지 않게 심는 워터마크는 정의상 이 요건을 충족하지 못합니다. 이 유형을 만든다면 사람이 바로 알아볼 수 있는 표시를 우리가 따로 붙여야 합니다.

정리하면 모델 제공자의 표시는 우리 의무의 대체물이 아니라 보조 수단입니다.

지금 점검할 것

  1. 우리 제품·서비스에 생성형 AI 기능이 있는가. 있다면 사전 고지가 시행령 제23조 제1항의 네 가지 방법 중 하나로 나가고 있는가
  2. 그 고지가 이용약관 안에만 있는가, 이용자가 실제로 보는 화면에도 있는가
  3. 생성물 표시를 기계 판독 방식으로만 하고 있다면, 1회 이상의 안내 문구·음성을 함께 제공하고 있는가
  4. 그 워터마크가 모델 제공자가 심어 준 것이라면, 안내는 우리 화면에서 따로 나가고 있는가
  5. 실제와 구분하기 어려운 음향·이미지·영상을 만든다면, 사람이 바로 알아볼 수 있는 표시를 붙였는가
  6. 주된 이용자에 아동·고령자·장애인이 포함된다면 고지 방식을 그에 맞게 조정했는가
  7. 내부 업무 용도로만 쓰는 기능과 고객에게 제공하는 기능을 경로 기준으로 구분해 정리했는가

우리 인공지능이 고영향 영역에서 쓰인다면 고지와 별개로 여섯 가지 책무가 따라붙습니다. 판단 기준과 확인 요청 절차는 우리 서비스가 '고영향 인공지능’인가에 정리했습니다.

생성형 AI 서비스에는 이 고지·표시 의무와 별개로 저작권 문제가 함께 따라옵니다. 학습 데이터의 적법성과 출력물의 침해 위험을 누가 지는지는 우리가 도입한 AI가 무단 학습을 했다면 책임은 누구에게 있나에서 따로 정리했습니다.

자주 묻는 질문

Q. AI기본법상 고지 의무 중 과태료가 붙는 것은 어느 것인가요?

제31조 제1항의 사전 고지뿐입니다. 고영향 인공지능이나 생성형 인공지능을 이용한 제품·서비스가 해당 인공지능에 기반해 운용된다는 사실을 사전에 알리지 않으면 1차 500만 원, 2차 1,000만 원, 3차 이상 1,500만 원의 과태료가 부과됩니다(법 제43조 제1항 제1호, 시행령 별표 2). 제2항의 생성물 표시와 제3항의 가상 결과물 고지는 직접 과태료 대상이 아니라 사실조사와 시정명령을 거친 뒤 그 명령을 이행하지 않을 때 과태료 국면으로 넘어갑니다.

Q. 사내에서만 쓰는 AI 도구도 고지해야 하나요?

인공지능사업자의 내부 업무 용도로만 사용되는 경우에는 제31조 제1항부터 제3항까지의 규정 전부 또는 일부를 적용하지 않을 수 있습니다(시행령 제23조 제4항 제2호). 다만 기준은 '내부 업무 용도로만’입니다. 사내 문서 요약에만 쓰던 기능을 고객 화면에 노출하는 순간 예외에서 벗어납니다. 제품·서비스명이나 화면 문구를 볼 때 AI 활용 사실이 명백한 경우도 별도의 예외 사유입니다(같은 항 제1호).

Q. 우리가 쓰는 AI 모델이 워터마크를 넣어주면 표시의무를 이행한 것이 되나요?

되지 않습니다. 시행령 제23조 제2항은 기계가 판독할 수 있는 방법으로 표시하는 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 1회 이상 안내 문구·음성 등으로 제공하도록 요구하는데, 그 안내는 이용자를 대면하는 우리 화면에서 나가야 합니다. 또 모델 제공자의 마크는 '생성’이 아니라 '처리’를 표시하는 것이어서 사람이 쓴 글을 다듬기만 해도 붙고 크게 고쳐 쓰면 사라집니다. 실제와 구분하기 어려운 음향·이미지·영상이라면 보이지 않는 워터마크로는 제31조 제3항의 '명확하게 인식할 수 있는 방식’을 충족하지 못합니다.

이 글은 일반적인 정보 제공을 목적으로 하며, 구체적인 사안에 대한 법률자문이 아닙니다. 개별 사안은 사실관계에 따라 결론이 달라질 수 있으므로 별도의 검토가 필요합니다.

참고 자료