유럽연합(EU)의 인공지능법 투명성 의무가 2026년 8월 2일부터 적용되면서 생성형 AI 서비스와 이를 업무에 사용하는 기업 모두가 새로운 설명 책임을 지게 됐다. 이용자가 챗봇과 대화하고 있다는 사실을 알리는 수준을 넘어, AI가 만든 이미지·음성·영상·텍스트를 기계가 식별할 수 있도록 표시하고 딥페이크나 공익 사안에 관한 합성 콘텐츠에는 사람이 알아볼 수 있는 고지도 제공해야 한다. 규제의 초점은 AI 사용 자체를 막는 데 있지 않다. 사람이 사실로 오인할 가능성이 높은 순간에 정보의 출처와 제작 방식을 확인할 수 있도록 만드는 데 있다.
8월 2일부터 달라진 투명성 기준
EU 집행위원회가 7월 공개한 최종 지침에 따르면 대화형 AI 제공자는 이용자가 기계와 상호작용하고 있음을 명확히 알려야 한다. 생성형 AI 시스템 제공자는 합성 결과물에 탐지 가능한 기계 판독 표시를 넣어야 하며, 실제 서비스를 운영하는 기업이나 기관은 딥페이크, 감정 인식, 생체정보 분류 등 특정 기능을 사용할 때 당사자에게 그 사실을 알려야 한다. 사람이 편집하거나 검토하지 않은 채 공익적 사안을 설명하는 AI 생성 텍스트를 공개할 때에도 합성 사실을 표시하는 것이 원칙이다.
이 기준은 화면 구석에 작은 문구 하나를 넣는 문제로 끝나지 않는다. 생성 과정에서 메타데이터나 워터마크를 심고, 배포 플랫폼이 그 정보를 보존하며, 최종 이용자가 이해할 수 있는 언어로 설명하는 일련의 체계가 필요하다. 이미지가 여러 번 편집되거나 다른 플랫폼으로 재업로드될 때 표시가 사라지지 않도록 기술적 호환성을 확보하는 것도 과제다.
자율 규약과 법적 의무는 다르다
EU는 법 시행에 앞서 AI 생성 콘텐츠의 표시와 라벨링을 위한 행동규약을 내놓았다. 이 규약은 기업이 의무를 이행하는 실무 절차를 제시하지만 참여 자체는 자율적이다. 규약에 서명하지 않았다고 곧바로 위법이 되는 것은 아니지만, 해당 기업은 자신이 선택한 표시 방식이 법적 요구를 충족한다는 점을 별도로 입증해야 한다. 반대로 규약에 참여해도 모든 법적 책임이 자동으로 면제되는 것은 아니다.
여기서 기업의 비용 구조가 갈린다. 대형 플랫폼은 생성 단계부터 표시 기술을 내장하고 법무·감사 조직을 운영할 수 있지만, 외부 모델을 조합해 서비스를 만드는 중소기업은 어떤 사업자가 어느 표시를 책임질지 계약으로 정해야 한다. 모델 제공자, 응용서비스 개발사, 광고 제작사와 최종 게시자가 하나의 콘텐츠에 차례로 관여하는 경우 책임의 연결고리를 문서화하지 않으면 표시 누락이 발생하기 쉽다.
언론·광고·창작 업계에 미치는 영향
보도와 시사 콘텐츠에서는 ‘AI를 사용했다’는 사실만큼 사람이 어떤 부분을 검증했는지가 중요해진다. 단순 맞춤법 교정과 기사 전체 자동 생성은 독자에게 주는 위험이 같지 않다. 편집 책임자가 출처를 확인하고 문장을 수정한 콘텐츠와 사람의 검토 없이 자동 발행된 콘텐츠를 같은 방식으로 표시하면 오히려 정보 가치의 차이가 흐려질 수 있다. 매체는 사용 도구의 이름보다 생성 범위, 인간 검토 여부, 사실 확인 절차를 독자가 이해할 수 있게 설명할 필요가 있다.
광고와 엔터테인먼트 분야에서는 실존 인물의 얼굴이나 목소리를 합성한 경우가 핵심 쟁점이다. 표시가 있다고 해서 초상권이나 저작권 문제가 해결되는 것은 아니다. 투명성 의무는 이용자에게 합성 사실을 알리는 장치이고, 원본 데이터 사용 권한과 당사자 동의는 별도의 법적 문제다. 따라서 기업은 ‘라벨을 붙였으니 사용할 수 있다’는 식으로 규정을 오해해서는 안 된다.
분석: 표시의 존재보다 신뢰할 수 있는 연결이 중요하다
이번 제도의 의미는 콘텐츠 한 장에 라벨을 붙이는 데서 끝나지 않는다. 제작부터 유통까지 이어지는 출처 기록을 보존하고, 플랫폼이 이를 읽어 사용자에게 전달하도록 만드는 시장 표준을 촉진한다는 데 있다. 다만 표시 기술이 서로 호환되지 않거나 플랫폼이 메타데이터를 제거하면 규제의 실효성이 떨어진다. 워터마크를 악의적으로 지우는 행위와 정상적인 편집 과정에서 정보가 사라지는 경우를 구분할 수 있는 감사 체계도 필요하다.
이용자에게도 과제가 남는다. ‘AI 생성’ 표시는 콘텐츠가 거짓이라는 판정이 아니며, 표시가 없다고 해서 사람이 만든 진실한 콘텐츠라는 보장도 아니다. 표시 제도는 진위를 자동 판정하는 장치가 아니라 판단에 필요한 맥락을 추가하는 장치다. 앞으로 관찰할 변수는 주요 플랫폼이 공통 기술 표준을 채택하는지, 중소 사업자의 준수 비용을 낮출 도구가 보급되는지, 각 회원국 감독기관이 유사 사례에 일관된 기준을 적용하는지다.
한국 기업도 EU 이용자에게 AI 서비스를 제공하거나 EU 시장을 대상으로 합성 콘텐츠를 배포한다면 이 변화를 단순한 유럽 내부 규제로 보기 어렵다. 지금 필요한 대응은 모든 결과물에 획일적인 문구를 붙이는 것이 아니라 서비스별 위험을 분류하고, 사람의 검토 단계와 표시 책임자를 정하며, 생성·편집·배포 기록을 남기는 것이다. 신뢰를 만드는 경쟁은 더 많은 AI 기능을 제공하는 속도뿐 아니라 그 결과가 어떻게 만들어졌는지 설명하는 능력에서도 벌어지게 됐다.
의견을 남겨주세요