EU, AI 라벨링과 투명성 규칙 시행

DesignArena, 790만 달러 투자 유치로 AI 모델에 감각 추가

출처: TechCrunch

DesignArena는 전 세계 530만 명이 사용하는 플랫폼으로, 인간의 평가를 통해 AI 모델의 성능을 향상시키는 데 중요한 역할을 합니다. 최근 790만 달러의 투자를 유치하여 AI 모델에 감각을 추가하는 기술 개발에 박차를 가할 계획입니다.

출처: TechCrunch

OpenAI는 최근 첫 럭셔리 여행을 개최하고 인플루언서들을 초대해 논란을 일으켰습니다. 일부 인플루언서들은 이 여행을 통해 OpenAI의 최신 기술을 체험할 수 있었지만, 일부에서는 이 여행이 불필요한 낭비라고 비판했습니다.

출처: TechCrunch

Apple은 최근 Siri를 개선하여 더한 개인 비서로 만들었습니다. 그러나 일부 사용자들은 여전히 Siri의 성능이 아쉬운 점이 많다고 생각합니다.

출처: TechCrunch

미 의회는 최근 ChatGPT를 가장 많이 사용하는 AI 도구로 밝혀졌습니다. 일부 의원들은 ChatGPT를 통해 법안을 요약하고, 의사당에서 사용하는 문서를 작성하는 데 도움을 받고 있습니다.

출처: TechCrunch

Marc Benioff는 최근 AI를 통해 AI 배포 문제를 해결할 수 있다고 주장했습니다. 그는 June라는 스타트업을 통해 AI 배포를 더 쉽게 만들고자 합니다.

출처: The Verge

EU는 최근 AI 라벨링과 투명성 규칙을 시행했습니다. 이 규칙은 사용자들이 AI를 사용할 때 더 투명하게 정보를 제공받을 수 있도록 도와줍니다.

The Verge 기사 원문은 접근이 차단되어 직접 열람은 못했지만, 같은 사안(EU AI Act 투명성 규정·딥페이크 라벨링)을 다룬 여러 매체 보도를 종합해 정리해드립니다.

핵심 시점

8월 2일(일)부터 EU AI Act의 투명성 조항(제50조)에 대한 유럽위원회 AI 사무국과 각국 당국이 강제 집행 권한을 갖게 되었다. 기존에는 서면상 권한만 있었지만 이제 문서 제출 요구, 기술 평가, 벌금 부과가 가능해졌다.

주요 규제 내용

딥페이크 라벨링: AI로 편집되거나 생성된 이미지·영상·음성은 딥페이크로 표시되어야 하며, AI로 생성되거나 변경된 콘텐츠는 기계 판독이 가능한 마크를 부착해야 한다.
챗봇 고지 의무: 챗봇 같은 대화형 AI 시스템은 사용자가 인간이 아닌 AI와 상호작용하고 있다는 사실을 고지해야 한다.
의도와 무관하게 적용: 실존 인물처럼 보이거나 들리는 콘텐츠는 기만 의도가 없었더라도, 심지어 실제 인물을 묘사한 게 아니어도 라벨을 붙여야 한다. 다만 하늘을 나는 사람이나 용처럼 명백히 비현실적인 콘텐츠는 이 정의에서 제외된다.
적용 대상: Anthropic의 Claude, OpenAI의 ChatGPT 같은 생성형 AI 시스템 제공업체는 인위적으로 생성되거나 조작된 콘텐츠가 그렇게 탐지될 수 있도록 보장해야 한다. 개인적 용도는 적용 범위에서 제외되며, 전문적 목적으로 AI를 사용하는 기업·개인에게 규정이 적용된다.

목적과 우려

위원회는 이 규정의 목적이 기만과 조작을 줄이고 사람들이 온라인에서 정보에 기반한 선택을 하도록 돕는 것이라고 밝혔다.
실효성에는 의문도 제기된다. 기술적 과제로 인해 규정이 얼마나 효과적일지에 대한 의구심이 있으며, EU는 역내에서 활동하거나 EU 시장을 겨냥한 기업은 규제할 수 있지만 온라인 콘텐츠 자체의 국경을 넘는 확산은 통제하기 어렵다는 지리적 한계가 있다.

자율 규범(Code of Practice)

이미 180개 이상의 기관이 위원회의 ‘AI 생성 콘텐츠 투명성에 관한 행동강령(Code of Practice)’에 서명했으며, 이는 기업들이 새 의무를 준수하고 있음을 보여주기 위한 자발적 프레임워크다.
위반 시 벌금은 전년도 글로벌 매출액 비율 또는 정액 중 더 큰 금액을 기준으로 부과되며, 중소기업에는 비례적으로 낮은 벌금이 적용된다.