이탈리아의 개인 정보 보호 감시 기관, 데이터 유출 우려로 ChatGPT 금지
이탈리아 데이터 보호 당국, ‘ChatGPT가 프라이버시를 존중할 때까지’ 조치 시행 예정
이탈리아의 개인정보 보호 감시 기관은 최근 발생한 데이터 유출 사건과 인기 챗봇을 훈련시키는 데 개인 데이터를 사용하는 법적 근거에 대한 우려를 제기한 후 ChatGPT를 금지했습니다.
이탈리아 데이터 보호 당국은 이번 조치가 “ChatGPT가 프라이버시를 존중할 때까지” 임시적인 조치라고 설명했습니다. 이 감시 기관은 ChatGPT의 소유주인 샌프란시스코에 본사를 둔 OpenAI가 “이탈리아 사용자의 데이터 처리에 즉각적인 일시적 제한”을 가하고 있다고 밝혔습니다.
OpenAI는 금요일에 이탈리아에서 ChatGPT를 비활성화했으며 EU의 일반 데이터 보호 규정(GDPR)을 준수한다고 밝혔습니다.
“우리는 사람들의 개인 정보를 보호하기 위해 최선을 다하고 있으며 GDPR 및 기타 개인 정보 보호법을 준수한다고 믿습니다.”라고 OpenAI 대변인은 말하며, 회사는 ChatGPT와 같은 시스템에서 개인 데이터의 사용을 제한한다고 덧붙였습니다.
“우리는 AI가 개인이 아닌 세상에 대해 학습하기를 원하기 때문에 ChatGPT와 같은 AI 시스템을 훈련할 때 개인 데이터를 줄이기 위해 적극적으로 노력합니다.”
ChatGPT는 사용자의 질문에 그럴듯한 답변을 생성하고 시, 학술 에세이, 장문의 문서 요약 등 다양한 콘텐츠를 생성하는 능력으로 작년 11월 출시 이후 센세이션을 일으켰습니다.
이 시스템은 인터넷에서 수집한 방대한 양의 정보를 학습한 획기적인 인공 지능 시스템으로 구동됩니다.
이탈리아 감시 기관은 성명에서 챗봇의 정보 처리 방식에 대한 우려를 언급했습니다.
“사용자와 OpenAI가 데이터를 수집하는 모든 관련자에게 통지하지 않은 점”을 언급하며 “플랫폼이 의존하는 알고리즘을 ‘훈련’하기 위해 개인 데이터를 대량으로 수집하고 처리하는 것을 뒷받침하는 법적 근거가 없는 것으로 보인다”고 말했습니다.
이 금지 조치는 Tesla의 CEO인 Elon Musk를 포함한 1,000명 이상의 인공 지능 전문가, 연구원 및 후원자들이 OpenAI와 같은 회사가 “아무도 이해하거나 예측하거나 안정적으로 제어할 수 없는 더욱 강력한 디지털 마인드”를 만들고 있다는 우려 속에서 최소 6개월 동안 “거대한” 인공 지능 개발을 즉각 중단할 것을 요구한 지 며칠 후에 내려진 것입니다.
또한 이탈리아 규제 당국은 3월 20일에 발생한 OpenAI의 데이터 유출 사고에 대해서도 언급했는데, 이 사고로 인해 이메일 주소와 신용카드 마지막 4자리 등 일부 사용자의 개인 정보와 대화 내용이 부분적으로 노출되었습니다.
규제 당국은 ChatGPT가 “사용자의 대화 및 서비스 가입자의 결제와 관련된 정보”에 관한 데이터 손실에 직면했다고 말했습니다. 당시 OpenAI는 사과하며 “신뢰를 회복하기 위해 열심히 노력할 것”이라고 밝혔습니다.
규제 당국은 또한 “ChatGPT에서 제공하는 정보가 항상 사실과 일치하지 않아 부정확한 개인 데이터가 처리되고 있다”며 부정확한 답변에 대한 ChatGPT의 성향을 언급하는 것으로 보였습니다.
마지막으로, “연령 확인이 부족하여 OpenAI의 서비스 약관에 따라 13세 이상의 사용자를 대상으로 하는 서비스임에도 불구하고 어린이가 나이와 인식에 전혀 적합하지 않은 답변을 받을 수 있다”고 지적했습니다.
이탈리아 감시 기관은 OpenAI가 사용자 데이터의 개인 정보 보호를 위해 어떤 조치를 취했는지 20일 이내에 보고해야 하며, 그렇지 않을 경우 최대 2천만 유로(1,750만 파운드) 또는 연간 글로벌 매출의 4%에 해당하는 벌금이 부과될 수 있다고 밝혔습니다. 이에 대한 의견을 듣기 위해 OpenAI에 연락을 취했습니다.
ChatGPT를 개발한 OpenAI는 금요일 논평 요청에 즉시 응답하지 않았습니다.
이번 조치는 Microsoft의 Bing 검색 엔진과 같이 챗봇을 구동하는 동일한 기술을 사용하기 위해 이미 OpenAI와 라이선스를 보유한 회사의 애플리케이션에는 영향을 미치지 않을 것으로 보입니다.
OpenAI의 CEO인 샘 알트먼은 이번 주에 사용자 및 개발자와 이 기술에 대해 이야기하기 위해 5월에 6개 대륙을 순회하는 투어를 시작한다고 발표했습니다.
여기에는 유럽 연합 의원들이 고위험 AI 도구를 제한하기 위한 새로운 규칙을 협상 중인 브뤼셀도 포함될 예정입니다.
