OpenAI, ‘초지능의 거버넌스’ 발표

OpenAI가 방금 흥미로운 새 기사를 발표했습니다. ‘초지능의 거버넌스’에 대해 자세히 살펴보고, AGI를 능가하는 미래 AI 시스템에 대해 알아봅니다.

OpenAI의 CEO인 샘 알트먼은 지금이 바로 인공 생성 지능(AGI)보다 훨씬 더 뛰어난 미래 AI 시스템인 초지능의 거버넌스에 대해 생각하기 시작할 좋은 시기라고 말했습니다.

알트먼은 “초지능은 특별한 대우와 조율이 필요하지만, 오늘날의 AI 기술도 위험을 완화해야 한다”고 강조했습니다.

그는 다른 OpenAI 리더들과 함께 블로그 게시물에서 “현재 상황을 고려할 때 향후 10년 이내에 AI 시스템이 대부분의 영역에서 전문가의 기술 수준을 뛰어넘어 오늘날의 대기업만큼 생산적인 활동을 수행할 수 있을 것으로 예상됩니다.”라고 말했습니다.

“실존적 위험의 가능성을 고려할 때 우리는 사후 대응만 할 수는 없습니다. 원자력 에너지는 이러한 속성을 가진 기술의 역사적으로 흔히 사용되는 예이며, 합성 생물학도 또 다른 예입니다.”라고 그는 언급했습니다.

지난주 미국 상원의원들이 ChatGPT와 같은 AI 챗봇에 대한 우려를 표명한 것처럼, 알트먼은 생성형 인공지능(AI) 기술이 잘못될 경우 큰 문제가 발생할 수 있다고 인정했습니다.

워싱턴 DC에서 열린 미국 상원 청문회에서 증언한 알트먼은 AI가 “점점 더 강력해짐에 따라” AI 산업에 대한 정부의 규제가 필요하다고 말했습니다.

다음은 주요 인사이트를 요약한 내용입니다:

• 협업이 핵심입니다: 최고의 개발 노력 간의 조정이 중요합니다.
• 국제적인 감독: 국제원자력기구(IAEA)와 같은 국제적인 기관이 필요하다는 주장이 제기되고 있습니다.
• 구축 그 이상: 초지능을 구축하는 것이 최종 목표는 아닙니다. 안전을 보장할 수 있는 기술적 역량도 필요합니다.
• 대중의 참여: 고성능 AI 시스템의 거버넌스는 대중의 실질적인 감독을 받아야 합니다.
• 되돌릴 수 없는 진보: 위험에도 불구하고 초지능의 생성을 중단하는 것은 실현 가능하거나 바람직한 선택이 아닙니다.

요약하자면, 우리는 유망한 만큼이나 도전적인 미래를 바라보고 있으며, 그 어느 때보다 위험성이 높습니다. 

한 가지 확실한 것은 향후 몇 년 안에 세상이 완전히 달라질 것이라는 점입니다.