OpenAI, ‘초지능의 거버넌스’ 발표

OpenAI, ‘초지능의 거버넌스’ 발표

OpenAI가 방금 흥미로운 새 기사를 발표했습니다. ‘초지능의 거버넌스’에 대해 자세히 살펴보고, AGI를 능가하는 미래 AI 시스템에 대해 알아봅니다.

OpenAI의 CEO인 샘 알트먼은 지금이 바로 인공 생성 지능(AGI)보다 훨씬 더 뛰어난 미래 AI 시스템인 초지능의 거버넌스에 대해 생각하기 시작할 좋은 시기라고 말했습니다.

알트먼은 “초지능은 특별한 대우와 조율이 필요하지만, 오늘날의 AI 기술도 위험을 완화해야 한다”고 강조했습니다.

그는 다른 OpenAI 리더들과 함께 블로그 게시물에서 “현재 상황을 고려할 때 향후 10년 이내에 AI 시스템이 대부분의 영역에서 전문가의 기술 수준을 뛰어넘어 오늘날의 대기업만큼 생산적인 활동을 수행할 수 있을 것으로 예상됩니다.”라고 말했습니다.

“실존적 위험의 가능성을 고려할 때 우리는 사후 대응만 할 수는 없습니다. 원자력 에너지는 이러한 속성을 가진 기술의 역사적으로 흔히 사용되는 예이며, 합성 생물학도 또 다른 예입니다.”라고 그는 언급했습니다.

지난주 미국 상원의원들이 ChatGPT와 같은 AI 챗봇에 대한 우려를 표명한 것처럼, 알트먼은 생성형 인공지능(AI) 기술이 잘못될 경우 큰 문제가 발생할 수 있다고 인정했습니다.

워싱턴 DC에서 열린 미국 상원 청문회에서 증언한 알트먼은 AI가 “점점 더 강력해짐에 따라” AI 산업에 대한 정부의 규제가 필요하다고 말했습니다.

OpenAI, ‘초지능의 거버넌스’ 발표

다음은 주요 인사이트를 요약한 내용입니다:

  • 협업이 핵심입니다: 최고의 개발 노력 간의 조정이 중요합니다.
  • 국제적인 감독: 국제원자력기구(IAEA)와 같은 국제적인 기관이 필요하다는 주장이 제기되고 있습니다.
  • 구축 그 이상: 초지능을 구축하는 것이 최종 목표는 아닙니다. 안전을 보장할 수 있는 기술적 역량도 필요합니다.
  • 대중의 참여: 고성능 AI 시스템의 거버넌스는 대중의 실질적인 감독을 받아야 합니다.
  • 되돌릴 수 없는 진보: 위험에도 불구하고 초지능의 생성을 중단하는 것은 실현 가능하거나 바람직한 선택이 아닙니다.

요약하자면, 우리는 유망한 만큼이나 도전적인 미래를 바라보고 있으며, 그 어느 때보다 위험성이 높습니다. 

한 가지 확실한 것은 향후 몇 년 안에 세상이 완전히 달라질 것이라는 점입니다.

Similar Posts

  • ai 스티브잡스와 ai 엘런 머스크의 대화

    AI Steve Jobs는 AI Elon Musk와 대화합니다. 지난 3개월 동안 인류는 기술적으로 10년을 진보한 것 같습니다. 관련된 글: 스탠퍼드의 획기적인 AI 연구 Apple, AI 기반 건강 코치 앱 쿼츠 출시 Microsoft Bing 및 Edge를 통한 차세대 AI 혁신의 물결 발표 1,136개의 AI 툴을 입맛에 맞게 찾아주는 smartwithai.com 글만 쓰면 다 만들어주는 AI 도구 9개를 강력…

  • 구글 바드: 여러 개의 답변

    바드에게 질문을 하면 답변에 여러 개의 초안이 표시되며, 이를 클릭하고 쉽게 탐색할 수 있습니다. 참고: 어떤 프롬프트도 입력으로 사용할 수 있습니다. 프롬프트 관련된 글: 구글 바드: 코드 설명 구글 바드: 웹 페이지의 실시간 요약 구글, 구글 문서도구 기능을 포함한 새로운 생성 AI 도구 출시 빌게이츠와 구글, 어도비, NVIDIA의 AI 소식 구글, AI 기반 새로운 검색…

  • 유리병 속 판타지 월드: stable diffusion

    깊은 색감과 정교한 디테일이 돋보이는 환상적인 판타지 컨셉 아트 유리병 안에 들어 있는 숨막히는 세계를 탐험할 준비가 되셨나요? 섬세한 무광 페인팅 기법으로 완성된 놀라운 미니어처 세계를 만나보세요. 깊은 색감과 환상적인 요소로 가득한 이 미니어처 세계는 눈의 즐거움을 선사합니다. 정교한 디테일: 미니어처 월드의 핵심 요소 이 미니어처 월드의 가장 매력적인 측면 중 하나는 장면 구석구석에 녹아…

  • 미지의 숲: stablediffusion

    우주 어딘가에는 또다른 푸른 별이 있을 지도 모르겠습니다. a highly detailed digital image of an imagination machine, concept art, artstation, cgsociety, very detailed, intricate, detailed illustration, by greg rutkowski and alphonse mucha, Paul Lehr and Beeple, iridescent accents, ray tracing, product lighting, sharp, smooth, masterpiece 관련된 글: 물감이 뿌려진 소녀: stable diffusion 물의 마법사: stable…

  • 봄의 들판: stable diffusion

    봄을 맞이하는 들뜬 기분을 표현해보고 싶었습니다. 끌로드 모네 스타일 prompt: spring field, full of flowers, claude monet style, freshness and liveliness, pastel shades, delicate brushstrokes, lightheartedness, more yellow 반고흐 스타일 prompt: Spring field, full of flowers, Van Gogh style, freshness and vibrancy, pastel shades, delicate brushstrokes, cheerfulness 구스타프 클림트 스타일 prompt: Spring field, full of…

  • Chat-GPT로 할 수 있는 100개의 사업 – 서비스형 API

    100개의 챗지피티 사업 Chat-GPT로 할 수 있는 100개의 사업 – 코딩 서비스 Chat-GPT로 할 수 있는 100개의 사업 – 카피라이팅 서비스 Chat-GPT로 할 수 있는 100개의 사업 – YouTube 최적화 도구 Chat-GPT로 할 수 있는 100개의 사업 – 서비스형 API Chat-GPT로 할 수 있는 100개의 사업 – 전사 서비스 Chat-GPT로 할 수 있는 100개의 사업 – 언어 작업 도우미…