AI의 안전성에 대한 OpenAI의 접근 방식

‘AI 청원’이 진행되는 동안 그들은 섬뜩할 정도로 조용히 지내왔지만, 궁극적으로 AI 개발을 지배함으로써 전체 논쟁을 촉발시킨 사람들이 응답했습니다.

OpenAI는 세상이 발전함에 따라 AI 안전에 대한 접근 방식을 설명하는 게시물을 발표했는데, 이는 직접적인 대응은 아니지만 우리 모두는 이것이 사실이라는 것을 알고 있습니다. OpenAI는 인공지능을 인류에게 유익하게 만드는 것을 사명으로 삼고 있습니다. 어제 블로그에 게시된 글에서 ChatGPT 개발자들은 자신들의 제품이 이제 수백만 명의 손에 닿았다는 사실을 인정했습니다.

이 글의 핵심은 AI는 실험실에서 완벽하게 조정할 수 없고, 사용 사례를 예측할 수 없으며, 따라서 실제 실험을 반복적으로 수행해야 한다는 이념을 옹호하는 것입니다. 출시, 출시, 출시, 느리지만 확실하게. 또한 훈련 과정에서 어린이를 보호하고 데이터 프라이버시 문제를 신속하게 해결하며 심지어 훈련 절차에 어린이를 직접 포함시킨다는 점도 눈에 띄는 특징입니다 (이탈리아를 주목하세요).

대부분의 사람들에게 큰 혜택을 주었지만, OpenAI는 위험을 우선시하고 안전을 통합하는 데 전념하고 있습니다. 이를 위해 다음과 같이 노력할 계획입니다:

• 테스트 피드백과 강화 학습을 통해 안전한 AI 시스템을 보장합니다.
• 실제 사용을 통해 학습하여 안전장치를 개선하고 시스템을 개선합니다.
• 연령 요건을 충족하는 어린이를 보호하고 유해한 콘텐츠를 금지합니다.
• 학습 데이터 세트에서 개인 정보를 최소화하여 개인 정보를 존중합니다.
• 사용자 피드백과 지속적인 연구를 통해 사실의 정확성을 개선합니다.