NVIDIA, NeMo 가드레일 발표

NVIDIA, NeMo 가드레일 발표

NVIDIA는 ChatGPT와 같은 AI 기반 챗봇의 성능과 안전성을 개선하기 위해 설계된 오픈 소스 도구인 NeMo 가드레일을 발표했습니다.

NVIDIA, NeMo 가드레일 발표

이 툴킷은 기본적으로 챗봇의 안전 메커니즘 역할을 합니다. 대규모 언어 모델(LLM)에 도달하기 전에 응답을 가로채서 응답을 방지하거나 공식화를 안내합니다.

GitHub에서 오픈 소스 코드로 제공되며, NVIDIA는 모델을 훈련하고 유지 관리할 시간이나 리소스가 부족한 기업을 위해 사전 훈련된 모델과 프레임워크를 제공하는 AI 파운데이션 서비스의 일부로 NeMo Guardrails도 제공합니다.

요약하면, NeMo 가드레일은 AI 챗봇을 더욱 유용하고 안정적으로 만드는 데 도움이 됩니다.

Similar Posts

  • Stability AI, SDXL 출시

    Stability AI가 Stable Diffusion XL 또는 줄여서 SDXL을 출시했습니다. 이번 업그레이드는 스테이블 디퓨전의 진화에 있어 중요한 진전입니다. 업그레이드를 통해 이제 더 짧은 프롬프트로 이미지를 생성하고 이미지 내에 단어를 생성할 수 있습니다. 품질 또한 미드저니 수준으로 업그레이드된 것으로 보입니다. 현재 드림스튜디오에서 베타 버전으로 테스트 중입니다. 관련된 글: stable diffusion과 multiControlNet을 이용하여 실제 사람의 춤을 애니메이션으로 전환…

  • OpenAI, ‘초지능의 거버넌스’ 발표

    OpenAI가 방금 흥미로운 새 기사를 발표했습니다. ‘초지능의 거버넌스’에 대해 자세히 살펴보고, AGI를 능가하는 미래 AI 시스템에 대해 알아봅니다. OpenAI의 CEO인 샘 알트먼은 지금이 바로 인공 생성 지능(AGI)보다 훨씬 더 뛰어난 미래 AI 시스템인 초지능의 거버넌스에 대해 생각하기 시작할 좋은 시기라고 말했습니다. 알트먼은 “초지능은 특별한 대우와 조율이 필요하지만, 오늘날의 AI 기술도 위험을 완화해야 한다”고 강조했습니다. 그는…

  • ‘마음 읽기’를 가능하게 하는 인공지능

    뉴욕 타임즈에서 페이월 제거하고 읽기: https://archive.vn/eL3Ht 이 새로운 연구는 말 그대로 *당신의 마음을 날려버릴* 것입니다. 텍사스 대학교의 연구원들은 비침습적 fMRI 스캔을 사용하여 생각을 텍스트로 변환할 수 있는 GPT 기반 디코더를 개발했습니다. 참가자들은 fMRI 스캐너에서 16시간 동안 팟캐스트를 들으며 디코더를 훈련시켰습니다. 그런 다음 AI 시스템은 참가자가 새로운 이야기를 듣거나 상상할 때 텍스트를 생성하여 일반적인 생각이나 아이디어를…

  • 생성 AI: 창의적인 새로운 세상

    원문: https://www.sequoiacap.com/article/generative-ai-a-creative-new-world/ 강력하고 새로운 클래스의 대규모 언어 모델을 통해 기계가 신뢰할 수 있고 때로는 초인적인 결과로 글을 쓰고, 코딩하고, 그림을 그리고, 창작할 수 있게 되었습니다. 인간은 사물을 분석하는 데 능숙합니다. 기계는 훨씬 더 뛰어납니다. 기계는 일련의 데이터를 분석하고 그 안에서 패턴을 찾아내어 사기나 스팸 탐지, 배송 예상 시간 예측, 다음에 보여줄 TikTok 동영상 예측 등…

  • 와튼 대학교 교수가 바라보는 ChatGPT 사용법

    쳇지피티 배우기 챗지피티: 문법 교정기 복잡한 정보를 더 쉽게 이해시키는 챗지피티 프롬프트 챗지피티: 맞춤형 집중 코스 만들기 챗지피티로 프롬프트 개선하기 챗지피티의 퀴즈를 풀고 레벨을 올리세요: 챗지피티로 마인드맵핑 하기 챗지피티를 꿈 해몽가로 써보기 알아 두어야 할 챗지피티 프롬프트 3가지 ChatGPT 프롬프트 치트 시트 창의적인 사람들이 ChatGPT를 사용하는 5가지 실용적인 방법 반드시 알아야 할 ChatGPT 프롬프트 트릭…

  • Snapchat의 인앱 챗봇이 예상보다 잘 작동하지 않습니다.

    지난 번에 스냅챗은 AI를 전격 도입했습니다. 스냅챗이 약간 실패한 것 같습니다. 몇 달 전에 자체 챗봇인 My AI를 Snap 앱에 도입했지만 별점 평가가 35%에서 75%까지 올라가고 챗봇에 대한 불만도 많이 제기되는 등 별다른 성과를 거두지 못하고 있습니다. 가장 큰 불만 중 하나는 실제 친구가 있어야 할 공간을 성가신 작은 봇이 차지하고 있다는 것입니다. 제 생각에…