NVIDIA는 ChatGPT와 같은 AI 기반 챗봇의 성능과 안전성을 개선하기 위해 설계된 오픈 소스 도구인 NeMo 가드레일을 발표했습니다.
이 툴킷은 기본적으로 챗봇의 안전 메커니즘 역할을 합니다. 대규모 언어 모델(LLM)에 도달하기 전에 응답을 가로채서 응답을 방지하거나 공식화를 안내합니다.
GitHub에서 오픈 소스 코드로 제공되며, NVIDIA는 모델을 훈련하고 유지 관리할 시간이나 리소스가 부족한 기업을 위해 사전 훈련된 모델과 프레임워크를 제공하는 AI 파운데이션 서비스의 일부로 NeMo Guardrails도 제공합니다.
요약하면, NeMo 가드레일은 AI 챗봇을 더욱 유용하고 안정적으로 만드는 데 도움이 됩니다.
혁명이 다가오고 있다.
오직 상상력만으로 명화를 그리고 글을 쓰고 곡을 만들고 프로그래밍 할 수 있는 격변의 시기!
생성 AI로 세계를 바꾸자.
:format(webp)/cdn.vox-cdn.com/uploads/chorus_asset/file/23988533/acastro_STK059_zoom_02.jpg "Zoom, Anthropic과 파트너십을 맺고 Claude를 서비스에 도입하다")
