AI 정치 편향, 보안 취약점, 그리고 생물학 AI의 부상

AI 정치 편향, 보안 취약점, 그리고 생물학 AI의 부상

그록은 공화당, 오픈AI는 민주당 선택… AI 정치 편향 논란

출처: TechCrunch

새로운 연구에 따르면 그록 AI는 공화당 후보를, 오픈AI의 GPT는 민주당 후보를 압도적으로 추천하는 것으로 나타났다. 두 모델은 약 500개 선거 경쟁에서 90% 이상 의견이 갈렸다.

원문 보기: Forced to pick, Grok’s AI model chooses Republicans. OpenAI’s picks Democrats.


AI 묘지: 실패한 프로젝트와 스타트업 목록

출처: TechCrunch

테크크런치가 애플의 지연된 시리 AI부터 오픈AI의 ‘슈퍼 앱’ 출시 실패까지, 기대에 미치지 못하거나 종료된 AI 프로젝트들을 정리한 ‘AI 묘지’ 목록을 공개했다. 이는 AI 열풍 속에서도 많은 프로젝트가 실패하고 있음을 보여준다.

AI 정치 편향, 보안 취약점, 그리고 생물학 AI의 부상

원문 보기: The AI graveyard: a running list of projects and startups that didn’t make it


펜실베이니아주, AI 생성 광고에 라벨 의무화

출처: The Verge

펜실베이니아 주지사가 AI 생성 광고에 대한 공개를 의무화하는 ‘인공지능 기만 광고법’에 서명했다. 이 법은 이미지, 비디오, 오디오, 텍스트 등 AI로 상당 부분 수정되거나 생성된 모든 광고에 라벨을 붙이도록 요구한다.

원문 보기: Pennsylvania will require labels on AI-generated ads


AI 게임 클론, 인디 개발자들의 작품 공개 기피 초래

출처: Ars Technica

AI 게임 클론의 확산으로 인디 개발자들이 자신의 작업을 공개하는 것을 두려워하고 있다. 스팀 넥스트 페스트 데모 지연은 인디 개발자들이 직면한 growing 문제의 신호다.

원문 보기: AI game clones are making indie developers afraid to show their work


PHP 취약점 사태, AI가 버그 악용을 더 쉽게 만든다

출처: Wired

보안 연구원들이 AI 도구를 사용해 PHP 웹 스크립팅 언어의 수년 된 취약점을 발견했고, 이후 AI 지원 공격이 시작되었다. 이는 AI가 소프트웨어 버그의 악용 가능성을 높일 수 있음을 보여준다.

원문 보기: The PHP Meltdown Shows How AI Makes Bugs More Exploitable


블록의 새로운 음성 모델, 놀랍도록 인간적

출처: TechCrunch

블록이 맥북 M4 맥스에서 로컬로 실행 가능한 새로운 음성 모델을 공개했다. 이 모델은 매우 자연스러운 음성을 생성해 인간과 구별하기 어려울 정도라고 평가된다.

원문 보기: Block’s new voice model sounds eerily human


캔바, 첫 이미지 생성 모델 공개

출처: TechCrunch

캔바가 자체 개발한 첫 이미지 생성 모델을 모든 사용자에게 제공한다. 이 모델은 더 나은 성능과 높은 커스터마이징을 더 낮은 비용으로 제공하는 것을 목표로 한다. 디자인 플랫폼이 생성형 AI 기능을 본격적으로 내재화하는 흐름을 보여준다.

원문 보기: Canva releases its first image generation model


챗GPT, 이제 채팅 잠금 기능 도입

출처: TechCrunch

오픈AI가 챗GPT에 특정 대화를 잠글 수 있는 기능을 추가했다. 이는 사용자가 개인적인 이야기를 하거나 깜짝 선물을 준비할 때 기기를 타인에게 보여줘도 해당 대화가 노출되지 않도록 하기 위한 것이다. 프라이버시 보호를 강화하려는 사용자 요구를 반영한 기능으로 풀이된다.

원문 보기: ChatGPT now lets you lock your chats


여성들의 AI 붐 참여를 돕는 소셜 소사이어티

출처: Wired

와이어드가 ‘에이지드 인텔리전스 소사이어티’ 창립자들과 인터뷰했다. 이 스타트업은 여성들이 최첨단 도구를 활용해 중년의 문제를 해결하도록 돕는 이벤트를 개최하며 빠르게 성장하고 있다.

원문 보기: The Social Society Helping Women Join the AI Boom


허깅페이스, DNA와 대화하는 새로운 AI 생물학 모델 공개

출처: Wired

허깅페이스가 DNA의 언어를 이해하고 연구자들이 유전자 활동과 건강에 대한 변화의 영향을 파악하도록 돕는 새로운 오픈소스 AI 생물학 모델을 출시했다.

원문 보기: Hugging Face’s New AI Biology Model Lets You Chat With DNA


오픈AI, 10억 ChatGPT 사용자 위한 온라인 스토리지 확장

출처: OpenAI

오픈AI가 10억 명 이상의 ChatGPT 사용자를 지원하기 위해 스토리지 시스템을 확장한 방법을 공개했다. 멀티테넌시, 글로벌 캐싱, Azure Cosmos DB를 활용해 읽기 속도를 12배 향상시켰다.

원문 보기: Rapidly scaling online storage to serve over 1 billion ChatGPT users (Part II)


챗봇은 ‘나’ 또는 ‘저’라고 말하지 말아야 할까

출처: Wired

MIT 교수 셰리 터클은 사람들이 챗봇과 위험할 정도로 밀접하게 얽혀 있다고 경고한다. 챗봇이 1인칭 대명사를 사용하는 것이 사용자에게 잘못된 친밀감을 형성하고 정서적 의존을 유발할 수 있다는 우려를 제기한다.

원문 보기: Maybe Chatbots Shouldn’t Get to Say ‘I’ or ‘Me’


오픈AI, 프론티어 모델 훈련 환경 보안 강화

출처: OpenAI

오픈AI가 프론티어 모델 훈련 및 평가를 위한 격리 환경을 강화했다고 밝혔다. 오프라인 환경과 고성능 레드팀을 포함한 보안 조치를 설명했다.

원문 보기: Securing our frontier model training environment


Similar Posts

  • 아마존, AI 열풍에 합류하다

    아마존과 AWS는 두 가지 강력한 AI 제품을 출시했습니다: 베드락과 코드위스퍼러. Bedrock은 “고객이 FM을 사용하여 생성 AI 기반 애플리케이션을 구축하고 확장할 수 있는 가장 쉬운 방법”입니다. 기본적으로 AWS 고객은 이 제품을 통해 자신의 웹사이트나 플랫폼을 위한 빌드 가능하고 확장 가능한 머신 러닝 도구를 사용할 수 있습니다. 코드위스퍼러는 Amazon의 AI 기반 코딩 도우미로, GitHub Copilot의 또 다른…

  • Google, Med-PaLM 2 출시

    Google은 일부 의료 고객을 위한 전문가 수준의 LLM인 Med-PaLM 2를 출시했습니다. 이 LLM은 미국 의사면허시험(USMLE MedQA)의 의학 시험 문제에서 85%의 점수를 받았습니다. 주요 의료 기관과 협력하여 산모 건강, 유방암을 위한 AI 보조 초음파를 연구하고 있습니다. 자세히 읽기 관련된 글: 구글, AI 기반 새로운 검색 엔진 구축 구글 브레인과 딥마인드가 힘을 합치다 ‘AI의 대부’, 구글을 그만두다’…

  • 바이든 미국 대통령, AI 위험에 대해 연설하다

    조 바이든 미국 대통령은 어제 과학기술자문위원회와 만나 AI의 위험과 기회에 대해 논의했습니다. 바이든 대통령은 질병과 기후 변화와 같은 중대한 문제를 해결할 수 있는 AI의 잠재력을 강조하는 동시에 사회, 국가 안보, 경제에서 발생할 수 있는 위험에 대해서도 강조했습니다. 주요 요점은 다음과 같습니다: 바이든의 발언은 엘론 머스크와 다른 기술 리더들이 GPT-4보다 더 강력한 AI 시스템 개발을 6개월간…

  • 아마존, 다이얼로그 부스트 도입

    Amazon은 영화와 TV 프로그램의 대화 볼륨을 높여주는 Prime Video용 AI 기반 도구인 “Dialogue Boost“를 도입했습니다. 이 기능은 사용자, 특히 청각 장애가 있는 사용자가 배경 소음이나 액션 장면을 통해 대사를 더 잘 이해할 수 있도록 돕는 것을 목표로 합니다. 이 기능은 처음에는 일부 콘텐츠에서만 사용할 수 있습니다. 아마존은 이 AI 기반 솔루션을 제공하는 최초의 스트리밍 플랫폼으로,…

  • 생성 AI: 창의적인 새로운 세상

    원문: https://www.sequoiacap.com/article/generative-ai-a-creative-new-world/ 강력하고 새로운 클래스의 대규모 언어 모델을 통해 기계가 신뢰할 수 있고 때로는 초인적인 결과로 글을 쓰고, 코딩하고, 그림을 그리고, 창작할 수 있게 되었습니다. 인간은 사물을 분석하는 데 능숙합니다. 기계는 훨씬 더 뛰어납니다. 기계는 일련의 데이터를 분석하고 그 안에서 패턴을 찾아내어 사기나 스팸 탐지, 배송 예상 시간 예측, 다음에 보여줄 TikTok 동영상 예측 등…

  • NVIDIA, NeMo 가드레일 발표

    NVIDIA는 ChatGPT와 같은 AI 기반 챗봇의 성능과 안전성을 개선하기 위해 설계된 오픈 소스 도구인 NeMo 가드레일을 발표했습니다. 이 툴킷은 기본적으로 챗봇의 안전 메커니즘 역할을 합니다. 대규모 언어 모델(LLM)에 도달하기 전에 응답을 가로채서 응답을 방지하거나 공식화를 안내합니다. GitHub에서 오픈 소스 코드로 제공되며, NVIDIA는 모델을 훈련하고 유지 관리할 시간이나 리소스가 부족한 기업을 위해 사전 훈련된 모델과 프레임워크를…

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다