Anthropic의 개발 속도 조절 제안

Anthropic CEO, AI 개발 속도 조절 계획 발표

출처: TechCrunch

Anthropic의 다리오 아모데이 CEO가 AI 개발 속도를 조절하기 위한 3단계 계획을 제안했다. 그는 METR과 같은 제3자 평가 기관에 모델 접근을 허용하여 안전 관행 준수를 보장하겠다고 밝혔다. OpenAI의 샘 알트만도 ‘프론티어의 속도 조절’에 동의하는 것으로 보인다.

핵심 요약

Anthropic CEO 다리오 아모데이가 새 블로그 글에서 “AI 발전 속도를 늦춰야 한다(pace the frontier)”고 주장하며, 이를 위한 3단계 전략을 제시함.
이번 발언은 Anthropic 연구원 제이콥 콕슨이 “AI 기업들이 인류의 생명을 걸고 도박하고 있다”며 회사를 떠난 사건 이후 나온 것으로, 아모데이는 이 사임을 직접 언급하지는 않았지만 OpenAI-HuggingFace 해킹 사건과 AI 발전 속도가 급격히 빨라진 점을 우려의 계기로 꼽음.
1단계: METR 같은 제3자 평가기관을 회사 내부에 상주시켜 안전 준수 여부를 검증하게 함. Anthropic은 이를 일방적으로 실행하겠다고 선언했고, OpenAI 샘 알트먼도 동참 의사를 밝힘.
2단계: 민주주의 국가 내 선도 AI 기업들이 공동 안전 기준과 발전 속도 제한에 합의하도록 조율. 반독점 문제 때문에 미국 정부가 이 논의를 중재하거나 최소한 허용해야 한다고 언급.
3단계: 중국 등 권위주의 국가와도 가능한 범위에서 국제 공조를 시도. 생물무기 등 명백히 위험한 AI 활용을 금지하는 수준의 합의는 가능할 것으로 기대.
일론 머스크는 “다리오 말이 맞다”고 동조했고, 알트먼도 긍정적으로 반응함.
반면 저널리스트 브라이언 머천트 등 비판자들은 이런 종말론적 경고가 AI가 이미 초래하는 실질적 피해에서 관심을 돌리는 것이며, 이런 제안이 결국 Anthropic·OpenAI 등 소수 기업에만 유리한 “규제 포획”으로 이어질 수 있다고 지적함.
아모데이는 AI가 인류 삶의 질을 크게 향상시킬 수 있다는 믿음은 여전하지만, 그 혜택을 제대로 얻으려면 신중하게 개발할 필요가 있다고 강조

원문 보기: Anthropic CEO outlines plan to slow AI development

메카 AI, 로봇 훈련 데이터 수요 속 세쿼이아 주도로 5억 달러 가치 평가 임박

출처: TechCrunch

로봇 훈련 데이터 스타트업 메카 AI가 세쿼이아 캐피탈이 주도하는 투자 라운드에서 5억 달러 가치를 인정받을 것으로 보인다. 이는 시리즈 A 발표 후 몇 달 만에 이루어지는 것으로, 로봇 훈련 데이터에 대한 수요가 급증하고 있음을 보여준다.

원문 보기: Mecka AI nears $500M valuation in Sequoia-led deal amid rush for robot training data

Y Combinator의 개리 탄, 미국 오픈웨이트 AI 랩도 프론티어 모델 증류해야

출처: TechCrunch

Y Combinator의 개리 탄은 미국의 소규모 오픈웨이트 AI 랩들이 미국 프론티어 AI 랩의 훈련 기법을 사용하여 중국이 아닌 더 강력한 오픈웨이트 옵션을 제공해야 한다고 주장했다. 이는 미국의 AI 경쟁력 강화를 위한 제안이다.

원문 보기: Y Combinator’s Garry Tan wants US open-weight AI labs to ‘distill’ frontier models, too

OpenAI와 수학자들 간의 갈등 심화

출처: TechCrunch

25명의 저명한 수학자들이 AI 연구소들이 자신들의 지적 작업을 위협한다는 내용의 공개 서한에 서명했다. 이는 OpenAI와 수학자들 간의 갈등이 계속 확대되고 있음을 보여준다.

원문 보기: OpenAI’s feud with mathematicians is only escalating

LG, TV 스파이 혐의에 반박

출처: The Verge

LG가 자사 TV가 사용자 데이터를 기록하고 업로드한다는 혐의에 대해 반박하고 나섰다. 최근 게이머스 넥서스와 보안 연구원들은 LG TV의 데이터 수집 행위에 대한 우려를 제기한 바 있다.

원문 보기: LG responds to TV spying allegations

트럼프, 데이터센터 오염 허용

출처: The Verge

트럼프 대통령이 AI 데이터센터 건설을 가속화하기 위해 환경 규제를 완화하고 있다. 전 EPA 관리들은 이로 인해 미국인의 건강 위험이 증가한다고 경고하며, 대통령에게 규제를 강화할 것을 촉구했다.

원문 보기: Trump is giving data centers a pass to pollute

해킹에서 생물무기까지, Claude 오용 이제 어디에나

출처: Wired

Claude의 오용 사례가 해킹, 생물무기 제조 등 다양한 분야에서 나타나고 있다. 또한 미국이 인터넷 최대 암시장을 차단하고, Conti 랜섬웨어 해커가 징역형을 선고받았으며, Meta가 아동 학대 AI 생성 비디오를 차단하지 못한 사건도 보도되었다.

요약

Meta AI 아동학대 광고: 새 연구에 따르면 Meta가 약 350건의 AI 생성 아동학대 관련 광고를 걸러내지 못했고, 일부는 실제 아동(유럽 왕실 자녀 포함) 이미지를 포함함. 의원들은 조사를 예고했고 샌프란시스코 시 검찰은 중단을 명령함.
Meta의 새 AI 에이전트: 항공권 예약이나 차량 판매 등을 대행하는 개인용 AI 에이전트를 공개하며 보안·프라이버시 강화를 강조했으나, 동시에 Facebook·Instagram 사진을 AI·안면인식 학습에 무단 활용했다는 집단소송에 직면함.
Clearview AI: 법 집행기관이 특정 인물의 인맥과 소셜미디어 계정 등을 찾을 수 있게 해주는 미공개 프로토타입 도구 “InquiryIQ”를 시험 중.
Apple: Apple Watch 신제품에 주변 오디오를 처리하는 “오디오 인텔리전스” 기능을 발표하며 보안·프라이버시 보호를 강하게 부각함.
미-멕시코: 레이저 기술을 활용해 국경의 드론을 탐지·추적·제거하는 공동 작전 개시.
Anthropic의 Claude 오남용 보고서: 지난 8개월간 Claude가 국가 배후 해킹(러시아 Midnight Blizzard의 우크라이나·유럽 정부망 정찰), 사이버 범죄 조직(ShinyHunters)의 해킹·갈취, 케냐·방글라데시 등지의 정치 허위정보 캠페인, 심지어 생물무기(병원체·독소) 개발 시도에까지 악용된 사례를 공개함. 모두 진행 중 차단했다고 밝혔으나, 다른 AI 도구나 오픈소스까지 감안하면 “안전성의 승리”라기보다 “AI발 혼란의 예고편”에 가깝다는 평가.
Xinbi Guarantee 적발: 4년간 누적 300억 달러 이상 거래한 인터넷 최대 불법 시장(주로 돼지도살형 가상자산 사기 자금세탁, 인신매매 포함)을 미국 정부가 텔레그램 채널 압류 및 제재로 해체. 마다가스카르 내 사기 조직 13곳도 동시 급습.
Conti 랜섬웨어 조직원: 우크라이나 국적의 조직원이 4년형을 선고받음—랜섬웨어 조직원이 실제 미국에서 수감되는 드문 사례.
Meta의 아동학대 영상 방치: Futurism 보도에 따르면 Facebook에 AI 생성 아동학대 영상들이 대량 유포되고 있었고, 언론이 신고한 뒤에도 일부는 그대로 방치됨. Meta는 정책상 명확한 기준 없이 일부 콘텐츠가 규정 위반이 아니라고 답변함.