본문 바로가기
  • AI 시대에 적응하는 현대인을 위한 지식 공간
  • AI를 위한 데이터를 과학으로 역어본다
AI 뉴스

[AI 주간브리핑] 2026-09 | AI 경쟁은 이제 안전 원칙마저 흔드는 단계

by 피크나인 2026. 3. 3.

2026.02.25 ~ 2026.03.03

2026년 9주차 AI 주간 브리핑입니다. 이번 주는 Anthropic의 핵심 안전 정책 철회, 유례없는 다중 프론티어 모델 출시 경쟁, Block의 AI 주도 대규모 감원, DeepSeek V4 임박 출시까지, 업계 전반을 뒤흔든 굵직한 이슈들이 연달아 터진 한 주였습니다. AI 기술 경쟁의 속도가 이제는 안전 원칙조차 흔들고 있다는 현실이 뚜렷하게 드러난 시기이기도 합니다. 각 이슈를 면밀히 살펴보겠습니다.

2026년 AI 경쟁은 이제 안전 원칙마저 흔드는 단계에 접어들었습니다.
2026년 AI 경쟁은 이제 안전 원칙마저 흔드는 단계에 접어들었습니다.

핫이슈

Anthropic, 핵심 안전 서약 전면 철회  |  AI 경쟁의 압박 앞에 무너진 창립 원칙

Anthropic이 2023년 도입한 책임있는 확장 정책(Responsible Scaling Policy, RSP)의 핵심 조항을 공식 삭제했습니다. 기존 정책의 핵심은 "AI 모델의 역량이 안전 조치를 앞서는 경우, 훈련과 배포를 반드시 중단한다"는 강력한 사전 공약이었습니다. 그러나 Anthropic은 2월 25일(현지시각) 블로그 포스트를 통해 이 조항을 삭제한 개정판 RSP v3.0을 발표했으며, 이제는 "구속력 없는 공개 목표" 방식으로 전환하겠다고 밝혔습니다.

Anthropic 최고과학책임자(CSO) 재러드 카플란(Jared Kaplan)은 TIME지와의 단독 인터뷰에서 "경쟁자들이 맹렬히 앞으로 나아가는 상황에서 일방적인 공약을 유지하는 것은 의미가 없다"고 배경을 설명했습니다. 새 정책에서 개발 지연은 회사가 스스로를 AI 레이스 선두주자로 인식하고 동시에 재앙적 위험이 실질적이라고 판단하는 두 가지 조건을 모두 충족해야만 발동됩니다. 사실상 기존의 절대적 안전 기준이 이중 조건부로 대폭 완화된 셈입니다.

이번 결정은 Anthropic이 350억 달러(약 48조 원) 규모의 신규 투자를 유치해 기업 가치가 3,800억 달러로 치솟은 가운데 나온 것으로, 상업적 성공과 투자자 압력이 창립 원칙에 미치는 영향이 적나라하게 드러났다는 평가가 많습니다. 특히 국방부(펜타곤)가 Anthropic에 2억 달러 계약을 무기로 AI 안전 레드라인 철폐를 압박하고 있는 상황과 맞물려, 이번 RSP 변경이 단순한 내부 정책 정비가 아닌 복합적 외부 압력의 결과라는 시각도 제기되고 있습니다. 독립 안전 리뷰어들은 이번 철회가 세계가 AI의 재앙적 위험에 대비하지 못하고 있다는 신호라며 강한 우려를 표명했습니다.

 

참고 자료

Block CEO 잭 도시, AI 이유로 직원 절반 해고  |  '앞으로 대부분 기업이 따를 것'

잭 도시(Jack Dorsey)가 이끄는 핀테크 기업 Block이 전체 직원 1만여 명 중 절반에 가까운 4,000명을 해고한다고 발표했습니다. 도시 CEO는 X(구 트위터)에 올린 공개 게시물에서 감원의 직접적 이유로 AI 도구 도입에 따른 생산성 향상을 명시했으며, "AI를 활용하면 훨씬 소규모 팀으로도 더 많은 일을 더 잘 해낼 수 있다"고 주주 서한에서 밝혔습니다.

도시는 나아가 "대부분의 기업들은 지금 뒤처져 있으며, 앞으로 1년 안에 대다수 회사들이 같은 결론에 도달하고 유사한 구조 조정을 단행할 것"이라고 경고했습니다. 이 발언은 AI로 인한 '화이트칼라 대규모 실업' 우려를 더욱 가중시켰으며, 전문가들 사이에서 격렬한 논쟁을 불러일으켰습니다.

그러나 일부 경제학자들은 이른바 'AI 워싱(AI-washing)' 가능성에 주목합니다. 옥스퍼드 이코노믹스는 "많은 기업들이 팬데믹 당시 과잉 채용에 따른 감원을 AI 전환으로 포장하고 있다"고 지적했으며, 2025년 AI 이유로 발표된 전체 감원의 상당수가 실제로는 AI 시스템이 아직 그 역할을 대체하지 못한 상태라는 조사 결과도 나왔습니다. Block 주가는 발표 당일 약 25% 급등해, 시장이 이 같은 AI 기반 비용절감 전략을 긍정적으로 받아들이고 있음을 보여주었습니다.

 

참고 자료

주요 기술 발전

DeepSeek V4, 출시 임박  |  멀티모달·Engram 아키텍처로 코딩 시장 석권 노린다

중국 AI 스타트업 DeepSeek이 차세대 모델 V4의 출시를 눈앞에 두고 있습니다. 파이낸셜타임스(FT)는 2월 27일 복수 소식통을 인용해 V4가 텍스트·이미지·영상을 모두 처리하는 멀티모달 모델이며, Huawei와 Cambricon의 최신 AI 칩에 최적화되어 있다고 보도했습니다. 출시는 중국의 최대 정치행사인 '양회(兩會, 3월 4일 시작)' 직전에 맞춰질 예정으로, DeepSeek을 중국의 AI 국가 대표 기업으로 부각시키려는 전략적 타이밍이라는 분석이 많습니다.

V4의 핵심 기술 혁신은 Engram 아키텍처로, 정적 메모리와 동적 추론을 분리해 100만 토큰 이상의 초장문 컨텍스트를 50% 낮은 비용으로 처리할 수 있습니다. 내부 벤치마크에서는 HumanEval 90%, SWE-bench Verified 80% 이상의 성능이 유출됐으나 아직 독립적인 검증은 이루어지지 않았습니다. 전작 R1이 2025년 1월 1조 달러 규모의 기술주 충격을 일으켰던 만큼, 이번 V4 출시도 나스닥 반도체 종목에 또 한 번의 파장을 일으킬 수 있다는 우려가 투자자들 사이에서 높아지고 있습니다.

 

참고 자료

구글 Gemini 3.1 Pro 공식 출시  |  툴 호출 약점 대폭 개선

구글이 Gemini 3.1 Pro를 Gemini API 및 Vertex AI에서 공식 출시했습니다. 이번 버전은 전작 Gemini 3 Pro 대비 툴 호출(Tool Calling) 기능이 대폭 강화되어, 기존 모델의 가장 큰 약점으로 꼽히던 도구 연동 불안정 문제가 해소됐다는 평가를 받고 있습니다. 또한 텍스트·이미지·영상·오디오·전체 코드 저장소까지 아우르는 멀티모달 추론 능력이 업계 최고 수준으로 향상됐으며, 입력 토큰 100만 개 이하 기준 가격을 전작 대비 동일한 백만 토큰당 2달러로 유지해 성능 향상을 비용 추가 없이 제공했습니다. 개발자 생태계에서는 Gemini 3.1 Pro가 이제 Claude Sonnet 4.6, GPT-5.3-Codex와 함께 2026년 AI 코딩 트로이카를 구성하게 됐다는 분석이 나오고 있습니다.

 

참고 자료

Perplexity 'Computer' 출시  |  멀티 에이전트로 수개월짜리 업무 자동화

Perplexity가 AI 에이전트 플랫폼 'Computer'를 Max 구독자 대상으로 출시했습니다. 이 시스템은 Claude Opus 4.6, Gemini, ChatGPT 5.2, Grok 등 여러 AI 모델을 마치 팀원처럼 활용하는 멀티 에이전트 구조로 설계됐습니다. 사용자가 원하는 결과를 기술하면 Computer가 이를 세부 작업으로 분해하고, 병렬 실행되는 서브 에이전트들에게 각각 실제 브라우저·파일시스템·외부 도구를 배분합니다. 단순 챗봇을 넘어 수 시간 또는 수 개월에 걸치는 장기 업무 워크플로우를 지속적으로 수행할 수 있는 점이 핵심 차별점으로, 에이전트 AI 시대의 본격적인 상용화 사례로 주목받고 있습니다.

 

참고 자료

구글 Nano Banana 2 출시  |  4K 해상도·5인물 일관성·SynthID 워터마킹

구글이 이미지 생성 모델 Nano Banana 2를 공개했습니다. 기존 대비 출력 속도가 빨라졌으며 최대 4K 해상도를 지원합니다. 가장 주목받는 기능은 복수 캐릭터(최대 5명)를 여러 이미지에 걸쳐 일관되게 유지하는 '피사체 일관성(Subject Consistency)' 기능으로, 광고·마케팅 캠페인 제작에서 강점을 발휘할 것으로 기대됩니다. 생성된 모든 이미지에는 SynthID 워터마크와 C2PA 콘텐츠 자격증명이 자동 적용돼 AI 생성 여부를 투명하게 표시합니다. Nano Banana 2는 Gemini 앱, Google Lens, AI 모드 검색, Flow 영상 편집기의 기본 이미지 엔진으로 채택됐으며, 개발자는 Gemini API와 Vertex AI를 통해 접근할 수 있습니다.

 

참고 자료

정책 & 비즈니스 동향

한국 AI 기본법 시행 이후 현장 점검  |  업계 "기준 모호·처벌 약해" 우려

지난 1월 22일 세계 두 번째 포괄적 AI 법으로 시행된 한국의 AI 기본법이 한 달여가 지난 지금, 업계와 학계 모두에서 실효성 논란이 지속되고 있습니다. 서울여대 강은성 교수는 "법의 핵심 규제 대상 기준인 10²⁶ FLOPs 누적 연산 임계값이 현실적으로 소수의 국가급 프로젝트나 대형 글로벌 기업만 해당될 만큼 지나치게 높다"며 규범의 사각지대를 지적했습니다. 또한 EU AI법과 달리 한국 AI 기본법의 최대 과태료는 3,000만 원으로 글로벌 기업 입장에서는 실질적인 억지력이 크지 않다는 비판도 있습니다.

반면 과학기술정보통신부는 기업 부담 완화를 위해 가이던스 플랫폼과 전담 지원센터를 운영하고 있으며, 필요 시 유예기간 연장도 검토하겠다는 입장입니다. 법 시행 초반이지만 중소기업과 스타트업들이 EU·미국·중국 등 복수 규범을 동시에 준수해야 하는 '규제 과부하' 문제도 실질적인 도전으로 부상하고 있습니다.

 

참고 자료

4대 광고 에이전시, Claude 엔터프라이즈 도입  |  AI가 광고 업무 자동화 주도

세계 4대 광고 에이전시들이 Anthropic의 Claude 엔터프라이즈 도구를 적극 도입해 SEO 감사부터 창의 브리프 작성까지 광고 관련 업무 자동화에 활용하고 있다는 사실이 알려졌습니다. 에이전시들은 구조화된 분석과 체계적 평가가 필요한 작업에서 Claude가 특히 효과적이라고 평가했으며, 이를 통해 창의 팀이 보다 높은 수준의 전략 기획과 캠페인 개발에 집중할 수 있게 됐다고 밝혔습니다. AI가 단순 콘텐츠 생성을 넘어 광고 에이전시의 핵심 워크플로우로 깊숙이 침투하고 있는 현황을 보여주는 사례입니다.

 

참고 자료

Anthropic, Vercept 인수  |  AI 에이전트 기술 역량 강화

Anthropic이 AI 에이전트 기술 스타트업 Vercept를 인수했습니다. 이번 인수는 Claude Code와 에이전트 기반 업무 자동화 시장에서의 경쟁력을 높이기 위한 전략적 행보로 풀이됩니다. Anthropic은 2026년 2월 기준 연간 반복 수익이 전년 대비 10배 성장하고 기업 가치가 3,800억 달러에 달하는 등 사업 측면에서도 급성장세를 보이고 있습니다. 에이전트 시장 선점을 위한 인수·합병이 앞으로도 이어질 가능성이 높습니다.

 

참고 자료

시장 동향 & 우려사항

Nvidia, '역대 최고 실적'에도 주가 하락  |  AI 거품론 우려 고조

Nvidia가 2월 26일 역대 최고 분기 실적을 발표했음에도 주가가 약 5% 하락하는 이례적 현상이 나타났습니다. 시장은 막대한 실적보다 미래 성장 지속 가능성에 더 큰 의문을 던지고 있는 것입니다. Nvidia 주가는 현재 선행 P/E 24배 수준으로, S&P 500 평균 22배와 크게 차이 나지 않지만 AI 성장 스토리에 대한 의심이 쌓이면서 조정 압박을 받고 있습니다. 여기에 DeepSeek V4 출시가 임박했다는 소식이 더해지며, 만약 저비용 고효율 중국 AI 모델이 또 한번 시장에 충격을 주면 AI 인프라 대규모 투자 논리 전체가 흔들릴 수 있다는 우려가 커지고 있습니다.

 

참고 자료

씨티은행 "AI 로봇, 수십 년 내 노동 인구 초과"  |  인간 노동의 미래 경고

씨티은행(Citibank) 전직 임원 롭 가를릭(Rob Garlick)이 CNBC에 출연해 AI 로봇이 수십 년 내에 전 세계 노동 인구를 초과할 것이라는 충격적인 전망을 제시했습니다. 씨티은행 보고서에 따르면 AI 로봇(휴머노이드 및 자율주행차 포함)의 수는 2035년까지 13억 대, 2050년에는 40억 대를 넘어설 전망입니다. 특히 가를릭은 "1만 5,000달러짜리 휴머노이드 로봇이 시간당 41달러 직종의 인간 노동자를 대체한다면 약 4주 만에 투자 회수가 가능하다"고 분석했습니다. 이는 인간이 순수한 비용 경쟁에서 로봇을 이길 수 없다는 냉정한 현실을 수치로 보여주는 것으로, 사회 안전망과 노동 정책 재설계의 시급성이 강조됩니다.

 

참고 자료

온라인 검색 20% 감소  |  ChatGPT 도입 이후 구조적 변화 실증

런던 비즈니스 스쿨과 UCLA 공동 연구에 따르면, 사람들이 ChatGPT를 사용하기 시작한 이후 기존 온라인 검색량이 평균 20% 감소하는 것으로 나타났습니다. 특히 정보 수집·전달을 핵심으로 하는 브랜드들이 가장 큰 타격을 받고 있으며, 커뮤니티 기반 브랜드는 상대적으로 강한 방어력을 보이는 것으로 나타났습니다. 더 나아가 AI 에이전트가 구매 결정까지 대신하는 사례가 늘고 있어, 기업들의 마케팅 전략과 SEO 접근법 자체가 근본적으로 변화해야 한다는 시사점이 도출됩니다.

 

참고 자료

안전성 & 윤리 이슈

런던 킹스크로스 반AI 시위  |  "슬롭 중단" 수백 명 행진

2월 28일(토) 영국 런던 킹스크로스 테크 허브에서 수백 명이 참가한 반AI 시위가 열렸습니다. 킹스크로스는 OpenAI, Meta, Google DeepMind의 영국 본사가 밀집한 지역으로, 시위대는 "플러그를 뽑아라!(Pull the Plug!)", "슬롭을 멈춰라!(Stop the Slop!)" 등의 구호를 외치며 행진했습니다. Pause AI와 Pull the Plug 두 단체가 공동 주최한 이번 행사는 역대 최대 규모의 반AI 시위로 알려졌으며, 온라인 쓰레기 콘텐츠(AI Slop)와 딥페이크 이미지 문제, 킬러 로봇, 나아가 인류 멸종 우려까지 다양한 주제의 피켓들이 등장했습니다. 이번 시위는 기술 산업 중심부에서의 시민 저항이 점차 가시화되고 있음을 상징적으로 보여줍니다.

 

참고 자료

OpenAI·Anthropic 동시에 안전 언어 완화   |  경쟁이 규범을 지우다

이번 주 AI 안전 분야에서 가장 우려스러운 흐름은 주요 AI 기업들이 동시다발적으로 안전 관련 공개 서약을 완화하고 있다는 점입니다. Anthropic의 RSP 핵심 조항 삭제와 더불어, OpenAI도 이전에 구조 변화 과정에서 "안전하게(safely)"라는 단어를 미션 문서에서 삭제한 바 있습니다. 업계 관찰자들은 두 기업의 변화가 경쟁 심화와 정치적 압력을 반영하는 신호이며, AI 거버넌스의 정의 자체가 재편되고 있다는 점에서 규제 당국과 기업 구매자 모두가 주목해야 한다고 강조하고 있습니다.

 

참고 자료

기타 주목할 발전사항

구글, Intrinsic 로보틱스 통합  |  DeepMind·Gemini와 연계해 산업 로봇 가속

구글은 2월 25일 Alphabet 산하 로보틱스 소프트웨어 자회사 Intrinsic을 Google DeepMind와 깊이 연계하는 통합 계획을 발표했습니다. Intrinsic은 독립 운영을 유지하면서도 연구 방향을 Gemini AI 모델 및 Google Cloud 서비스와의 깊은 협업으로 전환해 산업 제조 분야의 로봇 기술 적용을 가속화합니다. 이는 구글이 AI 소프트웨어와 물리적 로보틱스의 융합을 본격 추진하는 신호로 해석됩니다. 한편 삼성전자도 자율화 공장을 위해 휴머노이드 로봇 도입을 검토 중이라는 보도도 나왔습니다.

 

참고 자료

EU AI법 8월 전면 시행 준비 박차  |  기업들 남은 6개월

EU AI법의 고위험 AI 시스템 관련 주요 조항 시행일인 2026년 8월 2일까지 6개월이 채 남지 않았습니다. 유럽 AI 사무국은 조기 위반 사례에 대해 강력한 제재 의지를 밝혔으며, 위반 시 최대 전 세계 연간 매출액의 7% 또는 3,500만 유로 중 더 높은 금액이 부과됩니다. 아직 AI 거버넌스 시스템을 갖추지 못한 기업들에게는 특히 촉박한 일정입니다. 각 EU 회원국이 규제 샌드박스를 최소 1개 이상 구축해야 한다는 조항도 8월 2일부터 적용됩니다.

 

참고 자료

Gemini, Wear OS·Google TV·Android Auto로 확장  |  Google Assistant 완전 대체 예정

구글이 올해 안에 Gemini를 Wear OS, Google TV, Android Auto에까지 확대 적용한다고 확인했습니다. 구글은 Gemini가 2026년 내에 Google Assistant를 완전히 대체할 예정임을 공식 발표했습니다. AI 어시스턴트가 스마트폰을 넘어 시계·TV·자동차까지 일상 모든 기기로 침투하는 '앰비언트 AI' 시대가 본격화되고 있음을 보여주는 사례입니다.

 

참고 자료

전망 및 시사점

이번 9주차는 AI 산업이 '기술 혁신'에서 '생존 경쟁'으로 무게중심이 이동하고 있음을 여실히 드러낸 한 주였습니다. 몇 가지 핵심 시사점을 정리합니다.

 

[1] 안전 원칙의 상업적 침식이 현실화됩니다.

Anthropic의 RSP 핵심 조항 삭제는 단순한 정책 변경이 아닙니다. 창립 원칙이 경쟁 압력과 투자자 기대 앞에 실질적으로 후퇴하는 첫 사례가 공개적으로 문서화됐다는 점에서, AI 거버넌스 논의에 중요한 전환점이 됩니다. 자율적 기업 공약만으로는 AI 안전을 담보할 수 없다는 법제화 필요성 주장이 더욱 힘을 얻을 것입니다.

 

[2] DeepSeek V4 출시는 단순한 모델 공개가 아닙니다.

중국이 저비용·고효율 AI 모델을 오픈소스로 출시하는 전략은 미국 빅테크의 AI 인프라 대규모 투자 논리에 반복적으로 균열을 일으킵니다. 이번 V4가 멀티모달 기능까지 갖춘다면, 코딩·추론에 이어 이미지·영상 생성 시장까지 중국 AI의 영향권이 확대될 수 있습니다.

 

[3] AI 고용 대체 논쟁이 추상에서 현실로 내려옵니다.

Block의 4,000명 감원은 CEO 수준의 공개 선언으로 확인된 AI 기반 대규모 구조조정의 첫 S&P 500급 사례입니다. 그러나 경제학자들은 AI 워싱 가능성도 함께 지적하고 있어, 실제 AI 대체와 과잉 채용 조정을 구분하는 정밀한 분석이 요구됩니다.

 

[4] 한국 AI 기본법은 방향은 맞지만 실효성 보완이 필요합니다.

세계 두 번째 포괄적 AI 규범으로 출발했지만, 임계값 설정과 제재 수준에서 개선이 필요하다는 현장 의견이 누적되고 있습니다. 글로벌 기업 대비 중소·스타트업에 불균등하게 집중되는 규제 부담 문제도 향후 보완이 필요한 지점입니다.

참고 자료

 

저작자표시 비영리 변경금지 (새창열림)

'AI 뉴스' 카테고리의 다른 글

[AI 주간브리핑] 2026-11 | 대형언어모델과 소형모델이 병행  (1) 2026.03.19
[AI 주간브리핑] 2026-10 | LLM모델 대폭발의 한 주  (0) 2026.03.12
[AI 주간브리핑] 2026-08 | 중국의 대규모 모델 증류 공격  (1) 2026.02.24
[AI 주간브리핑] 2026-07 | 설날 AI 전쟁의 서막  (0) 2026.02.17
[AI 주간브리핑] 2026-06 | AI 에이전트 전쟁의 서막  (1) 2026.02.13

관련글

티스토리툴바