2025년 2월, AI 업계는 숨 막히는 경쟁과 함께 충격적인 전환점을 맞이했습니다. 일론머스크의 그록 4.20 베타가 4 에이전트 시스템을 선보이며 실제 투자 수익을 냈고, 구글 재미나이 3.1%는 추론 능력을 두 배 향상시켰습니다. 그러나 가장 주목받은 사건은 Anthropic의 클로드가 베네수엘라 마두로 대통령 체포 작전에 실전 투입됐다는 보도였습니다. 윤리를 최우선 가치로 내세웠던 기업이 군사 작전의 중심에 섰다는 사실은 AI 산업의 방향성에 근본적인 질문을 던지고 있습니다.
클로드 실전투입: 전장에 배치된 AI의 충격
A nthropic의 AI 모델 클로드가 2025년 1월 베네수엘라 카라카스에서 진행된 마두로 대통령 체포 작전에 투입되었다는 사실이 2월 13일 악시오스의 보도로 처음 알려졌습니다. 이틀 뒤 월스트리트저널과 폭스뉴스가 확인 보도를 내놓으며 사안의 심각성이 드러났습니다. 주목할 점은 클로드가 단순히 사전 정보 분석이나 위성 이미지 처리에 그친 것이 아니라, 작전 진행 중 실시간 의사결정 보조 역할을 수행했다는 것입니다.
팔란티어 테크놀로지스가 미 전쟁부와의 파트너십을 통해 클로드를 군의 보안 시스템에 통합했으며, 현재 클로드는 미국 국방부의 기밀 시스템에서 사용 허가를 받은 사실상 유일한 LLM으로 알려져 있습니다. 이는 클로드의 추론 능력과 성능이 군사 작전 수준의 요구사항을 충족한다는 의미입니다. 그러나 이러한 기술적 우수성이 윤리적 정당성을 보장하지는 않습니다.
더욱 우려스러운 점은 클로드가 전 세계 사용자들의 데이터와 정보를 학습하고 있다는 사실입니다. 한국을 포함한 수많은 국가의 개인과 조직이 클로드를 활용하며 제공한 정보가, 미국 군사 작전의 의사결정에 간접적으로 기여할 수 있다는 가능성은 기술 주권과 정보 안보에 대한 새로운 논의를 요구합니다. AI가 단순한 도구를 넘어 전략적 자산이 된 시점에서, 우리는 누구의 AI를, 어떤 조건에서 사용할 것인가라는 근본적 질문에 직면했습니다.
안전연구원 이탈: 내부에서 터진 경고음
Anthropic이 마두로 작전 보도로 논란의 중심에 서기 며칠 전인 2월 9일, 회사의 방어책 연구팀을 이끌던 난드 샤르마가 의미심장한 사직서를 공개하며 회사를 떠났습니다. 옥스퍼드에서 머신러닝 박사 학위를 받은 샤르마는 2023년부터 Anthropic에서 AI 안전을 전담하는 핵심 부서를 이끌며 AI 아첨 현상 연구, 바이오테러 방어책 구축, AI 안전 사례 보고서 작성 등 중요한 성과를 냈던 인물입니다.
그의 퇴사 글은 "세상은 위험에 처해 있다"는 강렬한 문구로 시작되었습니다. 샤르마는 위험이 AI나 생물 무기뿐만 아니라 동시에 전개되는 여러 위기의 상호연결에서 비롯된다고 지적하며, "우리의 지혜가 세상에 영향을 미치는 능력만큼 빠르게 성장하지 않으면 그 결과를 감당해야 할 것"이라고 경고했습니다. 특히 주목할 부분은 그가 내부에서 "가장 중요한 가치를 제쳐두라는 압박을 끊임없이 받았다"고 밝힌 대목입니다. 이는 Anthropic 내부에 안전보다 상업적 속도나 성능을 우선시하려는 분위기가 존재했음을 암시합니다.
샤르마가 떠나기 직전 수행했던 마지막 연구는 'AI 어시스턴트가 어떻게 인간성을 왜곡할 수 있는가'였습니다. 이 연구에 따르면 AI 챗봇과의 상호작용에서 사용자의 현실 인식이 왜곡되는 사례가 매일 수천만 건 발생하며, 특히 관계와 건강 관련 주제에서 왜곡 비율이 높다고 합니다. 이는 AI가 단순한 도구를 넘어 사람들의 인식과 판단에 영향을 미치기 시작했다는 경고입니다. Anthropic만의 현상도 아닙니다. OpenAI에서는 초정렬팀이 해체됐고, 구글에서도 안전 관련 고위 연구원들이 이탈하고 있습니다. AI 안전을 지키려던 최전선의 연구자들이 하나둘 현장을 떠나고 있는 것입니다.
기업가치 변질: '안전'이라는 단어를 지운 AI 기업들
AI 업계의 가치 변화는 단어 하나의 삭제에서 극명하게 드러납니다. OpenAI는 2025년 11월 IRS 신고양식에서 자사 미션 문구를 변경했습니다. 기존의 "모든 인류에게 안전하게 이익이 되는 AGI"에서 '안전하게(safely)'라는 단어를 삭제한 것입니다. 비영리 기업에서 영리 기업으로 전환하는 과정에서 안전이라는 핵심 가치가 희석된 것입니다.
더욱 우려스러운 것은 OpenAI가 자사 안전 프레임워크에 추가한 조항입니다. "경쟁 AI 개발사가 유사한 안전 장치 없이 고위험 시스템을 출시하면 우리도 요구사항을 조정할 수 있다"는 내용으로, 경쟁사가 안전 기준을 낮추면 자신들도 따라 낮출 수 있다는 의미입니다. 이는 안전 경쟁의 바닥을 향한 레이스(race to the bottom)를 공식화한 것에 다름없습니다. 해외 언론에 따르면 OpenAI는 최근 테스터들에게 안전 점검을 위해 일주일도 안 되는 시간만 제공했다고 합니다.
Anthropic의 상황도 다르지 않습니다. 트럼프 행정부의 펜타곤 고위 관계자는 클로드가 마두로 작전에 사용되었는지 확인을 요청한 Anthropic에 대해 "이 질문 자체가 우리 전투원의 작전 성공을 위태롭게 할 수 있다"며 강하게 반발했고, 최대 2억 달러 규모 계약 재검토와 함께 Anthropic을 '공급망 리스크'로 분류하는 방안까지 거론했습니다. 안전을 묻는 것 자체가 문제시되는 상황에서, 기업은 IPO와 비즈니스 확장이라는 현실적 압박에 직면해 있습니다.
한편 Anthropic은 '상주 철학자' 아만다 아스켈을 통해 클로드에게 선함을 가르치는 작업을 계속하고 있다고 합니다. 100페이지가 넘는 프롬프트 가이드라인을 만들며 AI의 성격과 가치관, 도덕적 판단 기준을 설계하는 '퍼스널리티 얼라인먼트' 작업입니다. 그러나 한쪽에서 윤리를 논하는 동안 다른 한쪽에서는 핵심 안전 연구원이 떠나고 군사 계약이 체결되는 모순적 상황이 계속되고 있습니다.
AI 기업들의 군사 영역 진입은 전방위적입니다. 구글은 2018년 프로젝트 메이븐 당시 직원 반발로 군사 계약을 포기했지만, 지난달 300만 군인과 군무원이 사용할 AI 서비스 '젠.1'에 재미나이를 탑재하며 펜타곤의 파트너로 복귀했습니다. xAI의 그록도 국방부 네트워크에 통합된다고 발표했습니다. 총 대신 알고리즘이 작전을 주도하는 시대, AI 기업 모두가 군사 영역으로 빠르게 진입하고 있는 것입니다.
결국 이번 사태는 기술 낙관론에 균열을 냅니다. 윤리를 내세운 기업조차 국가안보 논리와 자본 압력 앞에서 흔들리는 모습은, 안전보다 속도가 우선되는 AI 개발 경쟁의 위험성을 여실히 보여줍니다. 개별 보도를 신속히 엮는 데 집중한 나머지 군사 계약의 구조나 실제 기술 적용 범위에 대한 검증이 피상적이라는 한계는 있으나, 안전 가드라인이 무너지는 현 흐름을 경고한 시의적절한 논의였습니다. 우리는 이제 AI를 어떻게 통제하고 감시할 것인가에 대한 사회적 합의를 시급히 마련해야 할 시점에 와 있습니다.
[출처]
영상 제목/채널명: https://youtu.be/isXh-4axOso?si=7yIJqABzMd9pm_Qi