규제, 성장, 혁신: AI와 신생 기업이 만드는 새로운 경쟁의 장

거대 기술 기업을 겨냥한 AI 안전법, 어디까지 왔나

뉴욕주 의회가 ‘RAISE Act’라는 인공지능 안전법을 통과시켰다. 이 법은 오픈AI, 구글, 앤트로픽 같은 선도적인 AI 연구소가 개발하는 대규모 AI 모델이 심각한 재난을 일으키지 않도록 투명성과 안전성 기준을 제도화한다. 적용 대상은 최소 1억 달러 이상의 컴퓨팅 자원을 투입해 뉴욕 거주자에게 모델을 제공하는 글로벌 기업이다.

법안의 핵심 내용은 반복해서 제기된 두 가지 우려에 맞춤 설계돼 있다. 첫번째는 실리콘밸리가 주장하는 ‘과도한 규제가 혁신을 저해한다’는 논리, 두번째는 모델 개발 기업이 소규모 스타트업을 위축시킨다는 주장이다. 뉴욕주의 RAISE Act는 이중 첫번째 논점에 대해 “스타트업이나 학계에는 규제가 적용되지 않도록 했다”고 분명히 선을 그었다.

이에 대해 실리콘밸리 투자자와 벤처캐피탈은 강하게 반발하고 있다. 글로벌 벤처 투자사 Andreessen Horowitz는 “이런 주(state) 단위 법은 오히려 미국을 뒤처지게 할 뿐”이라고 혹평했다. 한편, 앤트로픽 공동창업자 잭 클라크는 “기업의 규모 구분이 모호하다”며 시행 시 중소 기업에도 영향을 끼칠 수 있다는 우려를 보인다.

뉴욕주의 해명은 간단하다. 세계 3위 경제 규모의 뉴욕에서 주요 IT 기업이 서비스를 제한하는 일은 실제로 일어나기 어렵다고 본다. 법적 기준이 지나치게 무겁지 않아 기업들이 철수할 이유가 없다는 설명이 따라붙는다.

특이한 점은, 캘리포니아의 유사법(SB 1047)은 결국 거부된 데 비해, 뉴욕은 반발을 고려해 법안 설계를 더 정밀하게 다듬었다는 점이다. 예를 들어 AI 모델에 ‘킬 스위치’ 설치나, 사후학습(post-training)으로 인한 책임을 강하게 묻지 않는다. 실제 사건이 보고될 때에만 3천만 달러까지의 민사 벌금을 부과한다. 이는 기술적 진보와 안전성 확보라는 두 마리 토끼를 동시에 잡으려는 시도다.

아직 최종 서명 단계이지만, 이번 법은 미국 내 첫 ‘AI 투명성 의무화 법안’이 실제 적용될 가능성이 높아 보인다.

실리콘밸리가 보는 AI 규제: 협상과 긴장

뉴욕 RAISE Act에 대한 업계 반응은 양분된다. 혁신가 집단에서는 규제가 ‘미래 먹거리’의 성장을 저해할 수 있다는 걱정이 크다. 이는 본질적으로 기업들이 법적 위험을 피하기 위해 뉴욕 내 서비스 축소, 혹은 다양한 형태의 기술적 차별(hard gating)을 도입하는 악순환을 우려하는 시각이다.

반면, AI 연구자 그룹이나 안전성 운동가들은 미국의 AI 윤리 체계 구축에 승부수를 던진 셈이라고 본다. 특히 논쟁적이었던 ‘스타트업 옥죄기’ 조항을 완화한 것이 이전 법안들과의 가장 큰 차별점이다. 결국, 혁신이냐 공공 안전이냐의 논의가 표면적 논란을 넘어 실제 제도에 어떤 형태로 반영되는지가 주요 쟁점이다.

여기서 거버넌스의 무게 중심은 산업계가 아니라, 사전에 위협을 통제하겠다는 사회적 합의로 옮겨가고 있다. 일례로, 인공지능이 실제 사고를 일으킬 가능성이 있는 현상을 ‘예방’하는 시도가 입법화되고 있다는 점이 이전과는 확연히 다르다.

AI와 시장 가치: 성장하는 신흥 기업의 모습

거대한 기술 규제 논란의 한편에서는 활발하게 성장하는 신생 기업의 움직임도 눈에 띈다. 대표주자는 영업 자동화 스타트업 ‘Clay’다. 최근 30억 달러에 가까운 기업가치로 신규 투자를 유치하였다. 불과 한 달 전까지 사내 지분 거래는 15억 달러 수준이었으나, 단숨에 두 배로 평가가 올랐다.

Clay는 2017년 설립 이후 AI를 통한 영업 효율화에 집중해 왔다. 고객사는 OpenAI, HubSpot, Canva 등 대형 IT 기업부터 100여 개의 소규모 마케팅 컨설팅사까지 폭넓다. 경쟁사로는 ZoomInfo, Apollo.io 등 기존 영업 데이터 플랫폼과, Unify, Common Room 같은 신진 플랫폼이 있다.

Clay의 특징 중 하나는 직원이 스톡옵션으로 지분을 꾸준히 현금화할 기회를 얻고 있다는 점이다. 이는 일반 벤처 투자 방식과는 다르게, 직원과 창업자의 이익을 균형있게 설계한 구조다. AI 산업의 급격한 확장 속에서 Clay와 같은 플레이어는, 실질적 영업 방식을 혁신하면서 동시에 내부 이해관계자 관리에도 신경을 쓰고 있다는 점에서 주목할 만하다.

■

전통 산업의 변화를 이끄는 신생 기업: Zevo의 실험

자동차 공유 플랫폼 Turo의 틈새시장을 노린 신생 기업 Zevo도 화제다. Zevo는 전기차(EV) 전용 차량 공유 플랫폼이다. 설립자 헤브론 셔는 ‘로봇택시 시대’가 오리라는 일론 머스크의 공언에 기대를 걸었으나, 실제 현실이 따라오지 않자 직접 창업에 나섰다.

Zevo의 독특함은 자금 조달 방식부터 드러난다. 벤처 캐피탈 투자를 일체 거절하고, 사적으로 소규모 자금을 유치하며 사업을 키웠다. 그 결과, 10개월 만에 연 환산 800만 달러 매출을 기록하고, 대기 고객 3,500명을 확보했다는 점이 뒤따른다.

고객 중 상당수는 우버, 리프트, 도어대시 등에서 일하는 ‘긱 이코노미’ 종사자다. Zevo는 대형 렌터카나 공유 플랫폼들이 강조해 온 신용평가, 복잡한 보험, 각종 서류 절차를 모바일 앱에서 완전히 자동화했다. 소유주에게 더 많은 수익을, 렌터에게는 관리·유지비 절감과 접근성을 제공한다. 무엇보다, 차량의 약 90%가 테슬라 전기차라는 점에서 ‘미래형 모빌리티 네트워크’ 실험의 성격이 짙다.

Zevo는 차량 공유 방식 자체에 집중한다. 일명 ‘컨택트리스(비대면) 접근’을 플랫폼 체계의 중심에 두고, 보험 체계와 결제, 관리 시스템을 일원화했다. 이는 높은 운행률(평균 80일 임대)과 수익률(차량가치의 35~65% 회수)로 이어진다.

이 흐름은 대형 완성차 업체의 전통적인 사업 논리와 대조된다. 테슬라는 올해 말 오스틴 등지에서 로봇택시 시스템을 실제로 도입할 계획이지만, Zevo는 ‘자가용 공유’를 통해 더 많은 사람들이 경제활동에 직접 참여할 수 있는 현실적 해법에 무게를 둔다. 공급 부족 문제, 유지비 절감, 긱 워커들의 접근성 개선 등에서 보완적 역할이 두드러진다.

혁신, 규제, 그리고 사회적 가치

세 기사의 흐름을 보면, 한편에선 거대 기술 기업을 대상으로 한 법적 규제가 마련되고, 다른 한편에선 AI와 디지털 플랫폼 신생 기업이 사업 모델을 재정의하고 있다. 규제 영역에서는 ‘공공 안전’과 ‘혁신’의 균형점이 논의의 핵심이다. 뉴욕형 모델은 기술 발전을 억누르지 않는 선에서 대형 모델의 리스크만을 통제하려 한다.

다른 한편, 신생 스타트업은 제도 변화와 무관하게 실질적 문제 해결에 방점을 찍는다. 대기업이 따라오지 못하는 속도로 시장에 맞는 서비스 방식과 비즈니스 구조를 설계하고, 기존 업계를 재편한다. 투자 유치, 조직 운영, 정책 순응 방식도 다양해지고 있다.

이 과정에서 소비자와 사용자, 그리고 긱 워커 등 새로운 주체들의 이익을 중심에 둔 구조적 혁신이 진행되는 만큼, 단순한 기술진보 논의에서 벗어나 공유 지분 구조, 서비스 접근성, 투명성 확보 등 ‘포괄적 가치’에 관한 논의도 깊어진다.

결론: 경쟁의 재구성, 그리고 앞으로의 과제

AI와 플랫폼 시장은 단순한 첨단 기술 각축장이 아니다. 법적 장치와 사회적 요구, 신생 기업의 발 빠른 비즈니스 전환, 그리고 투명성이나 책임에 대한 새로운 합의가 흥미롭게 충돌한다. 뉴욕의 RAISE Act를 둘러싼 논쟁은 향후 미국을 넘어 글로벌 테크 산업 규제 모델의 선례로 작용할 수 있다. 또한 Clay와 Zevo의 사례는, 현장 중심 혁신과 이해관계자 이익 균형이 신뢰받는 기업 성장의 조건임을 보여준다.

앞으로 이 흐름이 어떻게 정착되는지는 각 주체의 선택과 사회적 반응에 달려 있다. 사회 전체가 책임 있는 혁신을 요구하는 가운데, 자율성과 규율, 그리고 포용적 가치를 아우르는 경쟁의 장이 만들어지고 있다.