캘리포니아 AI 규제 논란: 할리우드 스타들과 테크 업계의 대립

캘리포니아 주지사 뉴섬, 논란의 AI 법안에 거부권 행사

원문 발췌 사진, 캘리포니아 주지사 개빈 뉴섬 (출처: 게티 이미지스 외)

 

 

 

캘리포니아 주지사 개빈 뉴섬(Gavin Newsom)이 대형 AI 회사들에게 AI 모델의 위험을 줄이라고 요구하는 법안을 거부했습니다.

 

이 법안은 오픈AI, 구글, 앤트로픽(Anthropic) 같은 큰 AI 회사들이 AI 사용으로 인한 심각한 피해를 막지 않으면 처벌받게 하는 내용이었습니다.

 

뉴섬 주지사는 이 법안의 의도는 좋지만 문제가 있다고 말했습니다.

 

그는 이 법안이 큰 AI 회사들만 규제하고, AI의 실제 위험성을 제대로 고려하지 않았다고 지적했습니다.

 

일요일에 뉴섬 주지사는 "이 법안이 AI 기술의 실제 위험으로부터 사람들을 보호하는 데 있어 가장 좋은 방법은 아니라고 생각합니다"라고 말했습니다.

 

 

 

많은 기술 회사들이 캘리포니아의 AI 규제 법안에 반대했습니다.

 

메타와 오픈AI 등은 이 법안이 혁신을 막고 경제 성장을 위협할 수 있다고 말했습니다.

 

또한 우수한 기술 인재들이 떠날 수 있다고 우려했습니다.

 

전 하원의장 낸시 펠로시(Nancy Pelosi)도 이 법안이 좋은 의도였지만 정보가 부족했다고 평가했습니다.

 

 

 

반면, 지난주에는 125명 이상의 할리우드 A급 스타들이 이 법안을 지지하며 "AI로 인한 중대한 위협"을 경고했습니다.

 

기술 업계의 대다수 의견과는 달리 일론 머스크(Elon Musk)는 이 법안을 지지하며 X(구 트위터)에 "나는 AI 규제를 옹호해왔다. 이는 대중에게 잠재적 위험을 초래하는 모든 제품/기술을 규제하는 것과 같다"고 썼습니다.

 

캘리포니아 민주당 상원의원 스콧 위너(Scott Wiener)가 이 법안을 제안했습니다.

 

법안은 큰 AI 회사들이 기술 오용을 막기 위해 "합리적인 보안 조치"를 취하도록 요구했습니다.

 

이를 지키지 않으면 민사 처벌을 받을 수 있었습니다.

 

 

 

뉴섬 주지사는 AI 법안의 덜 엄격한 버전을 검토했습니다.

 

이 버전은 독립적인 감사와 위증 시 형사 처벌(감옥형 가능성 포함)을 포함했습니다.

 

이러한 변경으로 법안은 더 많은 지지를 얻어 8월 말에 주 의회와 상원을 통과했습니다.

 

앤트로픽의 CEO 다리오 아모데이(Dario Amodei)는 이 법안이 비용을 능가하도록 좋은 이점이 있을 가능 성도 있겠다고 말했지만, 완전히 지지하지는 않았습니다.

 

 

 

9월 9일, OpenAI와 메타의 전현직 직원 100여 명이 회사의 반대 입장과 달리 이 법안을 지지했습니다.

 

그들은 이 법안이 "의미 있는 진전"이라고 말했습니다.

 

이 법안의 목표는 AI 오용으로 인한 큰 피해를 막는 것이었습니다.

 

예를 들어, 핵무기로 인한 대규모 사상자나 중요 시설에 대한 사이버 공격 같은 것들입니다.

 

 

 

법안은 AI 개발자들에게 안전장치를 마련하고 필요시 AI를 빠르게 중단할 수 있는 능력을 요구했습니다.

 

뉴섬 주지사는 9월 초에 이 법안의 ‘냉각효과’ (AI 발전이 늦어질 수 있음)를 우려했습니다.

 

하지만 뉴섬이 AI 산업을 전혀 규제하지 않으려는 것은 아닙니다.

 

그는 최근 헐리우드 유명 배우들의 디지털 이미지가 허가 없이 사용되는 것을 막는 두 가지 법안에 서명했습니다.

 

• 출처: 배런스
• 발행: 미국 동부 표준시, 2024년 9월 29일, 오후 5시 18분
• 원제: California’s Newsom Vetoes the State’s Controversial AI Bill