AI 파국론에···앤트로픽·오픈AI 수장 “속도 늦추자”, 머스크·허사비스도 “방향 공감” 한목소리 > 공지사항

AI 파국론에···앤트로픽·오픈AI 수장 “속도 늦추자”, 머스크·허사비스도 “방향 공감” 한목소리

페이지 정보

작성자 또또링3 댓글 0건 조회 31회 작성일 26-09-15 12:00

본문

AI 업계에서 인공지능(AI) 개발 속도에 ‘브레이크’를 걸자는 목소리가 커지고 있다. 세계 최상위 AI 기업 수장들이 잇달아 속도 조절에 공감하면서 업계 차원의 ‘공동 감속 규칙’이 마련될지 관심이 쏠린다. 중국을 포함한 업계 전반의 호응을 끌어낼 수 있을지가 관건이 될 것으로 보인다.
다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난 12일(현지시간) 블로그에 올린 글에서 “AI 모델의 능력을 개선하는 속도를 늦춰야 한다”고 말했다. AI 스스로 다음 세대 AI 개발을 돕는 ‘재귀적 자기개선’이 시작되면서 발전 속도가 안전기술을 앞지르고 있다는 주장이다. 그는 지난 7월 오픈AI의 허깅페이스 사태를 예로들며 “지금 추세라면 6~12개월 안에 에이전트 군집이 인터넷 전체를 장악할 정도로 강력해질 수 있다”고 경고했다. 이어 외부 전문가의 내부 점검·프런티어랩 간 공통 안전기준 마련·국제적 협력 확대 등을 제안했다.
경쟁사 수장들도 곧바로 호응했다. 샘 올트먼 오픈AI CEO는 같은 날 “프런티어를 적절히 조절해야 한다는 데 동의한다”고 했다. 또 올해 오픈AI 상장은 하지 않겠다고 밝히며 안전·정렬 문제를 이유로 들었다. 일론 머스크 xAI CEO CEO도 “다리오가 맞다”고 했고, 데미스 허사비스 구글 딥마인드 의장도 “세부는 다듬어야 하지만 방향은 맞다”고 가세했다.
최근 프런티어랩 내부에서 AI 통제 실패에 대한 극단적 전망이 잇따라 나온 것도 감속론에 힘을 싣고 있다. 제이컵 콕슨 전 앤트로픽 연구원은 8일(현지시간) 회사를 떠나며 AI 기업들이 ‘인류의 목숨을 걸고 도박하고 있다’고 비판했고, 앤트로픽에서 정렬 문제를 연구하는 에번 허빙거도 “향후 10년 내 AI로 인류가 멸종할 가능성을 10% 이상으로 본다”며 경고했다.
정치권의 규제 논의도 거세지고 있다. 미 상원에서는 프런티어 AI 기업에 핵·생물무기 등 중대 위험을 줄일 ‘주의 의무’를 부과하고 위험 모델 출시를 막는 방안을 논의 중이다. 영국에서도 하원의원과 상원의원 70여명이 정부에 인공초지능(ASI) 개발 금지와 국제 규제 주도를 촉구했다. 퓨리서치센터 조사에서 미국인의 63%가 AI 발전 속도가 너무 빠르다고 답하는 등 우려도 크다.
다만 추상적인 AI 파국론을 근거로 규제 논의가 이뤄지는 데 대한 신중론도 나온다. 개리 탄 Y콤비네이터 CEO는 지난 10일 “AI가 사악하니 멈춰야 한다는 식의 모호한 주장에 관심을 돌려서는 안 된다”고 했다. 전 구글 AI 윤리 연구자 팀닛 게브루도 “기업의 주장부터 정치권의 법안 제안까지 걸리는 시간이 너무 짧다”며 정책 논의가 ‘속도전’으로 이어지는 것을 경계했다.
AI 모델을 공개하는 오픈소스 진영 일각에서는 안전규제 비용이 후발주자의 진입장벽이 될 수 있다고 우려한다. 안전 규제가 소수 대형기업의 통제력만 키울 수 있다는 것이다. 법적 허들도 넘어야 한다. 오픈AI는 최근 경쟁사들이 개발·출시 속도를 함께 제한하면 담합으로 해석될 소지가 있는지 반독점법상 기준을 명확히 해달라고 미 의회에 요청했다. 감속을 주장하는 앤트로픽이 고성장을 전제로 한 대형 IPO를 추진하고 있다는 점도 감속론의 실효성을 시험하는 대목이다.
미·중 패권 경쟁도 감속론의 현실적인 제약요인으로 꼽힌다. 마크 저커버그 메타 CEO는 지난달 중국과의 경쟁을 이유로 “미국의 경쟁력을 늦춰선 안 된다”며 AI 개발 가속을 주장했다. 도널드 트럼프 미국 대통령은 “우리가 AI에서 이기지 못하면 매우 나쁜 위치에 놓일 것”이라고 했다. 아모데이 CEO도 중국이 따라잡을 정도로 개발 속도를 늦춰서는 안 된다는 조건을 달았다. 중국이 미국과 AI 안전 관련 대화를 추진하는 것으로 알려졌지만 개발 속도까지 함께 제한하는 ‘빅딜’은 현실적으로 쉽지 않다.
최병호 고려대 인공지능연구소 교수는 “AI로 인한 리스크는 측정이나 관리 자체가 어려우므로 (감속에 대한) 문제의식 자체는 타당하다”면서도 “기업들이 말과는 달리 자금 조달을 위한 상장을 추진하고, 데이터센터에 대한 투자도 가속화하고 있다. 향후 수익화 압박도 커질 텐데 ‘속도를 조절하자’는 주장이 얼마나 진정성이 있을지 의문”이라고 했다.
경기 파주 ‘대형카페 냉동창고 살인사건’ 피의자가 사전에 범행을 계획한 정황이 드러나고 있다. 피의자는 피해 여성을 냉동창고에 가둔 직후 인공지능(AI)에 ‘냉동창고에 사람이 있으면 어떻게 되나’라고 묻기도 했다.
10일 경찰 등에 따르면 자신이 운영하는 파주 문산읍의 카페 냉동창고에 60대 여성을 가둬 숨지게 한 혐의(피유인자 살해)로 구속된 A씨(39)는 범행 일주일 전인 지난달 27일 새벽 냉동창고를 설치했다. 30여㎡ 규모의 소형 컨테이너 구조물로, 안에는 액면가 기준 500억원 상당의 위조 상품권이 있었다.
A씨는 지난 3일 오전 11시쯤 피해 여성을 카페로 부른 뒤 ‘상품권 진위를 감정해달라’며 냉동창고로 유인했다. A씨는 이때 피해자의 휴대전화를 차량에 두고 내리게 한 것으로 조사됐다. A씨는 피해자를 냉동창고에 가둔 직후 피해자의 휴대전화 전원을 끄고 보관해왔다. 경찰은 A씨가 피해자를 냉동창고에 두고 나온 후 AI에 냉동창고에 사람을 두면 어떻게 되는지를 물은 사실을 확인했다. 경찰은 이런 점들을 A씨가 살인을 사전에 계획했거나 최소한 사망 가능성을 인지한 정황으로 의심한다.
피해자의 시신에서는 별다른 외상이 발견되지 않았다. 경찰은 피해자가 영하 20도 안팎의 냉동창고에 갇혀 저체온증과 산소 부족 등으로 인해 숨진 것으로 추정하고 있다.
A씨는 범행 경위와 동기에 대해 계속 말을 바꾸고 있다. 수사 초기엔 피해자가 냉동창고에 있던 상품권이 가짜임을 알아채 범행을 저질렀다고 주장했으나, 이후 우발적으로 창고 문을 닫아버렸다는 취지로 주장하고 있다. 냉동창고를 설치한 이유에 대해서도 초기에는 살인을 염두에 뒀다고 했으나 이후 냉동창고에 상품권을 두면 가짜란 사실을 알아차리기 어려울 것으로 생각했다고 진술을 번복했다. 경찰 관계자는 “피의자의 진술이 계속 바뀌고 있어 휴대폰 포렌식 내용 등을 토대로 범행을 분석 중”이라고 말했다.
경찰은 A씨가 상품권 위조 조직에서 주요 직책을 맡아 활동한 것으로 보고 공범을 추적 중이다. 경찰은 A씨가 상품권을 대량으로 현금 거래하는 속칭 ‘상품권깡’ 업자에게 위조 상품권으로 판매하려 했으며, 피해자에게 상품권 감정 등 중간 역할을 맡긴 것으로 추정한다.
아라비아 횡단 송유관의 알메사바 가압장 시설이 지난 11일(현지시간) 예멘 후티 반군의 공격으로 파괴돼 있다. 작은 사진은 공격 전인 지난해 10월29일 촬영됐다. 미국의 위성사진 제공업체 밴터가 촬영해 13일 공개했다.
<로이터연합뉴스>

이전글출장용접 서울탐정사무소 26.09.15
다음글출장용접 출장용접 출장용접 폰테크 26.09.15

댓글목록

등록된 댓글이 없습니다.

AI 파국론에···앤트로픽·오픈AI 수장 “속도 늦추자”, 머스크·허사비스도 “방향 공감” 한목소리 > 공지사항

인기검색어

공지사항