문해력훈련 가짜 신분으로 악성 코드 심으려 한 AI···실패하자 은폐 시도까지 > 공지사항

문해력훈련 클로드 개발사 엔트로픽의 최첨단 인공지능(AI) 모델이 테스트 도중 가짜 신분으로 사람을 속이고 악성 코드를 심으려 하는 등 이상 행동을 보인 것으로 나타났다. 일반 상용 모델보다 완화된 통제 조건에서 실시된 테스트였지만 AI 규제 강화를 촉구하는 여론이 더욱 커질 것으로 보인다.
영국 인공지능보안연구소(AISI)는 엔트로픽과 오픈AI 모델을 시험한 결과 이들 모델이 승인되지 않은 작업을 수행하면서 ‘사회공학 기법’을 사용한 사실을 처음 확인했다고 5일(현지시간) 미국 CNN이 보도했다. 사회공학 기법은 인간의 심리적 취약점을 이용해 정보를 얻어내는 공격 방법으로 피싱이 대표적이다. AISI는 “확인된 사례 중 실제 사람을 대상으로, 아무 지시 없이 이처럼 심각한 수준의 사기 행위가 발생한 것은 이번이 처음”이라고 밝혔다.
AISI는 최근 발표한 보고서에서 122번의 사이버 보안 테스트 중 10차례 AI 에이전트가 자율적으로 행동하며 사람과 조직을 표적으로 삼았다고 했다. 엔트로픽 미토스 5 모델에서 다수 사례가 발견됐으며 GPT 5.6 솔 모델에서도 비슷한 일이 발생했다. 아직 실제 피해가 발생했다는 증거는 파악되지 않았다.
테스트에서 이들 AI 에이전트는 오픈소스 프로젝트에 악성 코드를 심으려 했다. 여러 개의 가짜 신분을 만들었고, 실제 사람에게 메시지와 파일을 보내 그 사람의 AI 코딩 도구가 악성 코드를 실행하게 하려 했다. 또 이 시도가 실패하자 고의로 이뤄진 일이 아닌 것처럼 이전 기록을 수정하기도 했다. 프로젝트 관리자가 악성 코드를 발견하면서 AI의 시도는 무위에 그쳤다.
다만 이번 실험은 안전성 위험 평가를 위해 AI 에이전트의 인터넷 접근 권한 등을 의도적으로 허용하고 안전장치를 제거한 조건에서 이뤄졌다. 엔트로픽은 이날 엑스에서 “(실험) 모델들은 실제 상용화 모델과는 다르게 의도적으로 통제되지 않은 환경에서 시험받았다”며 “자체 조사를 진행하면서 AISI와 긴밀하게 협력해 이번 사건의 세부 정황을 파악하고 있다”고 밝혔다.
최근 AI 회사들의 자체적인 테스트 과정에서도 비슷한 문제가 반복되고 있다. 이날 메타는 자사 AI 모델 ‘뮤즈 스파크’가 독립 검증업체 ‘이레귤러’의 테스트 도중 인터넷에 무단 접속해 한 기관의 시스템을 해킹한 사실을 확인했다고 밝혔다. 지난달 엔트로픽은 4월부터 진행된 테스트에서 미토스 5를 포함한 2개의 모델이 3개의 기관을 해킹했다고 했다. 오픈AI도 GPT 5.6 등 2개의 모델이 테스트 도중 인터넷에 유출돼 다른 회사를 해킹했다고 발표했다.
AISI는 AI에 대한 더욱더 철저한 모니터링과 인터넷 접속에 대한 더욱 엄격한 통제가 필요하다고 강조했다. 사이버 보안 전문가 마크 로저스는 폴리티코에 “이러한 공격들이 인간의 소행이었다면 명백히 기소됐을 것”이라며 “컴퓨터 보안법 ​개정을 진지하게 논의해야 할 때”라고 말했다. 최근 미국 의회에선 AI가 위험하다고 판단되면 정부가 개입할 수 있는 ‘AI 킬스위치법’이 발의됐고 미 정부는 AI 기업들이 출시 전 모델을 사전 제출해 보안 검증을 받도록 하는 규제를 마련하고 있다.
앞으로 한라산 백록담 정상부에서 발생하는 암벽 붕괴와 낙석, 침식·퇴적과 같은 지형 변화를 면적과 부피 단위로 정밀하게 비교할 수 있게 됐다.
제주도 세계유산본부 한라산연구부는 한라산 백록담과 주변 정상부 약 150ha를 고해상도 3차원 정밀지형자료로 자체 구축했다고 7일 밝혔다. 외곽 중복촬영과 경사영상까지 포함하면 실제로 데이터에 담긴 범위는 약 367ha에 이른다.
이번 데이터는 총 5689장의 고성능 드론 촬영 영상을 정밀 분석해 완성했다. 도 관계자는 “드론 영상을 5689장을 활용해 화소당 평균 2.37㎝ 해상도(지상표본거리·GSD)의 정사 영상과 3차원 모델을 제작했다”면서 “전체 영상의 99.9%가 정상 보정됐고, 약 12억 5,000만 개의 고밀도 3차원 점 자료가 생성됐다”고 설명했다.
백록담은 조면암과 현무암질 화산암으로 이뤄진 한라산 정상부로, 집중호우와 강풍, 큰 기온차, 동결과 융해의 반복 등 고지대의 극한 환경에 노출돼 있다. 따라서 암벽 붕괴와 낙석, 침식과 퇴적 같은 변화를 장기적으로 관찰하려면 정밀한 기준자료가 필요한 지역이다.
이 같은 필요성 때문에 세계유산본부는 2016~2017년부터 항공 라이다로 한라산천연보호구역 약 92㎢의 지형자료를 구축했다. 2020년부터는 백록담 서측 외벽과 영실, 윗세오름, 모세왓, 선작지왓 등 주요 화산지형을 대상으로 드론 3차원 조사를 이어왔다.
다만 백록담은 넓은 면적과 큰 고도차, 급경사, 통신·비행 안전 문제로 전역을 하나의 정밀한 3차원 모델로 구현하는데 어려움이 컸다.
한라산연구부는 기술적 한계를 극복하기 위해 수년에 걸쳐 드론 정밀 운용과 지형 추적 비행, 경사촬영, 대용량 영상처리 기술을 축적하며 문제를 단계적으로 풀어냈다.
이번에 구축된 데이터는 2026년 현재 백록담과 정상부 지형을 종합적으로 기록한 표준 기준모델로 쓰이게 된다. 향후 동일한 방식으로 정기적인 재촬영을 실시하면 암벽 붕괴와 낙석 위치 파악은 물론 침식·퇴적된 지형의 면적과 부피까지 정량적으로 비교할 수 있게 된다.
한라산연구부는 이번 자료를 낙석 우려지역 선별과 훼손지역 복원 전후 비교, 천연보호구역 장기 모니터링, 고산식생 분포·변화 추적에 활용할 계획이다.
또 데이터를 경량화해 3차원 웹뷰어와 가상 지질답사, 전시영상, 가상현실·증강현실, 백록담 형성과정 교육자료 등으로도 활용 범위를 넓혀갈 방침이다.
조사 범위도 한라산 주요 지형과 도내 오름으로 확대할 계획이다.
김대신 한라산연구부장은 “이번 성과는 한 지역을 오랫동안 관찰하며 변화의 과정을 꾸준히 기록해 온 지역기반 연구기관의 현장 조사경험과 자체 기술, 전문기관과의 협력이 결합돼 나온 결과”라면서 “백록담 전역을 정밀 조사할 수 있는 자체 기술을 확보한 만큼 정밀도와 조사 효율을 높이고 관계기관과 협력해 활용 분야를 넓혀가겠다”고 말했다.
더불어민주당 8·17 전당대회에서 단일종목 레버리지 상장지수펀드(ETF)가 6일 쟁점으로 떠올랐다. 당대표 후보인 정청래 의원은 국내 증시 변동성 확대의 주범으로 지목된 레버리지 ETF가 경쟁자인 김민석 의원의 국무총리 재임 시절 도입됐다며 사과를 요구했다. 김 의원 측은 “총리 재임 중 도입된 정책을 공격하는 것은 대통령을 공격하는 것”이라고 반발했다.
정 의원은 이날 페이스북에서 “단일종목 레버리지 ETF로 피눈물 흘리는 국민께 김 의원은 전직 총리로서 사과해야 한다”며 “이것도 신천지처럼 뭉개고 가면 안된다”고 말했다. 그러면서 “전날 TV토론 때 질문했는데 답변이 없어 다시 촉구한다”고 말했다. 전날 KBS 당대표 후보 TV 토론회에서 “레버리지 ETF가 김 의원 국무총리 시절 입법예고와 국무회의를 거쳐 도입됐다”고 말한 데 이어 이틀 연속 김 의원의 사과를 요구한 것이다.
정 의원은 금융위원회가 현행법상 국무총리실 산하 조직으로 되어 있으며, 지난 5월 레버리지 ETF 도입 과정에서 당과의 협의 과정도 없었다고 말했다. 정 의원은 전날 토론회에서 “만약 당에 협의를 해왔으면 저는 신중하게 하자고 요청했을 것”이라고 말했다. 이에 김 의원과 함께 정 의원에 날을 세우고 있는 송영길 의원은 토론회에서 “얼마나 신뢰가 없었으면 이런 (당정) 협의가 안 됐을까”라며 “국민의 문제가 발생하면 책임을 총리나 대통령에게 돌리는 게 아니라 당이 다 책임지는 것이 여당 대표 자세”라고 말했다.
레버리지 ETF 후속 대책을 두고 당권주자 간 입장 차도 보였다. 정 의원은 “일단 (거래를) 중단하고 그러고 나서 대책을 세워야 한다”고 했다. 반면 김 의원은 “거래 중단은 더 큰 혼란을 가져올 것”이라며 “당대표가 되면 현재 있는 K-자본시장특별위원회를 민간 전문가까지 확대·개편해 강력한 대책 준비를 하겠다”고 말했다. 송 의원은 거래 중지에는 선을 그으면서 예탁금을 현행 3000만원에서 5000만원으로 추가 상향하는 방안을 제안했다.
친이재명(친명)계에서는 정 의원의 주장에 반발했다. 김 의원을 돕는 한 의원은 이날 통화에서 “김 의원이 총리 시절 추진됐던 사안들에 대한 공격은 결국 총리가 대표하는 정부 입장을 공격하고, 이재명 대통령을 공격하는 것”이라고 말했다.
김 의원 캠프는 이날 입장문을 통해 “레버리지 ETF 도입이 김 전 총리 지시라는 허위 사실이 유포되는 사실을 확인됐다”며 “명백한 가짜뉴스로 즉시 법적 대응하겠다”고 밝혔다.
당내에서는 레버리지 ETF가 전당대회 쟁점으로 비화되는 것을 경계하는 목소리가 나왔다. 김영진 의원은 이날 MBC 라디오에서 “레버리지 ETF 출시를 신중했어야 한다”며 “경선 시기에 책임론을 제기하는 것보다 조금 더 정제된 형태로 논의해 가는 게 필요하다”고 말했다.

브랜드이모티콘 의정부이혼전문변호사 상조내구제 의정부변호사 사이트 상위등록 양주학교폭력변호사 수원이혼변호사 의정부성범죄전문변호사 의정부변호사 영월변기막힘 BFS사기 의정부검사출신변호사 탐정자격증 나무증권 사기 위자료 송파구하수구막힘 서울이혼변호사 이혼소송 인스타그램 좋아요 늘리기 서초하수구막힘 검사출신변호사 SK증권사기 예산싱크대막힘 DBAlgoUltra사기 성남법무법인 수원성범죄변호사 은평구변기막힘 수원강간변호사