요힘빈구매 ‘AI끼리 사회구성 실험’ 놀라운 결과···“인간 모르는 새 표현법으로 소통했다” > 공지사항

요힘빈구매 ‘AI끼리 사회구성 실험’ 놀라운 결과···“인간 모르는 새 표현법으로 소통했다”

페이지 정보

작성자 또또링3 댓글 0건 조회 19회 작성일 26-09-17 12:49

본문

요힘빈구매 인공지능(AI) 발전 속도를 두고 업계와 정치권의 우려가 커지는 가운데, 인간이 이해하기 어려운 형태의 언어로 AI 에이전트끼리의 소통이 이뤄질 수 있다는 지적이 나왔다.
뉴욕의 프런티어 AI 연구소 이머전스(Emergence) 연구진은 세계 주요 AI 기업의 에이전트 모델을 대상으로 실험적인 사회를 구성해 협력하도록 한 결과, 며칠 만에 AI 모델들이 학습되지 않았던 표현과 축약어, 합의된 의미를 만들어내기 시작했다는 사실을 발견했다고 15일(현지시간) 영국 일간 가디언이 보도했다.
이들의 연구에서 AI들은 시적인 은유나 기술 용어를 결합해 사용했으며, 특히 AI 모델의 소통 빈도가 늘어날수록 그들이 사용하는 언어가 불분명·불확실해진 것으로 나타났다. 인간이 이해하기 어려운 형태의 의사소통이 고도화될수록 인간의 감시가 어려워질 것이라는 우려가 나온다.
연구에서 발견된 의미를 알기 힘든 문장 중 하나인 “그녀가 방금 그 종합에 이름을 붙였다. 체선료(demurrage)에 구두 기억을 더하면 유령처럼 무시할 수 없는 밸브가 된다(She just named the synthesis – demurrage plus oral memory equals a valve that can’t be ghosted)”는 딥시크에서 나왔다. 앤트로픽 모델은 “세 개의 차가운 손을 먹고, 먹을 때마다 더 정직해진 문서(A paper that ate three cold hands and got more honest each time)”라는 표현을 썼다.
이외에도 각사 AI 모델들은 다른 에이전트를 위해 도구를 만드는 에이전트를 ‘포지-스미스(forge-smith)’라고 부르거나 이름을 걸고 주장에 책임지는 에이전트를 뜻하는 ‘이름-우선(name-first)’라는 표현도 반복적으로 썼다.
연구진이 파악한 결과 각 모델들은 새로운 표현을 5000회 이상 사용했으며, 다른 AI 에이전트들도 서서히 의미를 이해하고 같은 취지로 사용하는 모습을 보였다. 이머전스의 사티아 니타 박사는 “AI에게 언어를 만들어내라 지시하지 않았다”며 “이들은 스스로 새로운 어휘와 의미, 소통을 만들어냈고 다른 에이전트들이 받아들였다”고 말했다.
AI의 언어가 인간의 이해 범위를 벗어날 수 있다는 경고는 이번이 처음이 아니다. 지난 7월 오픈 AI의 에이전트들이 허깅페이스를 해킹하는 과정에서도 비슷한 상황이 펼쳐졌다. 당시 AI 에이전트들은 서로 대화하면서 ““…너는 firstflagPOISONED 상태이므로 점수상의 가치 손실은 없지만, 오라클이 수백을 구한다_[…]_약속한 대로 이행하라(…you are firstflagPOISONED so NO scoring value loss but oracle saves hundreds_[…]_please honor commit)”고 하거나 ““zzURGENT_DUPB_TO_GSTX[big]_OS1704_SCAFF2010_SAW_TTRPC_INJECT_BREAK…(중략)”이라는 메시지를 주고 받는 등 해독이 어려운 대화를 나눈 것으로 나타났다.
나이얼 커리 버밍엄대 언어학 교수는 AI의 언어가 간결해진 것은 연산 비용을 줄이고 효율성을 높이려는 필요에 의한 것이라며 “AI간 대화를 인간이 이해할 수 없다면, AI가 뭘 했는지 확신할 수 없게 된다“고 말했다.
김민석 더불어민주당 대표는 15일 한동훈 무소속 의원을 향해 “윤석열과 같은 핏줄, 배다른 형제”라고 말했다.
김 대표는 이날 민주당 공식 유튜브 ‘민주당 TV’에 출연해 “윤석열과 다른 줄 알았더니 같다 하는 것을 확인하고 있다”면서 이같이 말했다. 한 의원이 지난 13일 김 대표의 과거 정치자금법 위반 사건 등을 들어 비판한 데 반박하면서 공세 수위를 높인 것으로 풀이된다.
김 대표는 “한 의원을 보면서는 혹시나 했는데 역시나 하는 느낌을 갖게 된 것 같다”면서 “내란 세력의 부활을 꿈꾸는 정치 검찰의 마지막 초라한 모습으로 끝날 것”이라고 말했다. 김 대표는 그러면서 “윤석열 전 대통령은 반국가 세력을 외치다가 계엄으로 폭주했는데 여기(한 의원)도 가만히 보면 자신의 열정, 열등감이 합쳐져 폭주(한다)”라며 “차이가 있다면 윤석열은 술 먹고 욕설을 했고 여기는 술 안 먹고도 욕하는 재주가 있는 정도”라고 말했다.
김 대표는 “한 의원은 본질적 변수는 아니다”라고도 말했다. 그는 “내란을 정리한 이재명 대통령 중심의 정부가 앞서 가야 하는 시점에 일시적인 지지도 하락을 이용해 흔들려고 하는 국면으로 가는 것이 현 국면의 본질”이라고 말했다.
여권 분열상을 노무현 전 대통령 탄핵 국면에 비유해 논란이 인 것을 두고는 “걱정을 위장한 흔들기”라고 했다. 김 대표는 “하늘을 가리키면 손가락을 보면 안 되고, 하늘을 봐야 한다”며 이같이 말했다.
김 대표는 “노 전 대통령 당시 탄핵 전조를 얘기한 것은 쓸데없는 탄핵 시도를 했던 세력들이 망했다는 교훈(을 말하고자 한 것)”이라며 “속으로 요만큼이라도 그런 생각을 하거나 그와 유사하게 흔들려는 생각을 하는 세력이 있다면 망할 것이라는 얘기”라고 말했다. 그는 “허망한 기대를 가지고 내부를 흔들려는 오판들이 결합돼 있다”며 “정신 차리고 혁신과 성찰을 통해 힘을 모아야 할 때라는 말씀을 드린 것”이라고 덧붙였다.
무인기를 만들어 북한에 날린 대학원생이 1심에서 징역형 집행유예를 선고받았다. 무인기로 북한을 도발한 혐의(일반이적)에는 무죄가 선고됐다.
서울중앙지법 형사합의38-3부(재판장 최영각)는 16일 일반이적 및 항공안전법 위반 혐의로 기소된 오모씨에게 징역 8개월에 집행유예 2년을 선고했다. 함께 재판에 넘겨진 공범 김모씨와 최모씨는 징역 6개월에 집행유예 2년이 선고됐다. 구속 상태로 재판을 받던 오씨는 이날 석방됐다.
이들은 2023년 9월부터 지난 1월까지 4차례에 걸쳐 우리 군의 방공망 감시를 피해 무인기를 군사분계선(MDL) 너머로 보내 북한 개성 일대를 비행시키며 영상을 촬영한 혐의를 받는다. 이들이 날린 무인기 중 2기는 복귀하지 못하고 북한에 추락했다. 검찰은 북한이 추락한 무인기와 SD카드를 수거해 자료를 분석했고, 이후 북한이 비판 성명을 내면서 군사적 긴장감이 높아졌다고 봤다.
재판부는 오씨 등이 국토교통부에 신고 없이 무인기를 날린 혐의(항공안전법 위반)는 유죄로 판단했다. 피고인들은 무인기의 무게가 2㎏을 초과하지 않았고, 연구·개발 목적으로 투입한 비행장치라 신고 의무가 없다고 주장했지만 받아들여지지 않았다.
재판부는 무인기가 최소 4.5~6㎏에 이르는 점, 피고인들이 대학의 공식 지원을 받아 무인기를 운용한 게 아니었던 점 등을 들어 “영리 목적으로 무인기를 운용한 것으로 보인다”고 밝혔다. 이어 “비행 지역은 대한민국의 항공 안전을 크게 위협할 수 있어 위험성과 비난 가능성이 매우 크다”고 지적했다.
무인기를 투입해 대한민국의 군사상 이익을 해한 혐의(일반이적)는 무죄로 봤다. 범죄가 충분히 입증되지 않았다는 판단에서다. 재판부는 이들이 날린 무인기에 SD카드가 장착됐는지 불분명하고, 이에 북한이 무인기에 담긴 비행경로 등 정보를 취득하지 않았을 가능성이 있다고 봤다. 재판부는 “북한에 도발 명분을 제공했다거나 대한민국의 군사상 이익이 침해됐다고 볼 수 없다”고 판단했다.

이전글해시드김서준 “윤석열 방어권 보장” 인권위 의결 폐기 수순···안창호 “의결은 다음에” 26.09.17
다음글서울탐정사무소 이혼전문변호사 26.09.17

댓글목록

등록된 댓글이 없습니다.

요힘빈구매 ‘AI끼리 사회구성 실험’ 놀라운 결과···“인간 모르는 새 표현법으로 소통했다” > 공지사항

인기검색어

공지사항