MS “사람이 AI보다 우선” 강령 발표…기업 간 안전규칙 통합 논의 물꼬 될까 > 공지사항

MS “사람이 AI보다 우선” 강령 발표…기업 간 안전규칙 통합 논의 물꼬 될까

페이지 정보

작성자 또또링3 댓글 0건 조회 4회 작성일 26-09-19 07:59

본문

최첨단 인공지능(AI)의 속도조절론이 확산하는 상황에서 마이크로소프트(MS)가 인간이 통제할 수 없는 AI는 만들지 않겠다는 원칙을 내놨다. 안전성 확보를 위해 성능과 자율성을 제한할 수 있다는 뜻도 밝혔다. 향후 기업별 안전 규칙을 통합하는 논의가 탄력을 받을지 주목된다.
MS의 AI 조직인 마이크로소프트AI는 14일(현지시간) 37쪽 분량의 ‘휴머니스트 AI 행동규범’ 초안을 공개했다. ‘사람이 AI보다 우선한다’는 원칙을 핵심 전제로 삼았다. AI가 아무리 강력해져도 인간의 지휘·감독 아래 있는 도구로 남아야 하며, 통제할 수 없는 기술은 거부해야 한다는 원칙이다.
MS는 안전장치를 벗어날 수 있는 ‘범용 초지능’ 개발 경쟁에 참여하지 않겠다고 못 박았다. 초지능은 ‘모든 인간을 합친 것보다 지능과 능력이 뛰어난 AI 시스템’으로 정의했다. 이를 위해 필요하다면 AI 모델의 범용성·자율성·성능을 제한할 수 있다고 밝혔다.
과제를 완수했더라도 규칙을 어겼다면 실패로 간주한다. AI끼리 인간이 알 수 없는 언어로 소통하는 것을 금지하고, AI에는 사람과 같은 ‘인격’이 없다는 점도 분명히 했다. MS는 연내 수정안을 내놓고 자체 AI 모델의 훈련·평가에 활용할 계획이다. 기업 차원의 AI 윤리규범 제정은 처음이 아니다. 앤트로픽은 ‘클로드 헌법’과 별도 안전정책을, 구글 딥마인드도 위험 수준별 안전체계를 운영한다.
이번 MS의 초안은 ‘통제 가능성’을 AI 개발의 필수 전제조건으로 제시했다는 점에서 눈길을 끈다. 이를 위해 성능까지 제한할 수 있다고 명시해 안전을 성능 경쟁보다 앞세우자는 최근 ‘AI 속도조절론’과도 맞닿아 있다.
다만 ‘통제할 수 없는 AI’를 가려낼 구체적인 ‘레드라인’은 확립되지 않았다. AI 안전 규칙이 행동으로 이어지려면 객관적인 평가 기준부터 마련해야 한다는 지적이 나온다.
이번 발표와 맞물려 기업별로 운영된 AI 안전 규칙을 공통 기준으로 묶는 논의가 탄력을 받을지도 주목된다. 모델 성능이 위험 수위에 도달하면 추가 검증을 통과할 때까지 개발을 늦추고, 외부 전문가가 훈련 과정 등을 직접 점검하는 방안이 제시됐다. 모델 성능을 끌어올리는 학습 단계에서부터 안전 검증을 강화하는 방안도 거론된다.
무스타파 술레이만 MS AI 최고경영자(CEO)는 14일 로이터 인터뷰에서 “연구소들이 협력해 기술에 대한 통제력을 확보해야 할 때”라면서 “지금은 모두가 AI 개발 속도를 논의하며 숨을 고르기에 좋은 시점”이라고 말했다.
천재 고등학생 야가미 라이토가 학교 운동장에서 ‘이 노트에 이름이 적힌 자는 죽는다’고 적힌 검은 노트를 줍는다. 야가미가 반신반의하며 뉴스에 나온 인질범의 이름을 시험 삼아 적었더니 40초 뒤 인질범이 심장마비로 숨진다. 사신(死神)이 일부러 인간계에 데스노트를 떨어뜨렸다는 기발한 설정의 일본 만화 <데스노트>는 2003년 주간지 연재 시작을 계기로 전 세계에서 3000만부가 팔릴 만큼 인기를 끌었고 만화를 보지 않은 이들도 제목은 기억할 정도가 됐다.
한국에선 ‘데스노트’가 정치권에서 주로 유통되는 어휘로 자리 잡았다. 문재인 정부 시기 데스노트를 손에 쥔 건 정의당이었다. 정의당이 문재인 정부의 인사 과정에서 안경환 법무부·조대엽 고용노동부 장관 등의 후보자에 대해 부적격 의견을 냈고, 이들 모두 낙마했다. ‘정의당 데스노트’라는 표현이 등장할 정도가 되자 인사 때마다 누가 정의당 데스노트에 오를지 이목이 집중됐다.
정의당의 데스노트는 ‘조국 사태’를 기점으로 힘을 잃었다. 정의당은 2019년 9월 조국 법무부 장관 후보자에 대해 반대의견을 표명하지 않았는데 ‘조국 사태’를 경과하면서 거센 후폭풍을 맞은 것이다. 당시 심상정 대표는 “상처받은 청년들과 당의 일관성 결여를 지적하는 국민들께 매우 송구스럽다”며 뒤늦게 수습에 나섰지만 이미 엎질러진 물이었다.
이재명 정부 들어서는 데스노트를 참여연대가 쥐고 있는 듯 보인다. 참여연대가 ‘부적격’으로 지목한 이진숙 교육부·강선우 성평등가족부·이혜훈 기획예산처 장관 후보자가 모두 낙마했다. 참여연대는 지난 15일 김승원 법무부 장관 후보자에 대해서도 부적격이라는 입장을 냈다. 음주운전·위장전입 이력이 있는 데다 코로나19 치료제 관련 청탁도 “부정청탁으로 강하게 의심된다”는 이유를 제시했다. 김 후보자도 낙마하게 되면 ‘참여연대 데스노트’란 말이 나올지도 모른다.
데스노트의 ‘적중률’이 높았던 것은 특정 정당이나 시민단체가 국민 눈높이를 제대로 반영했기 때문일 것이다. 데스노트에 실제 마력을 부여한 것은 국민의 판단이다. 18일 기자회견을 여는 이재명 대통령이 데스노트에 담긴 민심을 헤아린 답변을 내놓길 바란다.

이전글서울탐정사무소 출장용접 서울탐정사무소 출장용접 26.09.19
다음글유튜브 조회수 늘리기 아시아나 마일리지 10년간 유지…합산 땐 ‘모닝캄’ 승급도 26.09.19

댓글목록

등록된 댓글이 없습니다.

MS “사람이 AI보다 우선” 강령 발표…기업 간 안전규칙 통합 논의 물꼬 될까 > 공지사항

인기검색어

공지사항