초점

AI 허위정보 공습에... "공동 대응하자" 세계 빅테크 '이례적 협정'

시간:2010-12-5 17:23:32  작성자:오락   출처:종합  查看:  评论:0
内容摘要:MS·구글·오픈AI·메타·아마존 등 20곳AI 콘텐츠 확산 방지 위해 협력 합의전 세계에 생성 인공지능 열풍을 일으킨 챗GPT와 챗GPT를 만든 오픈AI의 로고. AFP

AI 허위정보 공습에...

MS·구글·오픈AI·메타·아마존 등 20곳
AI 콘텐츠 확산 방지 위해 협력 합의
전 세계에 생성 인공지능 열풍을 일으킨 챗GPT와 챗GPT를 만든 오픈AI의 로고. AFP 연합뉴스


전 세계 시장을 대상으로 인터넷 기반 사업을 하는 주요 기술기업(빅테크) 20곳이 인공지능(AI)발 허위정보 확산을 막기 위해 손을 잡았다. AI로 만들어 낸 가짜뉴스·허위정보가 선거의 공정성을 해치고 민주주의를 위협할 것이라는 우려가 커지는 가운데, 세계 최대 기술기업들이 이런 위기에 함께 맞서겠다며 공동전선을 형성하고 나선 것이다.

'민주주의 위기'에 손잡은 빅테크



17일(현지시간) 블룸버그통신 등에 따르면 테크업체 20곳은 선거 관련 AI 생성 콘텐츠의 확산 방지를 목표로 노력하기로 하고, 이 같은 다짐을 담은 합의문('선거에서 AI의 기만적 활용을 방지하기 위한 기술 협정')을 16일 개막한 독일 뮌헨안보회의에서 발표했다. 합의문에는마이크로소프트(MS)·구글·아마존·메타·오픈AI·IBM·엑스(X)·앤트로픽 등 주요 AI 개발사들과 사회관계망서비스(SNS) 업체들이 서명했다. AI 생성 콘텐츠 확산에 직간접적 책임이 있는 주요 업체들이 사실상 전부 이름을 올린 것이다. 그간 AI 업체들은 "개발 경쟁에만 열을 올리고 부작용을 최소화하는 데는 소홀하다"는 지적을 받아 왔고, SNS 업체들은 '딥페이크(이미지·목소리·영상 등을 진짜처럼 합성하는 기술)' 콘텐츠 확산의 '공범'으로 지목돼 왔다.

구체적으로 이들은 선거 관련 AI 생성 콘텐츠의 위험성을 최소화하기 위한 기술을 개발하는 데 협력하기로 했다. 여기에는 AI 생성 콘텐츠임을 이용자가 알아볼 수 있도록 워터마크(표식)를 삽입하거나 라벨(꼬리표)을 붙이는 등의 기술과 AI 생성 여부를 탐지하는 도구 등이 포함된다. 또 각 사가 개발한 AI 모델의 위험성을 평가하는 작업도 실시하기로 했다. 아울러 각 사가 선거 관련 AI 생성 콘텐츠 방지를 위해 어떤 노력을 하고 있는지 이용자에게 투명하게 공개하고, 쉽게 속아 넘어가지 않도록 대중 교육도 지원하기로 했다.

지난해 3월 미국 공화당의 유력한 대선 주자인 도널드 트럼프(가운데) 전 대통령이 뉴욕 맨해튼에서 체포돼 경찰에 연행되는 사진들이 사회관계망서비스(SNS)인 트위터 등에 유통됐다. 해당 사진들은 모두 생성 AI에 의해 제작된 가짜 사진으로 드러났다. 트위터 캡처


이행 계획, 구속력 없어... 한계도 분명



경쟁 관계인 빅테크들이 이 같은 협정을, 그것도 자발적으로 맺은 건 이례적이다. 그만큼 AI 생성 콘텐츠로 인한 위험 증폭에 모두가 위기의식을 갖고 있음을 보여준다. 올해는 특히 76개국에서 42억 명이 투표하는 이른바 '슈퍼 선거의 해'라 AI발 허위정보로 인한 혼란과 피해가 극에 달할 것이란 우려가 크다.IBM의 크리스티나 몽고메리 최고개인정보책임자는 "허위정보를 활용한 선거운동이 새로운 건 아니지만 이 예외적인 선거의 해에는 사람과 사회를 보호하기 위한 보다 협력적, 구체적 조치가 필요하다"고 했다. 브래드 스미스 MS 부회장은 "우리 모두는 경쟁을 원하고 또 필요로 한다"며 "그러나 민주주의를 포함해 현실의 문제를 다루고 해결하는 것 역시 필요한 일"이라고 했다.

그러나 이번 협정의 한계도 뚜렷하다. 우선 이행 계획이 없고, 구속력도 없다는 점에서 선언 이상의 의미는 없다는 지적이 나온다. 그나마도 그간 업체들이 개별적으로 발표 또는 실시한 확산 방지책들을 재확인한 수준에 그쳤다는 비판도 있다. 실제로 워터마크나 라벨은 이미 오픈AI를 비롯한 대부분 업체들이 도입을 약속한 것들이다. 딥페이크 콘텐츠 게시 전면 금지와 같은 적극적 조치는 제외됐다. AP통신은 "합의 내용이 모호해서 강력한 조치를 원하는 감시자들에게는 실망스러울 것"이라고 했다.

copyright © 2024 powered by 영혼의섬닷오알지   sitemap