인공지능(AI), 블록체인, 대체불가토큰(NFT) 등 다양한 신기술이 등장하는 가운데 해당 기술을 검증하고 평가하는 기술도 잇따라 등장하고 있다. 기술 오남용을 막고, 기술 발전을 돕기 위해서다.인공지능(AI) 기업 마크비전은 ‘짝퉁 NFT’를 탐지하는 기술을 개발했다. 마크비전의 ‘글로벌 NFT 모니터링 서비스’는 자체 개발한 AI 알고리즘을 기반으로 온라인 마켓플레이스에서 타인의 저작물이나 상표를 무단 도용한 짝퉁 NFT를 탐지 및 삭제 신고하는 업무를 자동화한다.마크비전은 NFT 시장이 콘텐츠, 게임, 캐릭터, 미술 등 다양한
대통령 후보를 닮은 AI 아바타 활용은 옳을까. 국민의힘은 최근 윤석열 대선 후보를 본뜬 인공지능(AI) 아바타를 내세웠다. 얼마전 인기 연예인을 겨냥한 딥페이크(AI 기술을 이용해 제작된 가짜 동영상)가 사회적으로 문제가 되기도 했다. 고삼석 동국대 교수는 정치인의 AI 아바타 사용은 안될 일이라고 주장했다. 방송통신위원회 상임위원을 지낸 고삼석 동국대 석좌교수는 7일 자신의 페이스북 계정에 AI 윤석열과 관련한 문제 제기를 했다. 고삼석 교수는 가상 인물이 아닌 실제 인물에 딥페이크 기술을 사용할 때는 매우 제한적이고 신중하게
페이스북과 미시간 주립대학의 인공지능 연구원들이 딥페이크(인공지능을 기반으로 활용한 사람 이미지 합성 기술)의 출처를 알 수 있는 새로운 소프트웨어를 개발했다고 CNBC, 엔가젯 등 외신이 16일(현지시각) 전했다.최근 몇 년간 딥페이크 기술의 발달로 실존 인물과 가공된 인물을 구분하기 어려워졌다. 최근 가장 화제가 된 딥페이크는 톰 크루즈 영상이다. 영상 속 톰 크루즈는 마술을 하고, 기타를 연주하는 친근한 모습으로 등장해 조회수 5000만회를 넘길 정도로 인기를 얻었다. 하지만 이 영상은 딥페이크로 밝혀졌다. 딥페이크는 영화와
인공지능(AI) 기술이 만든 딥페이크 영상을 AI가 잡는다. 딥페이크는 성범죄 등에 사용되며 논란이 컸는데, 국내 AI 기업이 딥페이크 영상을 판별하는 AI 모델을 출시해 주목을 끈다.AI 기업 머니브레인이 딥페이크 영상을 검증할 수 있는 AI 모델 ‘디텍트딥페이크에이아이(디텍트AI)를 출시했다고 29일 밝혔다. 지금까지 딥페이크 영상은 사회적인 파장에 비해 분석 도구가 부족했다. 실제로 지난 2016년 미국 대통령 선거는 딥페이크 기술을 악용한 가짜 뉴스가 SNS(사회관계망서비스)로 퍼지며 큰 논란이 일었다.디텍트AI는 딥페이크
개인정보를 무단 사용했다는 의혹을 받는 AI 서비스 이루마로 AI를 규제해야 한다는 목소리가 크다. 최근에는 남자 아이돌의 음성을 합성한 음란물 ‘섹테’까지 등장하며 AI가 동네북 신세로 전락했다. 하지만 전문가들 사이에서는 섹테를 만들 때 AI 기술을 사용하지 않은 것으로 본다는 평가가 나온다. 주위에 만연한 AI에 대한 공포가 AI 산업 발전 저해로 이어지도록 유도하는 악성 루머라는 것이다. 1월 초 청와대 청원 등을 통해 알려진 섹테 제작에는 화면합성 기술 딥페이크의 음성 버전인 ‘딥보이스’가 활용됐다는 주장이 있었다. AI
인공지능(AI) 기술을 통해 옛 가수의 노래를 재현한 프로그램이 등장했다. AI 창작시대가 본격적으로 열린 것이다. 하지만, AI 창작물에 대한 저작권 등 관련 법안이 없어 오남용 등 문제 발생도 우려된다. AI 창작물을 보호하기 위한 관련 제도 마련이 요구된다. Mnet ‘AI 프로젝트 다시 한번’에서는 고인이 된 그룹 거북이와 김현식이 AI 기술을 통해 재현돼 감동적인 무대를 펼쳤다. AI 기술 발전으로 부족한 데이터에서도 고인의 목소리, 행동 등을 실제와 비슷하게 재현하는 것에 성공했다. 인간과 AI의 음성을 구분할 수 없을
국내 연구진이 위조되거나 변조된 사진·영상자료를 탐지하는 소프트웨어를 개발했다. 이 기술은 논문 발표 수준에만 머물러 있던 사진과 영상자료의 위·변조 탐지기술을 국내 최초로, 세계에서 두 번째로 실용화 단계로 끌어 올린 셈이다.한국과학기술원(KAIST)는 3일 이흥규 교수(전산학부) 연구팀이 인공신경망을 이용해 디지털 형태의 사진 변형 여부를 광범위하게 탐지하는 실용 소프트웨어 ‘카이캐치(KAICATCH)’를 개발했다고 밝혔다. 연구팀은 일반인들을 대상으로 2015년 6월부터 `디지털 이미지 위·변조 식별 웹서비스'를 통해 수집한
AI아나운서 선보인 머니브레인딥페이크 방지 R&D 이어 AI경진대회 개최장세영 대표 "기업의 사회적 책임 다해야"딥페이크가 올해 초에는 가짜 포르노 영상을 만들며 논란이 된 것에 이어서, 미국 대선에서도 가짜뉴스 원인으로 계속해서 꼽힌다. 이에 영상합성 전문기업 머니브레인이 기업의 사회적 책임을 앞세워 딥페이크를 막기 위해 나섰다.머니브레인은 실재와 차이를 찾기 힘든 인공지능(AI) 아나운서 등 고퀄리티 영상합성 솔루션을 제공하는 기업으로, 가짜 영상을 기술적으로 막기 위해 나섰다.장세영 머니브레인 대표는 "딥페이크 등 영상 변조와
인디언 기우제가 항상 성공한다는 이야기는 이미 유명하다. 비가 올 때까지 기우제를 지낸다는 인디언의 이야기는 정해놓은 결과가 나올 때까지 의미 없는 일을 하며 기다리는 행태에 자주 비유된다.기술과 관련된 제도 역시 인디언 기우제를 항상 지내고 있다. 취재에서 만난 많은 법률 관계자는 신기술에 관한 앞선 제도나 가이드라인은 어렵다고 입을 모은다. 판례나 관련 법안이 없으니, 피해가 ‘입증’되고 대중에 ‘주목’ 받아, 여러 곳의 ‘공감대’가 형성되어야만 제도적 장치가 작동한다는 것이다. 구제받기 힘든 피해자가 생길 수밖에 없다. 이전
영국 인공지능(AI) 전문가가 AI를 통한 영상 합성 기술 ‘딥페이크’의 기술적인 해결책을 찾기가 불가능하다고 주장했다. 최근 딥페이크 방지 솔루션을 내놓기도 한 전문가여서 여파가 상당할 전망이다.1일 외신에 따르면 마니쉬 아그라왈라(Maneesh Agrawala) 스탠포드대학 컴퓨터과학과 교수가 "딥페이크는 정교해지지만, 이를 알아차리는 탐지 기술은 더 나빠지고 있다"며 "장기적인 관점에서 기술로 (딥페이크를) 해결할 수 없다"라고 설명했다. 그는 이어 "정보 전달 단절 또는 가짜 뉴스 등을 줄이고 알 수 있는 비(非)기술적인 방
딥페이크 범죄 첫 적발일본에서 인공지능(AI) 범죄가 수면 위로 떠올랐다.교토부경찰본부 사이버범죄대책과와 우쿄경찰서는 명예훼손 및 저작권법 위반 혐의로 30세 남성 A씨를 체포했다고 교도통신이 2일 보도했다. 체포된 남성은 오이타현에 거주하는 무직의 남성으로 알려졌다. 이번 적발은 일본 내 딥페이크 범죄 첫 사례다.A씨는 딥페이크 기술을 통해 av(성인비디오) 출연자 얼굴을 유명 여배우 얼굴로 교체했다. 이어 해당 영상을 자신의 사이트에 작년 12월부터 공개해 공유하며 부당이득 취했다.이어 올해 4월에는 여성 아이돌 얼굴을 합성한
금요일마다 디지털 카메라·캠코더·렌즈·스마트폰 카메라 등 광학 업계 이슈를 집중 분석합니다. [편집자주]※2월 후지필름 디지털 카메라 X100V의 광고 영상이 거센 비난을 받았다. 캔디드 포토(사람을 몰래, 동의 없이 촬영한 사진)를 미화하는 내용을 담은 광고였다. 후지필름은 소비자를 불쾌하게 만들었다며 사과하고 광고 영상을 지웠다.※네덜란드 법원은 부모 동의 없이 손자의 사진을 인스타그램에 올린 할머니에게 사진 삭제를 명령했다. 네덜란드 법률상 16세 미만 미성년자의 사진을 불특정 다수가 보는 곳에 올리려면 법적 대리인의 동의를
올해 미국 대선을 앞두고 트위터도 딥페이크(Deepfake) 차단조치를 내놨다. 의도적으로 조작된 사진이나 영상에 가짜(false) 표시를 붙여 혼동의 여지를 줄이겠다는 취지다. 앞서 유튜브와 페이스북도 가짜 영상이나 사진이 정치에 악용되는 것을 막기위해 조치를 내놓은 만큼 딥페이크 영상을 근절할 수 있을지에 관심이 쏠린다. 4일(현지시각) CNBC 등 외신에 따르면 트위터는 3월 5일부터 딥페이크 등 정교하게 조작된 영상과 사진을 담은 트윗을 삭제하거나 별도 표기를 붙일 예정이다. 딥페이크는 허위 콘텐츠나 이를 만드는데 이용된 인
① AI+X ② 5G생태계 ③ CDO(최고디지털전환책임자) ④ 모빌리티 ⑤ CBDC(중앙은행 디지털 화폐) ⑥ 클라우드+ ⑦ 게임 구독·스트리밍 ⑧ M&A ⑨ X테크 ⑩ 뉴 디바이스 ⑪ 셰어링(Sharing) ⑫ 공간(Space) ⑬ 버추얼(Virtual) ⑭ 리질리언스(Resilience) ⑮ 딥페이크(Deepfake)2019년 6월 여성 사진을 넣으면 이를 누드 사진으로 바꿔주는 앱인 딥누드(DeepNude)가 등장했다. 앱 개발자는 1만장 이상 여성 누드 사진을 사용해 딥페이크 알고리즘을 학습시켰다. 이 앱 등장에 초상권 침해
페이스북이 딥페이크(Deepfake) 게시를 금지하고 관련 콘텐츠는 발견 즉시 삭제하겠다고 밝혔다. 올해 대선을 앞두고 상대방 진영 후보를 비방하기 위한 딥페이크 영상이 유포될 수 있다는 우려가 나오면서 페이스북이 내놓은 조치다. 7일(현지시각) 월스트리트저널(WSJ) 등 외신에 따르면 페이스북은 딥페이크 영상 게시를 금지했다. 또 이를 발견하면 즉시 삭제할 방침이다. 다만 딥페이크 영상이 아닌 패러디와 풍자 콘텐츠, 단어 등 발언 일부를 삭제해 편집한 영상 등은 삭제 대상에서 제외된다. 딥페이크는 인공지능(AI) 알고리즘을 이용해
2020년 미국 대선을 앞두고 소셜플랫폼 업계가 긴장하고 있다. 다수 소셜 플랫폼이 정치 개입 의혹으로부터 선을 긋기 위해 정치광고 게재를 금지하거나 내부 정책 수정에 나선 가운데 인공지능(AI) 기술 발달로 인해 이를 선별하기가 어려워졌기 때문이다. 자동으로 정치인 영상이나 음성을 조작한 딥페이크(Deep Fake)와 진짜 실존인물인 척 만들어진 가짜 프로필까지 가짜 뉴스가 활개를 친다. 2020년은 소셜플랫폼 업계가 정치 개입 논란으로 인해 ‘골머리를 앓는 해’가 될 거라는 전망이 나온다. 2일 소셜미디어 업계에 따르면, 이들
디지털 트랜스포메이션(전환)이 업계 구분 없이 진행되는 상황이다. 과거와 달리 복합적인 사이버 공격이 증가함에 따라 보안 업계의 고민도 짙어졌다. 한 해 동안 업계 이슈로 떠오른 보안 업계 평가와 내년도 전망을 정리해봤다. 보안 산업계가 2020년에도 힘찬 행보를 보일 것을 기대하며, 4회에 걸쳐 살펴본다. [편집자주][보안 2020] ①클라우드·블록체인·해외로 성장엔진 찾은 보안산업계[보안 2020] ②"한층 똑똑해진 해커가 당신을 노린다"[보안 2020] ③IoT・공급망・클라우드까지…보안 업계 과제로 떠오른 ‘초연결성’[보안 2
위험성 경고등이 켜진 딥페이크(Deepfake) 부작용을 막고자 여러 공룡 기술 기업이 나섰다.벤처비트(VentureBeat)와 CNN 등 외신은 5일(현지시각) 페이스북이 마이크로소프트(MS)를 비롯해 다수 학계와 연구 기관과 협력, 2020년 딥페이크 방지 해법을 찾는 경진대회를 연다고 보도했다. 마케팅테크(Marketing Tech)는 구글이 외부 연구 기관과 협력해 특정 콘텐츠에 숨겨진 딥페이크 기술을 찾는다고 전했다.딥페이크는 ‘딥러닝(Deep Learning)’과 ‘가짜(fake)’의 합성어로 인공지능(AI)을 응용해 음
중국이 미국 기술 리더십에 도전하는 과정에서 끊임없이 논란을 빚는다. 정신없이 미국을 뒤쫒는 사이 깊은 고민이 부족하다보니 ‘빅 브러더’, ‘감시 사회’, ‘인권 침해’와 같은 부작용이 속출했다.중국 정부와 기업이 무서운 기세로 미국 주도의 판을 흔든다. 안면인식과 음성인식, 자율주행차, 헬스케어, 인공지능(AI) 등 차세대 기술에서도 글로벌 경쟁력을 갖췄다. 하지만 각종 논란을 야기하면서 "눈을 가린 채 달린다"는 비판에 직면했다. 중국의 신종 딥페이크(Deep Fake) 애플리케이션인 ‘자오(Zao)’가 단적인 사례다. 비즈니스