ChatGPT, AI챗봇의 위협은 이제 시작된 것일까?

 요리 조언을 받든 연설을 도와주든 ChatGPT는 많은 사람들이 인공 지능(AI) 시스템을 가지고 놀 수 있는 첫 기회가 되었습니다. ChatGPT는 OpenAI에서 개발한 고급 언어 처리 기술을 기반으로 합니다.

 

 인공 지능(AI)은 책, 잡지, Wikipedia 항목을 포함하여 인터넷의 텍스트 데이터베이스를 사용하여 훈련되었으며 모두 3000억 단어가 시스템에 입력되었습니다. 최종 결과는 소름 끼치게 인간처럼 보일 수 있지만 결국은 백과사전적 지식을 갖춘 챗봇입니다.

ChatGPT가 알려줄 수 있습니다. 좋은걸까요?

 

 부엌 찬장에 있는 것을 ChatGPT에 말하면 요리법을 알려줄 것입니다. 큰 프레젠테이션에 대한 간단한 소개가 필요하세요? 문제 없습니다.

 

 하지만 너무 좋은 것일까요? 인간 반응에 대한 설득력 있는 근사치는 나쁜 마음을 먹는 사람들에게 강력한 도구가 될 수 있습니다. 학계, 사이버 보안 연구원 및 AI 전문가는 범죄자들과 같은 나쁜 마음을 먹는 사람들이 ChatGPT를 사용하여 반대 의견을 퍼뜨리고 소셜 미디어에 좋지 않은 내요을 담은 내용을 퍼뜨릴 수 있다고 경고합니다.

 

잘못된 정보를 더 쉽게 

 

 지금까지 잘못된 정보를 퍼뜨리는 데 상당한 인력이 필요했지만, 1월에 발표된 조지타운 대학교, 스탠포드 인터넷 천문대 및 OpenAI의 보고서에 따르면 ChatGPT와 같은 AI는 소위 트롤 군대가 작전을 확장하는 것을 훨씬 더 쉽게 만들 것이라고 합니다.

 

 ChatGPT와 같은 정교한 언어 처리 시스템은 소셜 미디어에서 소위 영향을 미치는 작업에 영향을 미칠 수 있습니다.

 이러한 캠페인은 비판을 회피하고 여당이나 정치인을 긍정적인 방식으로 캐스팅하고 정책을 옹호하거나 반대할 수 있으며 가짜 계정을 사용하여 소셜 미디어에 잘못된 정보를 퍼뜨리기도 할 수 있습니다.

 

 그러한 캠페인 중 하나는 2016년 미국 선거를 앞두고 시작되었습니다. 상트페테르부르크 소재 인터넷 조사 기관(Internet Research Agency)이 만든 수천 개의 트위터, 페이스북, 인스타그램, 유튜브 계정이 힐러리 클린턴의 캠페인을 집중적으로 비난하고 도널드 트럼프를 지원하는 데 초점을 맞춰 운영되었다는 것을 상원 정보위원회는 2019년 확인했습니다.

미래의 선거는 잘못된 정보의 대홍수를 처리해야 할 수도 있습니다.

 

 1월에 발표된 AI 보고서는 "저렴한 비용으로 사람이 작성한 콘텐츠와 경쟁할 수 있는 언어 모델의 잠재력은 강력한 기술과 마찬가지로 이러한 모델을 사용하기로 선택한 선전가에게 뚜렷한 이점을 제공할 수 있음을 시사합니다."라고 말했습니다.

 

 보고서는 "이러한 이점은 더 많은 행위자에 대한 접근을 확대하고 새로운 영향력 전술을 가능하게 하며 캠페인의 메시지를 훨씬 더 맞춤화되고 잠재적으로 효과적으로 만들 수 있다"고 경고합니다.

 

증가할 수 있는 잘못된 정보의 양 뿐만 아니라 품질도 마찬가지입니다.

 

이 논문의 공동저자이자 Georgetown's Center for Security Emerging의 연구원인 Josh Goldstein은 AI 시스템이 일반 인터넷 사용자가 콘텐츠의 품질이 조작되었다는 것을 인식하기 어렵게 만들 수 있다고 말합니다.

"생성 언어 모델은 매번 독창적인 대량의 콘텐츠를 생성할 수 있으며 각 선전가가 소셜 미디어 계정이나 뉴스 사이트에서 동일한 텍스트를 복사하여 붙여넣는 데 의존하지 않도록 합니다."라고 그는 말합니다. Mr Goldstein은 계속해서 플랫폼에 허위 정보나 선전이 범람하면 대중이 무엇이 진실인지 식별하기가 더 어려워질 것이며, 이를 누군가는 이용하게 될 것이라고 말합니다.

AI는 더이상 일부 기업, 혹은 일부 조직의 것이 아닐 것

 

 이러한 사용이 현재는 일부의 돈과 권력이 있거나 하는 특정 조직에서만 이루어지지만 앞으로는 점점 더 많은 사람들이 자유롭게 이러한 시스템에 접근 가능하게 될 것이며 이에 대한 제제와 법, 보안등이 필요할 것입니다.

2016년 Uber가 인수한 AI 회사인 Geometric Intelligence의 창립자이자 AI 전문가인 Gary Marcus는 "스팸을 퍼뜨리는 사람들은 사람들을 속여 자신의 링크를 클릭하고 가능한 한 많은 사람들에게 도달하는 스프레이 접근 방식을 사용합니다. 하지만 AI를 사용하면 그 스프레이를 뿌리는 물총이 역사상 가장 큰 물총이 될 수 있습니다”

 

 또한 Twitter 및 Facebook과 같은 플랫폼이 네트워크에 퍼뜨려지는 스팸의4분의 3을 제거하더라도 "온라인에서 사람들을 거짓으로 유혹하는 것을 목표로 할 수 있는 콘텐츠가 이전보다 10배 이상 많습니다"라고 Marcus는 말했습니다. 가짜 소셜 미디어 계정의 급증은 Twitter와 Facebook 측면에서 가시가 되었으며 오늘날 언어 모델 시스템의 빠른 성숙은 이러한 플랫폼을 훨씬 더 많은 가짜 프로필로 가득 채울 것입니다.

 

 Mr Goldstein이 공동 집필한 2023년 1월 논문과 보안 회사 WithSecure Intelligence의 유사한 보고서는 이러한 챗봇들이 소셜 미디어에 퍼질 수 있는 가짜 뉴스 기사를 빠르고 효율적으로 생성할 수 있는 방법에 대해 경고합니다.

 

AI사용에 대한 제재가 필요할 것

 

 앞으로 소셜 미디어 플랫폼 들은 AI시스템으로 인해 퍼지는 가짜 계정과 잘못된 정보들에 대해 어떤 방식으로 대처해야 할까요?

 정부는 AI로부터 진짜 인간을 보호하기 위해 어떤 규제들을 마련해야 할까요?

 

이 두가지 화두는 앞으로 10년 동안 아주 중요 해질 것입니다.