인공지능(AI)이 위험할 수 있다는 말 들어본 적 있나요? SF 영화 얘기냐고요 🛸? 그건 아니고, 챗GPT 같은 AI를 쓰는 사람이 많아지면서 악용에 대한 우려도 커지고 있는 것. 이를 해결하기 위해 전 세계 정부 관계자들과 마이크로소프트(MS)의 CEO, 챗GPT를 만든 오픈AI의 CEO 등이 한 자리에 모이기로 했다고.

뭐야 뭐야 무슨 일인데?

11월 1일부터 영국에서 세계 최초로 ‘인공지능(AI) 안보 정상회의’가 열려요. 주요 7개 나라(G7)는 이번 회의에서 AI에 대한 ‘국제행동강령’을 내놓을 예정인데요. AI 서비스를 제공하는 기업은 AI의 위험성을 파악하고, 이를 해결하기 위해 노력해야 한다는 내용을 담고 있다고. 주요 국가들이 AI의 위험을 관리하는 기준점을 마련할 수 있게 될 거라는 전망이 나와요.

무슨 위험을 말하는 거야?

• 허위 정보 생성 공장 🤥: 최근 챗GPT 같은 생성형 AI 활용이 늘었는데요. 사용자의 질문에 틀린 답을 내놓는 경우도 많고, 사실관계가 전혀 맞지 않는 정보를 그럴듯하게 꾸며서 대답하는 일도 많아요. 그러자 AI 때문에 허위정보가 마구 퍼질 수 있다는 걱정이 나오고요: “민주주의를 어지럽힐 수 있어!”

• 차별·혐오 발언 대잔치 😈: AI가 정보를 습득하는 과정에서 차별적·혐오적인 발언을 그대로 학습해서 사용한다는 것. MS의 챗봇형 AI ‘테이’나, 우리나라의 ‘이루다’의 사례가 대표적이라고. 사용자에게 폭력적·비윤리적인 말을 하는 경우도 있었고요.

• AI가 해킹을 한다고? 👀: AI를 활용한 해킹·개인정보 유출의 위험성이 커지고, 딥보이스·딥페이크 기능을 활용한 피싱 사기가 유행하는 등 AI에 관한 보안 이슈도 떠오르고 있어요.

AI의 이런 문제를 해결하기 위한 노력이 여기저기서 이뤄지고 있다고 💪.

어떤 노력들이 있어?

국제기구·각국 정부·기업 차원에서 다양한 노력을 기울이고 있어요.

• 지구는 하나, AI 대응도 하나 🌏: EU는 지난 6월 챗GPT 같은 생성형 AI를 만드는 기업은 머신러닝에 사용한 자료의 출처·저작권을 밝히고, 서비스 출시 전 EU의 승인을 먼저 받도록 하겠다는 계획을 발표했어요. 유엔은 얼마 전 ‘AI 시대 인권규범’을 채택했고요.

• AI 규제하는 각국 정부 👮: 각 나라 정부는 AI 활용을 규제하는 방향으로 움직이고 있어요. 미국 정부는 MS·아마존 등 대기업의 AI 활용에 대한 규제를 만들 계획이라고. AI가 채용 과정에서 차별을 하지 못하게 하거나, AI가 개인정보를 수집하는 과정을 투명하게 공개하도록 하겠다는 거예요.

• 뭉치는 테크 기업들 👥: 구글·MS·오픈AI 등 AI를 개발·운영하는 기업들은 규제에 대응하기 위해 뭉치고 있어요. AI를 안전하게 사용할 수 있는 방법을 연구하고, AI 활용 방법에 대한 자체 가이드라인도 만들 계획이라고.

하지만 이런 조치들은 대부분 강제성도 없고, 누가·누구를·어떻게 규제할 것인지가 정해져 있지 않아 혼란스럽다는 말도 있는데요. AI 규제 주도권을 잡기 위한 치열한 다툼이 벌어지고 있다는 해석도 나와요. 영국이 “AI 규제의 중심이 될게!” 하며 이번 회의를 유치한 것도 그런 주도권 싸움 중 하나라고.