AI 위험성, 인류 멸망보다 먼저 봐야 할 현실적인 문제 4가지

인공지능의 위험을 이야기하면 가장 먼저 떠오르는 장면이 있습니다.

AI가 인간보다 똑똑해지고 결국 통제할 수 없는 존재가 되는 미래입니다.

실제로 AI 업계에서도 초지능과 인간 통제 문제를 놓고 논쟁이 계속되고 있습니다.

하지만 조금 다른 방향에서도 살펴볼 필요가 있습니다.

아직 오지 않은 미래를 걱정하는 동안 우리가 매일 사용하는 AI에서는 이미 현실적인 문제가 나타나고 있기 때문입니다.

AI의 위험은 먼 미래에만 있는 것이 아닙니다.

지금 우리 생활 가까이에서 먼저 살펴봐야 할 문제는 무엇일까요.

1. 딥페이크와 허위정보, 이제는 눈과 귀만 믿기 어렵습니다

생성형 AI가 발전하면서 가장 빠르게 체감되는 문제 중 하나는 진짜와 가짜를 구분하기 어려워졌다는 점입니다.

예전에는 합성 사진이나 조작 영상에서 어색한 부분을 비교적 쉽게 발견할 수 있었습니다.

하지만 최근 AI는 사람의 얼굴 표정과 입 모양을 자연스럽게 바꾸고, 음성 자료를 이용해 특정 사람과 비슷한 목소리를 만들어낼 수도 있습니다.

문제는 이런 기술이 단순한 재미를 넘어 사기와 허위정보에 활용될 수 있다는 점입니다.

가족이나 지인의 목소리를 흉내 내 급하게 돈을 보내달라고 요구하거나, 실제로 하지 않은 발언을 유명인이 한 것처럼 꾸민 영상이 만들어질 수도 있습니다.

AI가 만들어낸 글도 마찬가지입니다.

문장이 자연스럽고 자신감 있게 작성됐다고 해서 내용까지 정확하다는 보장은 없습니다. 사실과 다른 내용이나 존재하지 않는 출처를 그럴듯하게 제시하는 경우도 있기 때문입니다.

저는 앞으로 AI 시대에는 정보를 빨리 찾는 능력만큼이나 그 정보가 정말 맞는지 다시 확인하는 능력이 중요해질 것이라고 생각합니다.

특히 돈, 건강, 법률처럼 잘못된 판단의 영향이 큰 분야에서는 한 번 더 출처를 확인하는 습관이 필요합니다.

2. AI도 사람의 편견을 배울 수 있습니다

AI라고 하면 감정이 없기 때문에 사람보다 객관적일 것이라고 생각하기 쉽습니다.

하지만 AI가 판단을 배우는 재료는 결국 사람이 만든 데이터입니다.

예를 들어 과거 특정 직종에서 한 성별의 직원이 압도적으로 많았다면, 과거 데이터를 학습한 시스템이 그 특징을 우수한 인재의 기준처럼 받아들일 가능성이 있습니다.

채용뿐만 아니라 금융, 보험, 광고 추천처럼 사람의 삶에 영향을 미치는 영역에서도 비슷한 문제가 생길 수 있습니다.

더 어려운 점은 사람의 편견은 비교적 눈에 잘 보이지만 알고리즘 내부에서 만들어지는 편향은 사용자가 쉽게 알아차리기 어렵다는 것입니다.

컴퓨터가 계산해서 나온 결과라는 이유만으로 객관적이라고 믿어버릴 수도 있기 때문입니다.

저는 AI가 사람의 판단을 돕는 것과 중요한 결정을 AI에게 그대로 맡기는 것은 다른 문제라고 봅니다.

채용 탈락이나 대출 거절처럼 사람의 삶에 큰 영향을 미치는 판단이라면 결과뿐 아니라 왜 그런 판단이 나왔는지 사람이 다시 확인할 수 있는 과정도 필요합니다.

3. 내가 만든 글과 사진, AI에 입력한 정보는 어디까지 안전할까요

생성형 AI가 뛰어난 결과를 만들기 위해서는 많은 데이터가 필요합니다.

글과 사진, 그림, 음악처럼 사람이 만든 콘텐츠도 AI 학습과 저작권 논쟁에서 중요한 문제가 되고 있습니다.

어떤 자료가 학습에 사용됐는지, 창작자가 자신의 작품이 어떻게 활용됐는지 알 수 있는지, AI가 만든 결과물이 기존 창작물과 지나치게 비슷할 때 어디까지 새로운 창작으로 인정할 것인지 아직 논의가 계속되고 있습니다.

사용자가 직접 AI에 입력하는 정보도 생각해볼 필요가 있습니다.

예를 들어 회사 계약서나 고객 명단, 공개되지 않은 사업 자료를 AI에게 그대로 넣고 요약을 요청하면 매우 편리할 수 있습니다.

하지만 해당 서비스가 입력된 데이터를 어떻게 처리하고 보관하는지 확인하지 않은 상태라면 민감한 정보를 외부 서비스에 전달하는 결과가 될 수도 있습니다.

저는 AI를 잘 사용한다는 것이 좋은 질문을 만드는 능력만을 의미한다고 생각하지 않습니다.

무엇을 입력해도 되는지, 무엇은 입력하지 말아야 하는지를 구분하는 것도 중요한 AI 활용 능력입니다.

주민등록번호, 비밀번호, 금융정보, 고객 개인정보, 회사 기밀처럼 유출됐을 때 문제가 되는 내용은 입력하지 않는 것을 기본 원칙으로 두는 편이 안전합니다.

4. AI 답변 몇 초 뒤에는 거대한 데이터센터가 움직이고 있습니다

AI는 화면에서 질문을 입력하면 몇 초 만에 답을 보여줍니다.

그래서 우리가 사용하는 AI가 실제 세계의 자원을 얼마나 사용하는지는 쉽게 느끼기 어렵습니다.

하지만 생성형 AI를 학습하고 운영하기 위해서는 고성능 반도체와 대규모 데이터센터가 필요합니다.

장비가 계산을 수행하는 동안 전력이 사용되고 많은 열이 발생하기 때문에 냉각에도 자원이 필요합니다.

AI 이용자가 늘어나고 더 큰 모델이 등장하면서 데이터센터의 전력 소비와 에너지 효율 문제도 함께 중요해지고 있습니다.

이 부분은 AI를 평가하는 기준 자체를 바꿀 수도 있습니다.

지금까지는 얼마나 똑똑한지, 얼마나 복잡한 문제를 해결하는지가 중요한 경쟁 요소였다면 앞으로는 같은 일을 얼마나 적은 컴퓨팅 자원으로 처리할 수 있는지도 중요한 기술력이 될 수 있습니다.

저는 AI의 환경 문제 때문에 기술 발전을 멈춰야 한다고 생각하지는 않습니다.

다만 AI가 화면 속에서 작동한다고 해서 자원을 거의 사용하지 않는 기술처럼 생각하는 것도 현실과는 다릅니다.

AI의 성능뿐 아니라 그 성능을 유지하기 위해 얼마나 많은 자원이 필요한지도 함께 살펴볼 필요가 있습니다.

저는 AI 멸망론보다 지금 벌어지는 문제를 먼저 봐야 한다고 생각합니다

AI가 언젠가 인간보다 훨씬 뛰어난 능력을 갖게 됐을 때 어떤 일이 벌어질지 연구하는 것은 필요합니다.

그렇다고 미래의 위험만 바라보다 지금 이미 발생하고 있는 문제를 뒤로 미뤄서는 안 된다고 생각합니다.

딥페이크와 허위정보는 이미 현실에서 사용되고 있고, 알고리즘 편향과 저작권 문제도 계속 논의되고 있습니다.

개인정보 보호와 AI를 운영하는 데 필요한 자원 문제 역시 현재 우리가 해결해야 할 과제입니다.

저는 오히려 이런 현실적인 문제를 하나씩 해결하는 과정이 앞으로 더 강력한 AI가 등장했을 때 발생할 수 있는 위험에 대비하는 방법이라고 봅니다.

AI 자체를 두려워하기보다 어떤 데이터를 사용하는지, 결과를 누가 검증하는지, 문제가 발생했을 때 누가 책임지는지를 묻는 것이 지금은 더 중요하지 않을까요.

AI를 사용할 때 우리가 할 수 있는 4가지

첫째, AI가 알려준 중요한 정보는 다른 신뢰할 수 있는 자료를 통해 다시 확인합니다.

둘째, 주민등록번호나 계좌번호, 회사 내부 자료처럼 공개되면 문제가 될 정보는 AI에 입력하지 않습니다.

셋째, AI로 만든 글이나 이미지를 공개적으로 사용할 때는 이용 조건과 저작권 문제를 확인합니다.

넷째, 새로운 AI를 선택할 때 성능뿐 아니라 데이터 처리 방식과 신뢰성도 함께 살펴봅니다.

AI를 아예 사용하지 않는 것이 현실적인 해결책은 아닙니다.

기술이 주는 편리함은 활용하면서 동시에 어디에서 문제가 생길 수 있는지 알고 사용하는 것이 더 중요합니다.

결국 중요한 것은 AI보다 사용하는 사람의 판단입니다

AI는 앞으로 더 빠르고 더 똑똑해질 가능성이 큽니다.

하지만 기술이 발전한다고 해서 그 과정에서 발생하는 모든 문제가 자연스럽게 해결되는 것은 아닙니다.

오히려 AI의 영향력이 커질수록 사람이 확인하고 판단해야 할 부분도 함께 커질 수 있습니다.

인류를 위협하는 초지능의 미래도 중요한 논의입니다.

하지만 그보다 먼저 지금 우리 눈앞에서 벌어지는 네 가지 문제부터 제대로 이해하는 것이 AI 시대를 준비하는 현실적인 출발점이라고 생각합니다.

자주 묻는 질문

AI는 정말 위험한 기술인가요?

AI 자체를 단순히 위험하다고 단정하기는 어렵습니다. 어떤 데이터로 만들었는지, 어디에 사용되는지, 사람이 어떻게 관리하고 검증하는지에 따라 위험의 정도가 크게 달라질 수 있습니다.

AI가 알려주는 정보를 그대로 믿어도 되나요?

일상적인 아이디어나 초안을 만드는 데에는 유용하지만 중요한 사실이나 전문적인 판단이 필요한 내용은 다른 자료와 비교해 확인하는 것이 좋습니다.

AI에 개인정보를 입력하면 안 되나요?

주민등록번호, 비밀번호, 금융정보, 회사 기밀처럼 민감한 정보는 입력하지 않는 편이 안전합니다. 서비스마다 데이터 보관과 이용 정책이 다르므로 설정도 함께 확인할 필요가 있습니다.

AI 발전을 막으면 위험도 사라질까요?

기술 발전을 막는 것만으로 문제를 해결하기는 어렵습니다. 기술 개발과 함께 기업의 책임, 제도적 기준, 사용자의 올바른 활용이 함께 이루어지는 것이 중요합니다.

참고 자료

Sasha Luccioni
AI Is Dangerous, but Not for the Reasons You Think
TEDWomen 2023 / TED