AI 디지털 리터러시 - 모든 직장인이 알아야 할 기본 개념

회의 중에 "LLM 기반으로 파인튜닝해서 할루시네이션을 줄여야 합니다"라는 말이 나왔을 때, 고개를 끄덕이면서도 속으로는 무슨 말인지 하나도 모르겠다면. 당신만 그런 게 아니다. AI 관련 용어가 일상 업무에 스며들면서, 이 용어들을 모르면 회의에서 소외되고 의사결정에서 밀려나는 일이 실제로 벌어지고 있다.

문제는 이런 개념들이 어렵지 않다는 것이다. 그냥 아무도 쉽게 설명해주지 않았을 뿐이다. 오늘 이 글 하나로 AI 관련 핵심 용어 10가지를 확실하게 정리하자.

반드시 알아야 할 AI 핵심 개념 10가지

1. AI (인공지능, Artificial Intelligence)

AI는 인간의 지능을 흉내 내는 컴퓨터 시스템이다. 여기서 중요한 건 "흉내"라는 단어다. AI가 실제로 생각하는 것이 아니라, 생각하는 것처럼 보이게 만든 프로그램이다.

비유하자면, AI는 앵무새에 가깝다. 앵무새가 "안녕하세요"라고 말한다고 해서 인사의 의미를 이해하는 건 아닌 것처럼, AI도 패턴을 학습해서 적절한 결과를 내놓는 것이지 진짜로 이해하고 있는 건 아니다.

2. 머신러닝 (Machine Learning)

머신러닝은 AI를 구현하는 방법 중 하나다. 사람이 일일이 규칙을 프로그래밍하는 대신, 데이터를 주고 컴퓨터가 스스로 패턴을 찾게 하는 방식이다.

음식 비유로 설명하면 이렇다. 기존 프로그래밍은 레시피를 주고 "이대로 만들어"라고 하는 것이다. 머신러닝은 완성된 요리 수천 개를 보여주고 "이런 맛이 나도록 알아서 만들어봐"라고 하는 것이다. 컴퓨터가 수천 개의 예시에서 스스로 패턴을 파악해 결과물을 만들어낸다.

3. 딥러닝 (Deep Learning)

딥러닝은 머신러닝의 한 종류다. 인간 뇌의 신경망 구조를 모방한 인공 신경망을 여러 층으로 쌓아서 복잡한 패턴을 학습하는 방식이다.

회사 조직도를 떠올려 보자. 사원이 기초 작업을 하고, 대리가 그걸 모아 정리하고, 과장이 분석하고, 부장이 종합 판단을 내린다. 딥러닝도 마찬가지다. 첫 번째 층에서 간단한 특징을 찾고, 다음 층에서 더 복잡한 패턴을 파악하고, 마지막 층에서 최종 판단을 내린다. 층이 깊을수록(deep) 더 정교한 판단이 가능하다.

4. LLM (대규모 언어 모델, Large Language Model)

ChatGPT, Claude 같은 서비스의 기반 기술이다. 인터넷에 있는 엄청난 양의 텍스트 데이터를 학습해서 자연스러운 언어를 생성할 수 있는 AI 모델이다.

LLM은 엄청나게 많은 책을 읽은 사람과 비슷하다. 수백만 권의 책, 논문, 웹페이지를 읽었기 때문에 어떤 질문에든 그럴듯한 답변을 만들어낼 수 있다. 다만 "읽었다"는 것이지 "이해했다"는 뜻은 아니라는 점을 기억하자.

5. 생성형 AI (Generative AI)

기존 AI가 분류하거나 예측하는 데 집중했다면, 생성형 AI는 새로운 콘텐츠를 만들어내는 AI다. 텍스트, 이미지, 음악, 코드 등을 생성할 수 있다.

복사기와 화가의 차이라고 보면 된다. 기존 AI가 복사기처럼 기존 정보를 분류하고 정리했다면, 생성형 AI는 화가처럼 학습한 내용을 바탕으로 새로운 결과물을 창작한다.

6. 프롬프트 (Prompt)

AI에게 내리는 명령어 또는 질문이다. ChatGPT에 "내일 회의 안건 작성해줘"라고 입력하면 그게 프롬프트다.

식당에서 주문하는 것과 같다. "맛있는 거 주세요"라고 하면 원하는 음식이 나올 확률이 낮다. "매운맛 중간, 해산물 빼고, 밥은 적게 해주세요"라고 구체적으로 주문해야 원하는 결과가 나온다. AI도 마찬가지로, 구체적이고 명확한 프롬프트를 줄수록 좋은 결과를 얻는다.

7. 토큰 (Token)

AI가 텍스트를 처리하는 기본 단위다. 한 단어가 하나의 토큰이 되기도 하고, 한 단어가 여러 토큰으로 나뉘기도 한다. 영어 기준으로 대략 1단어가 1-2토큰, 한국어는 한 글자가 1-2토큰 정도다.

레고 블록으로 생각하면 쉽다. AI는 문장을 통째로 이해하는 게 아니라 토큰이라는 작은 블록으로 쪼개서 하나씩 처리한다. AI 서비스 요금이 토큰 수 기준으로 책정되는 경우가 많으니, 이 개념을 알아두면 비용 관리에도 도움이 된다.

8. 파인튜닝 (Fine-tuning)

범용 AI 모델을 특정 분야에 맞게 추가 학습시키는 과정이다. 이미 학습된 기본 모델 위에 특화된 데이터를 더 학습시켜서 성능을 높이는 것이다.

의대를 졸업한 의사가 전문의 과정을 거치는 것과 같다. 기본 의학 지식(범용 모델)을 갖춘 상태에서 피부과 전문 수련(파인튜닝)을 거치면 피부 질환에 더 정확한 진단을 내릴 수 있게 된다. 회사에서 "우리 회사 데이터로 파인튜닝한다"는 말은 범용 AI를 우리 회사 업무에 특화시킨다는 뜻이다.

9. 할루시네이션 (Hallucination)

AI가 사실이 아닌 정보를 마치 사실인 것처럼 자신 있게 답변하는 현상이다. "거짓말"이라고 부르기도 하지만, AI에게 거짓말할 의도가 있는 건 아니고 구조적 한계에서 발생하는 오류다.

퀴즈쇼에서 답을 모르는데 일단 자신 있게 답하는 출연자와 비슷하다. 모르면 모른다고 하면 좋겠지만, AI는 항상 무언가를 생성하도록 설계되어 있기 때문에 모르는 것도 그럴듯하게 지어낸다. 그래서 AI 답변은 반드시 검증해야 한다.

10. API (Application Programming Interface)

서로 다른 소프트웨어가 대화하는 방법이다. AI 맥락에서는 우리 회사 시스템에 AI 기능을 연결하는 통로라고 이해하면 된다.

식당의 창구에 비유하면 쉽다. 손님(우리 시스템)이 창구(API)에 주문서(요청)를 내면, 주방(AI 모델)에서 음식(결과)을 만들어 창구를 통해 전달한다. "API로 연동한다"는 말은 우리 시스템과 AI 서비스 사이에 이 창구를 만든다는 뜻이다.

AI를 둘러싼 흔한 오해 5가지

오해 1: "AI가 곧 인간을 대체한다"

현재 AI는 특정 작업을 잘 수행하는 도구일 뿐이다. 영화에 나오는 것처럼 스스로 생각하고 판단하는 범용 인공지능(AGI)은 아직 실현되지 않았다. AI는 인간을 대체하는 것이 아니라, 인간의 업무 방식을 바꾸고 있다. 핵심은 "대체"가 아니라 "변화"다.

오해 2: "AI는 항상 정확하다"

AI는 자주 틀린다. 할루시네이션 문제가 대표적이다. AI의 답변을 무조건 신뢰하는 건 위험하다. AI를 인턴 사원이라고 생각하자. 빠르게 초안을 만들어주지만, 시니어가 반드시 검토해야 한다.

오해 3: "코딩을 알아야 AI를 쓸 수 있다"

ChatGPT, Claude 같은 도구는 한국어로 대화하듯 사용하면 된다. 코딩 지식은 AI를 개발하는 사람에게 필요한 것이지, 활용하는 사람에게 반드시 필요한 건 아니다. 물론 기본적인 디지털 리터러시는 갖추면 좋지만, 프로그래밍은 필수가 아니다.

오해 4: "AI 학습은 젊은 사람들만 할 수 있다"

AI 도구 사용에 나이 제한은 없다. 오히려 업무 경험이 풍부한 사람이 AI를 더 잘 활용하는 경우가 많다. 경험이 많을수록 AI에게 더 정확한 지시를 내릴 수 있고, AI의 결과물이 맞는지 틀린지 판단하는 능력도 뛰어나기 때문이다.

오해 5: "한 번 배우면 끝이다"

AI 기술은 매우 빠르게 발전하고 있다. 6개월 전의 지식이 이미 구식이 될 수 있다. AI 리터러시는 한 번 공부하고 끝내는 것이 아니라 지속적으로 업데이트해야 하는 역량이다. 부담스럽게 생각할 필요는 없다. 매주 30분만 투자하면 흐름을 따라갈 수 있다.

디지털 리터러시를 높이는 방법

일단 써보는 게 최고의 공부다

AI 관련 책이나 강의를 아무리 봐도, 직접 써보는 것만큼 빠른 학습법은 없다. ChatGPT 무료 버전이든, Claude든, 구글 제미나이든 하나를 골라서 업무에 실제로 적용해보자. 이메일 초안 작성, 보고서 요약, 아이디어 브레인스토밍 등 간단한 것부터 시작하면 된다.

뉴스레터 하나만 구독하자

AI 트렌드를 추적하려고 여러 매체를 팔로우하면 오히려 피로감만 쌓인다. 하나만 고르자. 한국어 뉴스레터라면 AI 관련 요약을 잘 해주는 것을 하나, 영어가 된다면 해외 AI 뉴스레터 하나면 충분하다. 매일 5분 훑어보는 습관이 1년 뒤 큰 차이를 만든다.

동료와 함께 배우자

혼자 공부하면 금방 지치고 포기하게 된다. 팀에서 AI 도구 활용 사례를 공유하는 시간을 가져보자. "이번 주에 ChatGPT로 이런 걸 해봤는데 꽤 괜찮았어요"라는 가벼운 대화만으로도 학습 효과가 배가 된다.

두려워하지 말고 실험하자

AI 도구를 사용하다가 실수해도 큰 일이 나지 않는다. 잘못된 프롬프트를 입력해도 컴퓨터가 고장 나거나 데이터가 사라지지 않는다. 다만 회사 기밀 정보나 개인정보를 AI에 입력하는 건 주의해야 한다. 이 점만 지키면 마음껏 실험해도 된다.

실천 가이드

지금 당장 시작할 수 있는 구체적인 행동 5가지다.

오늘 중으로 AI 도구 하나에 가입하기: ChatGPT, Claude, 구글 제미나이 중 하나를 골라 무료 계정을 만들자. 5분이면 된다.
이번 주에 업무 하나를 AI로 해보기: 이메일 초안 작성, 회의록 정리, 데이터 요약 등 부담 없는 업무 하나를 AI에게 시켜보자. 결과가 만족스럽지 않아도 괜찮다. 경험 자체가 학습이다.
위의 10가지 개념을 동료에게 설명해보기: 누군가에게 설명할 수 있으면 진짜 이해한 것이다. 점심시간에 "AI 할루시네이션이 뭔지 알아?"라고 가볍게 이야기해보자.
AI 관련 뉴스레터 하나 구독하기: 매일 5분, 일주일이면 AI 생태계의 전체 그림이 그려지기 시작한다.
한 달에 한 번 새로운 AI 도구 체험하기: 텍스트 AI만 써봤다면 음성 AI를, 음성 AI를 써봤다면 업무 자동화 AI를 체험해보자. 세상이 얼마나 빠르게 변하는지 체감할 수 있다.

마무리

AI 디지털 리터러시는 개발자나 IT 종사자만의 영역이 아니다. 엑셀이 처음 나왔을 때도 "그건 전산실 사람들이 쓰는 거 아니야?"라는 반응이 있었다. 지금 엑셀을 모르는 직장인이 거의 없듯, 몇 년 후에는 AI 기본 개념을 모르는 직장인도 거의 없을 것이다.

중요한 건 완벽하게 이해하는 것이 아니라, 기본 개념을 파악하고 직접 써보면서 감을 잡는 것이다. 오늘 이 글에서 읽은 10가지 개념만 알아도, 내일 회의에서 AI 관련 대화가 나왔을 때 더 이상 소외되지 않을 것이다.

시작이 반이다. 오늘 AI 도구 하나에 가입하는 것부터 해보자.

함께 읽으면 좋은 글