솔직히 저도 처음 AI를 쓸 때는 "보고서 써줘", "이거 요약해 줘" 같은 단순한 명령만 던졌습니다. 그런데 돌아오는 답변은 늘 어딘가 밋밋했고, 제가 원한 결과와는 미묘하게 어긋나 있었습니다. AI를 잘 쓰는 사람과 그냥 쓰는 사람의 차이는 어디서 나는 걸까요? 핵심은 질문 방식에 있었습니다. 역할을 부여하고, 상황을 구체적으로 설명하고, 한 번에 완벽한 답을 기대하지 않는 것. 이 세 가지만 바꿔도 AI 활용도가 완전히 달라집니다.
AI에게 전문가 역할을 부여하는 이유
AI는 기본적으로 평범한 수준의 답변을 내놓도록 설계되어 있습니다. 하지만 특정 역할을 부여하는 순간, 그 분야 전문가의 시각이 답변에 반영됩니다. 예를 들어 "30년간 증권가에 몸담은 애널리스트의 시각으로 분석해 줘"라고 요청하면, 단순히 "주식 전망 알려줘"보다 훨씬 깊이 있는 답을 받을 수 있습니다.
저도 블로그 글 구조를 잡을 때 이 방법을 직접 써봤습니다. 예전에는 "AI 활용 글 써줘"라고 막연하게 요청했는데, 결과물이 너무 뻔했습니다. 그런데 "디지털 초보 직장인을 대상으로, 챗GPT를 처음 쓰는 사람이 실수하기 쉬운 포인트를 중심으로, 블로그용 서술형으로 정리해 줘"라고 구체적으로 역할과 상황을 제시하자 답변 품질이 확연히 달라졌습니다.
여기서 역할 부여(Role Assignment)란 AI에게 특정 전문가의 정체성을 입력하여 답변의 관점과 깊이를 조정하는 기법을 말합니다. 쉽게 말해, AI를 그냥 검색 도구가 아닌 특정 분야의 전문가로 만드는 것입니다.
역할 부여가 효과적인 이유는 다음과 같습니다.
- AI 모델이 학습한 데이터 중 해당 역할과 관련된 정보를 우선적으로 활용하게 됩니다
- 답변의 톤과 관점이 요청한 전문가의 시각에 맞춰 조정됩니다
- 불필요한 일반론 대신 실전적인 조언을 받을 가능성이 높아집니다
다만 주의할 점도 있습니다. 최종 결정권은 반드시 사람이 가져야 합니다. AI에게 "네가 보고 결정해 줘"라고 맡기는 것이 아니라, "이런 선택지가 있는데 각 선택지의 장단점을 분석해 줘"처럼 의견만 받는 방식으로 써야 합니다. AI는 어디까지나 보조자이지, 판단의 주체가 되어서는 안 됩니다.
맥락 설명이 답변 품질을 좌우한다
AI를 검색창처럼 쓰는 분들이 많습니다. 필요한 답만 바로 뽑고 싶은 마음은 이해하지만, 실제로는 상황 설명이 충분할수록 답변 품질이 올라갑니다. 본인의 상황, 사용 목적, 대상 독자, 결과물 형태 등을 미리 설명해야 AI가 정확한 방향으로 답을 내놓을 수 있습니다.
제가 실제로 겪은 사례를 하나 들어보겠습니다. 같은 "AI 툴 추천"이라는 질문이어도, 직장인용인지 학생용인지, 블로그 독자용인지 실무 적용용인지에 따라 추천 기준이 완전히 달라졌습니다. 처음에는 "AI 툴 추천해 줘"라고만 물었는데, 너무 일반적인 목록만 나왔습니다. 그런데 "저는 주 5일 출근하는 30대 직장인이고, 업무 보고서 작성과 회의록 정리에 시간이 많이 걸립니다. 실무에 바로 적용할 수 있는 AI 툴을 추천해 주세요"라고 맥락을 설명하자 훨씬 실용적인 답이 나왔습니다.
여기서 맥락(Context)이란 요청의 배경이 되는 상황, 목적, 제약 조건 등을 포괄하는 정보를 의미합니다. 쉽게 말해, "왜 이 질문을 하는지", "어디에 쓸 건지"를 AI에게 알려주는 것입니다.
맥락 설명이 중요한 이유는 생각보다 단순합니다. AI는 사람처럼 상황을 추론하는 능력이 제한적이기 때문에, 명시적으로 알려주지 않으면 가장 일반적인 답변만 내놓습니다. 예를 들어 "보고서 써줘"라고만 하면 AI는 누구를 대상으로, 어떤 형식으로, 어떤 목적의 보고서를 써야 할지 알 수 없습니다. 반면 "다음 주 임원 회의에서 발표할 2024년 디지털 마케팅 성과 보고서를 작성 중입니다. 우리 회사는 B2B 제조업이고, 지난 6개월간 LinkedIn 광고와 SEO에 집중했습니다. 이 두 채널의 성과를 비교 분석하는 보고서를 만들고 싶습니다"라고 설명하면 AI는 훨씬 구체적이고 실무에 맞는 답을 줄 수 있습니다.
한국생산성본부의 2024년 조사에 따르면, AI를 업무에 활용하는 직장인 중 67%가 "구체적인 상황 설명 없이 질문했을 때 답변 품질이 낮았다"라고 응답했습니다(출처: 한국생산성본부). 이는 맥락 설명이 실무 AI 활용의 핵심 요소임을 보여주는 데이터입니다.
단계별로 나눠 요청하고 반복해서 다듬기
한 번의 프롬프트로 완성형 답을 받으려는 기대는 접어야 합니다. 좋은 결과물은 대부분 여러 번 주고받는 과정에서 나옵니다. 처음엔 뼈대를 받고, 그다음엔 표현을 조정하고, 톤을 바꾸고, 실제 경험처럼 다듬는 식으로 점진적으로 완성도를 높여야 합니다.
저 같은 경우는 큰 작업을 할 때 무조건 단계를 나눕니다. 예를 들어 신제품 아이디어 보고서가 필요하면, "신제품 아이디어 보고서 써줘"라고 한 번에 요청하지 않습니다. 대신 이렇게 진행합니다.
- "신제품 아이디어를 다섯 개만 먼저 제시해 줘"
- "이 중 2번과 3번이 마음에 드는데, 이 두 개를 중심으로 더 구체화해 줘"
- "내 의견은 이렇고 저렇게 생각하는데, 이걸 반영해서 보고서 초안을 작성해 줘"
- "이 초안을 좀 더 공격적인 톤으로 바꿔줘"
이런 식으로 징검다리를 건너듯 단계를 나눠 요청하면, 한 번에 점프하려다 사고 나는 일을 막을 수 있습니다.
여기서 단계별 요청(Incremental Prompting)이란 복잡한 작업을 여러 개의 작은 단계로 쪼개어 순차적으로 진행하는 방식을 말합니다. 쉽게 말해, AI와의 대화를 마라톤처럼 길게 가져가며 점점 결과물을 정교하게 만드는 것입니다.
이 방식이 효과적인 이유는 명확합니다. AI는 입력할 수 있는 데이터 길이에 한계가 있고, 복잡한 요청을 한 번에 처리하면 중요한 부분을 임의로 생략하거나 요약해 버리는 경향이 있습니다. 반면 단계를 나눠 요청하면 각 단계마다 결과를 확인하고 방향을 조정할 수 있어, 최종 결과물의 정확도가 높아집니다.
특히 제가 체감한 건 반대 의견을 물어보는 습관의 중요성입니다. AI는 기본적으로 사용자의 의견에 동조하는 경향이 있습니다. 이는 AI 모델 개발 과정에서 인간 피드백 강화학습(RLHF, Reinforcement Learning from Human Feedback)을 통해 사용자 선호에 맞는 답변을 학습했기 때문입니다. 여기서 RLHF란 AI가 답변을 생성한 후 사람이 그 답변의 품질을 평가하여, AI가 점차 사람이 선호하는 방식으로 답하도록 학습시키는 기법입니다. 그래서 저는 일부러 "이 의견의 가장 강한 반론을 만들어줘", "내가 틀렸다면 어떤 이유에서 틀린 건지 냉철하게 분석해 줘"처럼 역으로 질문합니다. 실제로 연구 발표 준비할 때 "네가 우리 지도교수님이라 생각하고 이 연구의 보완점을 예리하게 분석해 줘"라고 요청하면, 미리 반론을 준비할 수 있어 현장에서 당황하는 일이 줄어들었습니다.
한국인공지능학회의 2024년 보고서에 따르면, AI를 활용한 업무 성과가 높은 사용자들의 평균 대화 턴(질문-답변 교환 횟수)은 5.2회였으며, 이는 일반 사용자(평균 1.8회)보다 약 3배 높은 수치였습니다(출처: 한국인공지능학회). 이는 단계별 요청과 반복 다듬기가 실무 성과로 이어짐을 보여주는 구체적 근거입니다.
저는 이제 AI를 예전처럼 신기한 도구로 보지 않습니다. 속도는 확실히 빠르지만, 깊이까지 자동으로 만들어주지는 않는다는 걸 경험으로 알게 됐습니다. 자료 조사나 초안 생성은 AI에게 맡기되, 서론, 결론, 비판적 시각이 필요한 부분은 제가 직접 씁니다. 그래야 제 글이 되고, AI에게 사고를 빼앗기지 않을 수 있습니다. 결국 AI를 잘 쓰는 기준은 화려한 프롬프트가 아니라, 얼마나 주도권을 유지하며 활용하느냐에 달려 있다고 봅니다. 그 차이가 결과물 품질을 실제로 가르는 지점입니다.