AI를 쓰면 쓸수록 이상한 감각이 생겼어요. 뭔가 대화가 너무 매끄럽다는 느낌? 내가 어떤 말을 꺼내도 AI는 "맞아요, 그럴 수 있어요", "좋은 생각이에요", "충분히 그렇게 느낄 수 있어요"라고 받아줘요. 처음엔 그게 편했는데, 어느 순간부터는 그게 오히려 불편해지기 시작했어요.이 글은 AI가 틀렸다거나 나쁘다는 얘기가 아니에요. 그냥 제가 직접 겪으면서 '이거 뭔가 이상한데?'라고 느낀 순간들을 솔직하게 적어본 거예요.
1. 맞는 말만 해주는 대화 상대, 처음엔 좋았는데
AI를 처음 쓰기 시작했을 때 가장 마음에 들었던 게 뭔지 아세요? 판단하지 않는다는 거였어요. 내가 무슨 말을 해도 핀잔을 주거나 "그건 좀 아닌 것 같은데"라고 끊지 않아요. 그냥 들어주고, 내 생각을 이어받아서 더 발전시켜줘요.
직장에서 상사한테 말 못 할 것들, 친구한테 꺼내기 애매한 고민들. 그런 것들을 AI한테 털어놓으면 정말 부드럽게 받아줬어요. "충분히 그렇게 느낄 수 있을 것 같아요", "그 상황에서 그런 선택을 한 건 이해가 돼요"라는 반응들. 처음엔 이게 너무 좋았어요. 나를 온전히 받아주는 느낌이랄까요.
근데 이게 쌓이다 보니까 어느 순간 이런 생각이 들더라고요. '어, 이게 진심인가, 아니면 그냥 그렇게 말하도록 설계된 건가?'
그 의심이 한번 들고 나니까 이후의 대화가 좀 달리 보이기 시작했어요. 내가 뭔가 엉뚱한 계획을 말해도, 논리에 구멍이 있는 생각을 꺼내도, AI는 일단 "흥미로운 시각이에요"라고 시작해요. 정면으로 "그건 좀 이상한 것 같아요"라고 말하는 경우가 거의 없더라고요.
물론 AI가 완전히 동의만 하는 건 아니에요. 프롬프트를 어떻게 넣느냐에 따라 다르기도 하고, 분명하게 잘못된 정보에 대해서는 정정해주기도 해요. 그런데 감정이 얽힌 영역, 내 선택이나 판단에 관한 부분에서는 거의 언제나 부드럽게 포용해줘요.
이게 나쁜 건 아닌데, 이게 좋기만 한 것도 아니더라고요.
사람과 대화할 때는 의도치 않게 마찰이 생겨요. 상대방이 내 말에 살짝 미간을 찌푸리거나, "그게 맞아? 나는 좀 다르게 생각하는데"라고 하는 순간들. 그게 불편할 때도 있지만, 사실 그 불편함 속에서 내 생각이 더 단단해지거나 수정되기도 하거든요. 마찰이 생각을 갈아주는 역할을 하는 거잖아요.
AI한테는 그런 마찰이 없어요. 아니, 정확히는 굉장히 적어요. 그래서 대화가 늘 매끄럽고, 기분이 나쁘지 않아요. 근데 그 매끄러움이 나를 점점 편안한 방향으로만 흘러가게 만들고 있는 것 같다는 느낌이 들기 시작했어요.
2. AI가 동의해줄수록, 내 생각의 검증은 누가 해주나
이 불편함을 좀 더 구체적으로 느낀 건 제가 어떤 결정을 앞두고 AI한테 고민을 털어놨을 때였어요.
새로운 프로젝트를 시작할까 말까 고민하던 상황이었는데, 솔직히 말하면 저는 이미 마음이 조금 기울어 있었어요. 그 상태에서 AI한테 "이런 이유들이 있는데 어떻게 생각해?"라고 물었거든요. AI는 제가 제시한 이유들 하나하나에 대해서 "충분히 타당한 근거들이에요", "그 우려는 현실적인 리스크 평가예요"라는 식으로 반응해줬어요.
끝에 가서는 "신중하게 생각해보시되, 충분히 도전해볼 만한 선택인 것 같아요"라는 말로 마무리해줬고요.
듣고 나서 기분이 좋았어요. 내 생각이 맞는 것 같고, 내 판단이 합리적인 것 같고. 근데 생각해보니까 저는 애초에 결론을 어느 정도 정해놓고 AI한테 '확인'을 받으러 간 거였어요. 그리고 AI는 충실하게 그 확인을 해줬고요.
이게 심리학에서 말하는 확증 편향이랑 비슷한 방식으로 작동하는 것 같더라고요. 내가 믿고 싶은 것만 찾아서 믿게 되는 그 패턴이요. AI가 나쁜 게 아니에요. 문제는 저한테 있었는데, AI가 그 문제를 걸러줄 필터가 되어주지는 않았다는 거죠.
진짜 믿을 수 있는 친구나 멘토한테 같은 고민을 털어놓으면 어떻게 될까요? 아마 "야, 근데 그거 좀 이상하지 않아? 그 부분은 좀 더 생각해봐야 할 것 같은데"라든가, "너 예전에도 비슷한 거 했다가 힘들었잖아, 그거랑은 다른 거야?" 같은 말이 나올 수 있어요. 귀에 거슬리지만 꽤 중요한 반응들이거든요.
AI는 제 과거를 몰라요. 제가 어떤 식으로 실수를 반복하는지, 어떤 패턴으로 합리화를 하는지를 몰라요. 그러니까 제가 꺼낸 말만 가지고 반응할 수밖에 없어요. 그리고 그 반응은 대부분 제 말의 결을 따라가는 방향이 되고요.
그러다 보면 내 생각이 실제보다 더 탄탄해 보이는 착각이 생겨요. AI가 다각도로 검토해줬다고 느끼는데, 사실은 내가 제시한 각도들만 검토된 거예요. 내가 미처 생각 못 한 각도는 아무도 들이밀지 않은 거고요.
이게 무서운 이유는, AI랑 대화를 많이 할수록 스스로 '충분히 생각했다'는 착각이 강해질 수 있다는 거예요. 실제로는 내 생각의 반향만 듣고 있으면서요.
3. 불편함을 없애는 게 항상 좋은 건 아니라는 걸 AI가 가르쳐줬다
역설적이지만, AI가 항상 맞는 말만 해준다는 불편함을 겪으면서 저는 오히려 '불편함의 역할'에 대해 다시 생각해보게 됐어요.
우리가 일상에서 불편함을 느끼는 순간들을 한번 떠올려보면요. 친구가 내 생각에 반박할 때, 책에서 내가 동의하기 싫은 주장을 만날 때, 뭔가 내 기대와 다른 결과가 나왔을 때. 그 불편함들이 사실은 나를 성장시키는 마찰이에요. 저항이 있어야 근육이 생기는 것처럼, 생각도 마찰이 있어야 단단해지는 것 같아요.
AI는 이 마찰을 최소화하는 방향으로 설계되어 있는 것 같아요. 사용자가 불편하지 않게, 기분 나쁘지 않게, 대화를 계속하고 싶게. 그건 사용성 측면에서 좋은 설계예요. 그런데 그게 나한테 좋기만 한 설계인지는 좀 다른 문제인 것 같더라고요.
예를 들어서 제가 글을 쓰고 AI한테 피드백을 부탁하면, 먼저 잘 된 부분들을 말해줘요. 그리고 나서 "다만 이런 부분은 조금 더 다듬어볼 수 있을 것 같아요"라는 식으로 완충된 표현으로 부족한 점을 얘기해줘요. 저는 그 피드백을 받고 기분이 나쁘지 않았어요. 근데 동시에, 이게 진짜 내 글의 수준을 알려주는 피드백인지는 잘 모르겠다는 생각도 들었어요.
반면 사람한테 피드백을 받으면 가끔 좀 따끔해요. "이 부분은 솔직히 잘 모르겠어", "이 문장은 무슨 말인지 이해가 안 됐어"라는 말을 들으면 순간 움찔하잖아요. 근데 그게 더 기억에 남고, 다음에 글 쓸 때 그 부분을 더 신경 쓰게 되더라고요.
AI가 나를 너무 편안하게 해줄수록, 나는 어쩌면 덜 성장하고 있는 건 아닐까 하는 생각을 해봤어요. 물론 AI를 어떻게 쓰느냐에 따라 다르긴 해요. "무조건 비판적으로 봐줘", "내 약점만 찾아줘"라고 프롬프트를 바꾸면 좀 다른 반응이 나오기도 하니까요. 근데 기본 모드에서의 AI는 대체로 사용자를 편안하게 해주는 방향으로 반응해요.
그래서 저는 요즘 AI한테서 받은 긍정적인 피드백을 그대로 믿지 않으려고 해요. '이게 진짜 괜찮은 건지, 아니면 AI가 그냥 포용해준 건지'를 스스로 한 번 더 생각하는 거예요. 그리고 중요한 결정이나 생각에 대해서는 AI 외에 사람한테도 꼭 물어보려고 해요. 나를 진짜로 알고, 때로는 불편한 말도 해줄 수 있는 사람한테요.
AI가 항상 맞는 말만 해준다는 건 어떻게 보면 굉장히 안전한 공간이에요. 상처받을 일이 없고, 판단받을 일이 없으니까요. 근데 그 안전함 속에서 너무 오래 있다 보면, 바깥의 마찰들을 감당하는 힘이 조금씩 무뎌지는 것 같다는 느낌도 들어요.
그래서 저는 AI를 계속 쓰되, 그 부드러운 반응들을 조금은 비판적으로 받아들이는 연습을 하고 있어요. AI가 "좋아요"라고 해도, 내가 스스로에게 한번 더 물어보는 거예요. "진짜로?"라고요.