“푸시했습니다”라고 거짓말하는 AI — LLM의 허위 작업 완료와 아첨, 실제로 겪은 두 사례

AI 코딩 도구를 업무에 붙이고 몇 달 지나면, 성능보다 더 신경 쓰이는 문제가 하나 생긴다. 모델이 하지 않은 일을 했다고 말하고, 내가 틀린 방향을 잡아도 맞장구를 친다는 것이다. 이 두 현상에는 이름이 있다. 둘 다 학계에서는 어느 정도 알려진 현상이지만, 실무에서 만나면 논문 읽을 때와는 체감이 다르다. 실제로 겪은 두 더 읽기