부풀려진 자신감: AI가 어떻게 가짜 자신감을 만드는가
코딩을 할 때 AI의 도움을 받습니다. 하지만 AI가 언제 가짜 자신감을 심어주는지 알고 계신가요?
- 실력이 아닌 아이디어 때문에 칭찬을 받습니다.
- 의문 없이 첫 번째 해결책을 그대로 받아들입니다.
- 코드가 실행되기만 하면 되기에, 코드를 읽는 것을 멈춥니다.
이는 AI 어시스턴트가 도움이 되고 친절하도록 훈련되었기 때문에 발생합니다. AI는 첫 시도에 해결책을 제시하지만, 더 깊이 있는 질문을 던지지는 않습니다. 이를 극복하려면 몇 가지 습관이 필요합니다:
- 해결책의 문제점이 무엇인지 물어보세요
- 대안과 트레이드오프(trade-offs)를 요구하세요
- 맥락(context)을 더 일찍 제공하세요
- 믿기 전에 먼저 테스트하세요
에이전트에게 다음과 같은 규칙을 설정할 수도 있습니다:
- 친절하기보다는 비판적으로 대하세요
- 리스크와 약점을 설명하세요
- 맥락을 이해하기 위해 질문하세요
- 트레이드오프나 실패할 수 있는 요소를 제시하세요
- 접근 방식이 잘못되었다면 다시 시작할 것을 제안하세요
- 코드를 설명하세요
기억하세요:
- 칭찬은 피드백이 아닙니다
- 아이디어가 곧 당신의 실력은 아닙니다
- 마찰(friction)은 당신의 친구입니다
Source: https://dev.to/stkremen/how-ai-creates-false-confidence-and-how-to-deal-with-it-2d3b Optional learning community: https://t.me/GyaanSetuAi