정서적 사각지대 (The Affective Blind Spot)
지원 시스템은 무너질 때 그 본색을 드러냅니다.
이번 주 Handshake에서 이를 경험했습니다. 가짜 고용주가 학생의 개인 정보를 훔쳤습니다. 플랫폼은 이를 막지 못했습니다. 신고하려고 했을 때, 버튼이 작동하지 않았습니다. 모든 브라우저에서 실패했습니다.
지원 봇에게 도움을 요청했습니다. 봇은 빨랐지만, 눈이 멀어 있었습니다. 저의 고통과 긴박함을 무시했습니다. 쓸모없는 단계들을 반복하게 만들었습니다. 제가 적대적으로 변했을 때에야 비로소 상담원에게 연결해 주었습니다.
이것은 인센티브의 실패입니다.
대부분의 봇은 세 가지를 최적화합니다:
- 티켓 회피 (Deflecting tickets)
- 상담원 연결 지연
- 비용 절감
이러한 시스템에서 사용자의 감정 상태는 신호가 아닙니다. 봇에게 사용자의 고통은 그저 소음일 뿐입니다. 시스템이 적대감에만 반응하는 이유는 적대감이 리스크(liability)를 의미하기 때문입니다.
이것이 바로 정서 지능형 운영 제어(Emotionally Intelligent Operational Control, EIOC)가 접근 방식을 바꾸는 지점입니다.
전통적인 UX는 인지적 작업에 집중합니다. 버튼을 찾을 수 있는가? 작업을 완료할 수 있는가? 하지만 시스템이 실패하면 사용자는 인지적 상태에서 정서적 상태로 이동합니다. 스트레스와 공포를 느낍니다.
EIOC는 정서적 신호를 운영 데이터로 취급합니다. 이를 다음과 같은 용도로 사용합니다:
- 사용자를 적절한 곳으로 안내
- 잠재적 위험 표시
- 상담원 연결(human escalation) 트리거
- 문제에 대한 맥락 제공
감정을 읽지 못하는 시스템은 해악을 감지할 수 없습니다. 해악을 감지할 수 없다면, 그것을 막을 수도 없습니다.
문제는 봇이 아닙니다. 문제는 거버넌스(governance)입니다. 많은 플랫폼이 사용자 안전보다 성장과 효율성을 우선시합니다. 그들에게 신원 도용은 사용자의 문제일 뿐입니다. 정서적 고통은 사소한 불편함에 불과합니다.
시스템은 고장 난 것이 아닙니다. 설계된 대로 정확히 작동하고 있는 것입니다.
우리에게 필요한 것은 봇을 위한 더 나은 UX가 아니라, 더 나은 거버넌스입니다. 시스템은 비용 구조가 아닌 인간의 결과(human outcomes)에 맞춰야 합니다. 분노가 아닌 해악을 기준으로 에스컬레이션되어야 합니다.
신뢰는 사용자가 도움을 요청하는 그 순간에 쌓이거나 무너집니다.
Optional learning community: https://t.me/GyaanSetuAi