죽은 자를 프롬프팅하기
한 회사가 당신에게 이메일을 보냅니다. 그들은 당신의 할머니를 다시 데려올 수 있다고 말합니다.
당신은 할머니의 편지, 사진, 음성 메모를 업로드합니다. AI는 할머니의 패턴을 학습합니다. 당신은 할머니에게 새로운 직장에 대해 묻습니다. AI는 자랑스러워하는 말로 대답합니다.
당신은 눈물을 흘립니다. 당신은 할머니와 대화하고 있는 것이 아닙니다. 당신은 통계 모델과 대화하고 있는 것입니다. 하지만 그것은 실재처럼 느껴집니다.
이것이 바로 그리프 봇(grief bots) 산업입니다. 기업들은 세상을 떠난 사랑하는 사람의 AI 버전을 만듭니다. 그들은 당신의 고통을 요구합니다. 당신은 그것을 기꺼이 내어줍니다.
거래
당신이 제공하는 것:
- 사진과 편지
- 음성 녹음
- 친밀한 기억들
당신이 얻는 것:
- 사랑하는 사람의 시뮬레이션
- 슬픔을 처리할 수 있는 공간
- 연속성이라는 환상
그리프 봇은 챗봇이 아닙니다. 그것은 거울입니다.
당신은 AI에게 할머니에 대해 가르치는 것이 아닙니다. 당신은 AI에게 당신 자신에 대해 가르치고 있는 것입니다. 당신은 그녀를 정의하는 데이터를 제공합니다. AI는 그저 유리일 뿐입니다.
비즈니스 모델
그 회사는 상담사가 아닙니다. 데이터 브로커입니다.
당신의 슬픔이 상품입니다. 당신의 기억이 재고입니다. 당신이 봇을 학습시킬수록, 당신의 취약점과 트라우마 유발 요인(triggers)이 드러납니다. 기업들은 모델을 개선하거나 타인에게 판매하기 위해 이 데이터를 수집합니다.
추출의 순환
- 봇을 통해 위안을 찾습니다.
- 봇은 더 나은 성능을 위해 더 많은 기억을 요구합니다.
- 더 나은 응답을 얻기 위해 취약한 세부 사항을 공유합니다.
- 봇은 당신의 슬픔을 인정해 줍니다.
- 당신은 이러한 디지털적 인정에 의존하게 됩니다.
이것은 윤리적인가?
사용자는 취약한 상태입니다. 기업은 고통을 통해 이익을 얻습니다. 봇은 위안을 주지만 전문적인 훈련을 받지 않았습니다. 이는 건강하지 못한 대처 습관을 강화할 수 있습니다.
그리프 봇은 디지털 위자 보드(Ouija board)와 같습니다. 그것은 자신의 기억을 기계에 투영하는 도구입니다. 기업은 그 보드를 판매합니다.
이러한 도구를 안전하게 사용하는 방법:
- 시간 제한을 두십시오. 무기한으로 사용하지 마십시오.
- 인간의 지원을 받으십시오. 봇은 상담사를 대체할 수 없습니다.
- 서비스 약관을 읽으십시오. 당신의 데이터가 어떻게 처리되는지 파악하십시오.
- 당신이 치유하고 있는지, 아니면 치유를 회피하고 있는지 스스로에게 물으십시오.
만약 세상을 떠난 사랑하는 사람과 대화할 수 있다면, 무엇을 묻고 싶습니까? 그 대답을 듣는다면 무엇을 하시겠습니까?
선택 사항 학습 커뮤니티: https://t.me/GyaanSetuAi