봇 등록부로는 인간의 공간을 지킬 수 없다
보안 전문가들은 이제 KYA(Know Your Agent)를 이야기합니다.
이는 AI를 위한 은행 수표와 같은 역할을 합니다. 에이전트에게 신원과 규칙을 부여합니다. 가트너(Gartner)는 올해 말까지 기업용 애플리케이션의 40%가 이러한 에이전트를 사용할 것이라고 말합니다.
KYA는 비즈니스 영역에서는 효과적입니다. AI가 자금을 이동하거나 계약을 체결한다면 기록(log)이 필요하기 때문입니다. 이는 현명한 방식입니다.
하지만 KYA가 소셜 미디어를 구할 수는 없습니다. 인간의 공간을 인간답게 유지할 수도 없습니다. 기업용 등록부는 잘못된 보안 의식을 심어줄 뿐입니다.
문제는 규모입니다. 악성 봇들은 배지를 받기 위해 등록하지 않습니다. 그들은 서브레딧(subreddits)을 점령하고 가짜 정치 토론을 만들어냅니다. 양식(form)을 작성하지도 않습니다. 등록은 규칙을 따르는 사람들만 잡아낼 뿐입니다.
수치가 위기를 보여줍니다. 현재 자동화된 트래픽은 전체 웹 트래픽의 51%를 차지합니다. 악성 봇은 37%에 달합니다. 기계가 다수입니다. 이것은 이론이 아니라 현재의 현실입니다.
세 가지 해결책은 실패합니다:
- 탐지(Detection)는 기계가 인간을 완벽하게 모방하기 때문에 실패합니다.
- 등록부(Registries)는 악의적인 행위자들이 이를 피하기 때문에 실패합니다.
- 신원 확인(Identity verification)은 프라이버시를 침해하기 때문에 실패합니다. 또한 한 사람이 수천 개의 가짜 계정을 운영하는 것을 막지도 못합니다.
기계의 의견은 위조품입니다. 그것은 인간의 진정한 사고의 가치를 떨어뜨립니다. 상대방이 사람인지 스크립트인지 구분할 수 없게 되면, 사람들은 귀를 닫게 됩니다. 그것이 바로 소셜 공간이 죽어가는 방식입니다.
우리는 다른 구조가 필요합니다.
데이터베이스가 생기기 전, 커뮤니티는 사회적 계보(social lineage)를 사용했습니다. 누군가가 자신의 이름을 걸고 보증했기에 접근 권한을 얻을 수 있었습니다. 만약 당신이 나쁘게 행동한다면, 그 사람의 평판도 함께 손상되었습니다.
책임은 단일 체크포인트가 아닌 관계의 사슬이었습니다. 이는 봇 군단을 운영하는 비용을 높이고 어렵게 만듭니다. 또한 신뢰를 유지하면서도 익명성을 허용합니다. 평판을 쌓기 위해 법적 실명이 필요하지는 않습니다.
우리는 이것을 구축할 수 있습니다. 모든 계정이 인간의 참조(reference)로 거슬러 올라갈 수 있는 네트워크가 필요합니다. 저는 이를 TrustChain이라 부릅니다.
기업 업무에는 KYA를 사용하십시오. 하지만 그것이 인간의 대화를 해결해 줄 것이라고 기대하지는 마십시오. 인터넷을 구하기 위해서는 서로에게 책임을 질 수 있는 인간이 필요합니다.
Source: https://dev.to/richard_kersey/a-bot-registry-wont-save-the-internets-last-human-spaces-4o1k
Optional learning community: https://t.me/GyaanSetuAi