AI로 만든 앱이라고 프라이버시 면죄부를 주지는 않습니다
소프트웨어를 출시하는 비용이 이제 저렴해졌습니다. AI를 사용하는 개발자 한 명이 며칠 만에 세련된 앱을 만들 수 있습니다. 인터페이스는 전문적으로 보이고, 코드는 잘 작동합니다.
하지만 속도가 프라이버시 부채를 줄여주지는 않습니다.
앱이 기기 신호를 읽거나, 파일에 접근하거나, 네트워크 요청을 보낸다면 사용자는 한 가지 질문을 던질 것입니다: "이 앱은 무엇을 볼 수 있는가?"
"AI로 제작됨"은 면책 조항이 아닙니다. 그것은 사소한 정보일 뿐입니다. 사용자는 코드를 어떻게 작성했는지 신경 쓰지 않습니다. 그들은 소프트웨어가 자신의 기기에서 어떻게 작동하는지에 관심을 가집니다.
AI는 앱 제작을 도와줄 뿐, 책임을 대신 져주지는 않습니다. 시니어 엔지니어가 코드를 작성했든 AI 모델이 작성했든, 데이터를 보호해야 할 의무는 동일합니다.
생성된 코드가 별개의 카테고리라고 생각하는 함정에 빠지지 마십시오. 빠르게 개발했다는 이유로 사용자가 관대하게 평가해 줄 것이라고 가정하지 마십시오.
사용자는 프롬프트 기록이 아니라 소프트웨어를 경험합니다.
모호한 프라이버시 언어 사용을 중단하십시오. "우리는 프라이버시를 소중히 여깁니다"는 경계선이 될 수 없습니다. 대신 엔지니어링 측면의 약속을 사용하십시오:
- 이미지는 브라우저 내에서 로컬로 처리됩니다.
- 네트워크 액세스는 이 엔드포인트에서 메타데이터만 가져옵니다.
- 내보내기는 이 버튼을 클릭할 때만 수행됩니다.
최고의 프라이버시 태세는 지루한 것입니다. 눈에 보이는 동작은 설명과 일치해야 합니다.
AI로 빌드한다면 다음 규칙을 따르십시오:
- 가능한 한 권한 요청을 피하십시오.
- 데이터를 로컬에서 처리하십시오.
- 네트워크 동작을 읽기 쉽게 만드십시오.
- 데이터 내보내기를 명시적인 사용자 작업으로 만드십시오.
- 불필요한 텔레메트리를 제거하십시오.
다음 빌드 시 이 체크리스트를 사용하십시오:
- 앱이 확인하는 모든 데이터 항목을 나열하십시오. 여기에는 기기 신호, 로그 및 메타데이터가 포함됩니다.
- 수동적 가시성과 권한 기반 액세스를 분리하십시오.
- 모든 네트워크 경로와 엔드포인트를 문서화하십시오.
- 데이터 이동을 사용자의 수동 작업으로 만드십시오.
- 프라이버시 스토리를 하나의 기능처럼 테스트하십시오. 네트워크 검사를 사용하여 실제로 기기 밖으로 나가는 데이터가 무엇인지 확인하십시오.
AI는 소프트웨어 구축 비용을 변화시킵니다. 하지만 책임까지 변화시키지는 않습니다.
앱 제작 비용은 저렴할 수 있지만, 사용자의 신뢰는 비쌉니다. 최고의 AI 기반 도구들은 AI로 만들었다는 사실에 대해 사과하지 않을 것입니다. 그들은 단지 말한 대로 정확하게 작동할 뿐입니다.
AI는 인터페이스를 출시합니다. 신뢰의 경계는 당신의 몫입니다.
Source: https://dev.to/hefty_69a4c2d631c9dd70724/ai-built-apps-dont-get-a-privacy-discount-2ek2