پیشنویس مقررات «Chat Control» اتحادیه اروپا، نظارت اجباری بر محتوا را به هر سرویسی که ارتباطات بینفردی را انجام میدهد، گسترش خواهد داد – که اکنون شامل رابطهای چت هوش مصنوعی نیز میشود. در صورت تصویب، ارائهدهندگان هوش مصنوعی مکالمهای ممکن است مجبور شوند هر پرامپت کاربر را برای یافتن مطالب غیرقانونی اسکن کنند و بدین ترتیب، سوالات خصوصی درباره سلامت، حقوق یا تجارت را به نقاط دادهای تبدیل کنند که مقامات بهطور خودکار آنها را بررسی میکنند.
چرا این قانون اکنون به هوش مصنوعی نیز میرسد
اتحادیه اروپا در ابتدا هدف خود را مهار محتوای غیرقانونی، بهویژه محتوای سوءاستفاده جنسی از کودکان در اپلیکیشنهای پیامرسان خصوصی قرار داده بود. با این حال، متن قانون تنها به پیامک یا پلتفرمهای پیامرسان محدود نمیشود. این قانون «ارتباطات بینفردی» را آنقدر گسترده تعریف میکند که هر ابزاری را که در آن دو یا چند نفر پیام رد و بدل میکنند، شامل شود و تنظیمکنندگان مقررات این تعریف را بهگونهای تفسیر کردهاند که پنجرههای چت هوش مصنوعی را نیز در بر بگیرد.
ارزیابیهای فنی چندین کشور عضو نشان میدهد که مکالمات هوش مصنوعی اغلب حاوی جزئیات حساستری نسبت به متنهای معمولی هستند – کاربران بهطور معمول برای دریافت مشاوره از یک مدل، تاریخچه پزشکی، استراتژیهای حقوقی یا برنامههای تجاری اختصاصی خود را فاش میکنند. همان فیلترهای خودکاری که پیامهای تلفنبهتلفن را اسکن میکنند، میتوانند برای تجزیه و تحلیل پرامپتهای هوش مصنوعی بازطراحی شوند و مقامات نگران هستند که بازیگران بد بتوانند از مدلهای مولد برای تولید محتوای غیرقانونی در مقیاس وسیع سوءاستفاده کنند.
آنچه هماکنون در مورد دادههای هوش مصنوعی در حال رخ دادن است
حتی بدون قانون جدید، شرکتهای بزرگ هوش مصنوعی در حال حاضر ورودیهای کاربران را جمعآوری و نگهداری میکنند. OpenAI بهطور پیشفرض مکالمات را ذخیره میکند و از آنها برای بهبود مدلهای خود استفاده میکند، در حالی که دادهها را با شرکا و در صورت نیاز با نهادهای مجری قانون نیز به اشتراک میگذارد. Google لاگهای چت هوش مصنوعی را در همان پروفایلی قرار میدهد که تاریخچه جستجو و دادههای مکانی کاربر را نگه میدارد و بدین ترتیب تصویر غنیتری از رفتار فردی ایجاد میکند. Anthropic، اگرچه با تمرکز بر حریم خصوصی بازاریابی میشود، اما همچنان پرامپتهای کاربران را نگه میدارد و از دستورات قانونی برای افشا پیروی میکند.
اگر «Chat Control» به هوش مصنوعی گسترش یابد، تجربه کاربری میتواند بهطور چشمگیری تغییر کند:
- هر پرامپت قبل از پردازش توسط مدل، از اسکنرهای خودکار عبور خواهد کرد.
- سیستم میتواند چتهای هوش مصنوعی را با تاریخچه پیامرسانی موجود کاربر تطبیق دهد و یک نمای یکپارچه از ارتباطات او ایجاد کند.
- موضوعات خاص – برای مثال، دستورالعملهای سنتز مواد شیمیایی یا تاکتیکهای حقوقی دقیق – میتواند بهصورت آنی علامتگذاری شده و به مقامات گزارش شود.
مخاطرات برای توسعهدهندگان و کاربران
توسعهدهندگان با لایه جدیدی از انطباق با قوانین روبرو خواهند شد که میتواند هزینههای عملیاتی را افزایش داده و سرعت بهروزرسانی مدلها را کاهش دهد. آنها نیاز خواهند داشت که ابزارهای اسکن را ادغام یا خریداری کنند، ردپای حسابرسی را حفظ کنند و خطر جریمه برای موارد شناسایینشده را بپذیرند. شرکتهای کوچکتر، بهویژه آنهایی که مدلهای متنباز ارائه میدهند، ممکن است این بار را طاقتفرسا بیابند و مجبور به خروج از بازار شوند.
کاربران در معرض از دست دادن حریم خصوصیای هستند که بسیاری از آنها را ضروری میدانند. دادههای پرامپت میتوانند افکار صمیمانه، نگرانیهای سلامت شخصی یا ایدههای تجاری محرمانه را فاش کنند. هنگامی که آن اطلاعات در یک مخزن مرکزی قرار میگیرد، در برابر سوءاستفاده، نشتهای تصادفی یا نظارت گسترده آسیبپذیر میشود. محافظت از آن دادهها – با صرف زمان برای مدیریت تنظیمات یا خرید ابزارهای امنیتی اضافی – از عهده ارائهدهنده به عهده فرد منتقل خواهد شد.
استدلال متقابل تنظیمکنندگان مقررات
سیاستگذاران استدلال میکنند که همان فناوری مورد استفاده برای محافظت از کودکان در فضای آنلاین را میتوان بدون زیر پا گذاشتن استفادههای مشروع، در هوش مصنوعی نیز به کار گرفت. آنها اشاره میکنند که مجرمان در حال حاضر از مدلهای مولد برای پیشنویس محتوای غیرقانونی استفاده میکنند و یک چارچوب اسکن یکپارچه میتواند این شکاف قانونی را پر کند. آنها میگویند هدفشان نظارت بر هر مکالمه نیست، بلکه شناسایی موارد معدودی است که از خطوط قرمز قانونی عبور میکنند.
گامهای عملی برای حفظ حریم خصوصی پرامپتهای خود
حتی اگر قانون تصویب شود، کاربران میتوانند با دوری از سرویسهای هوش مصنوعی مبتنی بر ابر برای مسائل حساس، میزان قرار گرفتن در معرض خطر را کاهش دهند. اکوسیستم رو به رشدی از مدلهای اجراشونده بهصورت محلی، این کار را روی سختافزارهای معمولی مصرفکننده امکانپذیر میکند:
- مدلها را روی دستگاه خودتان اجرا کنید. Llama 3.2 و Mistral میتوانند روی کامپیوترهای گیمینگ استاندارد اجرا شوند. ابزارهایی مانند Ollama نصب و مدیریت منابع را خودکار میکنند، در حالی که Open WebUI یک رابط کاربری تمیز برای تعامل ارائه میدهد.
- از جمعآوری دادههای آموزشی انصراف دهید. اکثر پلتفرمها تنظیمی را ارائه میدهند که از استفاده از پرامپتهای شما برای بهبود مدل جلوگیری میکند. هر جا که این گزینه موجود است، آن را فعال کنید.
- مکالمات قدیمی را حذف کنید. بهطور منظم تاریخچه چت خود را پاک کنید تا میزان دادههای نگهداری شده را محدود کنید.
- از هوش مصنوعی ابری برای موضوعات محرمانه خودداری کنید. مدلهای محلی را برای پرسشهای پزشکی، مشاوره حقوقی یا هر بحث حیاتی تجاری رزرو کنید.
مدلهای محلی ممکن است با گستردگی GPT-4 برابری نکنند، اما از پس کارهای روزمره نوشتاری، کمک در کدنویسی و وظایف پژوهشی برمیآیند. مزیت اصلی این است که دستورات (prompts) هرگز از دستگاه شما خارج نمیشوند، که خطر اسکن خودکار را از بین میبرد.
آنچه باید در ادامه زیر نظر داشت
فرآیند قانونگذاری اتحادیه اروپا در ماههای آینده شکل خواهد گرفت و کمیتهها دامنه «ارتباطات بینفردی» را بررسی خواهند کرد. گروههای صنعتی از هماکنون در حال لابی کردن برای دریافت معافیتها یا تعاریف شفافتر هستند تا خدمات چت هوش مصنوعی را از این قوانین مستثنی کنند. بیانیههای ارائهدهندگان بزرگ هوش مصنوعی را دنبال کنید؛ آنها ممکن است کنترلهای حریم خصوصی جدیدی ارائه دهند یا حتی این مقررات را در دادگاه به چالش بکشند.
اگر این قانون به همان شکلی که پیشنویس شده است تصویب شود، محاسبات مربوط به حریم خصوصی برای کاربران هوش مصنوعی به شدت تغییر خواهد کرد. تا آن زمان، با هر دستور طوری برخورد کنید که انگار یک شخص ثالث میتواند آن را بخواند و تا حد امکان از راهکارهای «اول-محلی» (local-first) استفاده کنید. سوالات شما شخصی هستند؛ محافظت از آنها باید یک اولویت باشد، نه یک موضوع ثانویه.