هوش مصنوعی در حکمرانی: نماینده لونا استفاده از Claude برای متن لایحه دفاعی را تکذیب کرد

تلاقی هوش مصنوعی مولد و تدوین قوانین، پس از جنجال مربوط به آنا پاولینا لونا، نماینده فلوریدا، تحت نظارت شدید قرار گرفته است. پس از انتشار اسکرین‌شات‌هایی که نشان می‌داد Claude متعلق به Anthropic در تدوین جزئیات بودجه دفاعی نقش داشته است، لونا نقش هوش مصنوعی را در جریان کاری دفتر خود شفاف‌سازی کرد.

جنجال Claude و اصلاحیه NDAA

این جنجال در شبکه اجتماعی X (توییتر سابق) زمانی بالا گرفت که کاربران اسکرین‌شات‌هایی از خلاصه یک اصلاحیه مربوط به قانون مجوز دفاع ملی (NDAA) سال ۲۰۲۷ را به اشتراک گذاشتند. متن لو رفته حاوی یک اثر فرمت‌بندی عجیب بود: «Claude پاسخ داد: وزیر دفاع را ملزم می‌کند تا فعالیت‌های وزارت دفاع را تعیین کند...». این عبارت خاص قویاً نشان می‌داد که یک دستور (prompt) از طریق مدل زبانی بزرگ Claude متعلق به Anthropic پردازش شده تا این خلاصه توصیفی تولید شود.

واکنش‌های اولیه نماینده لونا حاکی از آن بود که کارکنان از هوش مصنوعی برای اصلاح متن پیش‌نویس، بدون ویرایش بیشتر، استفاده کرده‌اند. با این حال، با افزایش گمانه‌زنی‌های عمومی در مورد اینکه آیا از هوش مصنوعی برای نوشتن قوانین واقعی استفاده می‌شود یا خیر، این نماینده کنگره بیانیه‌ای اصلاحی صادر کرد. او شفاف‌سازی کرد که هوش مصنوعی صرفاً برای «بررسی املایی/دستوری» در خلاصه اصلاحیه استفاده شده است، نه برای متن حقوقی خودِ اصلاحیه.

تمایز میان خلاصه و قانون‌گذاری

یک تمایز حیاتی در این بحث، تفاوت میان «خلاصه اصلاحیه» — که ابزاری توضیحی برای مطالعه سریع است — و «متن اصلی اصلاحیه» است که دارای وزن حقوقی می‌باشد. لونا تأکید کرد که در دفتر او هیچ قانون واقعی با استفاده از هوش مصنوعی تدوین نمی‌شود و به یک حفاظ سازمانی حیاتی اشاره کرد.

به گفته لونا، تمام متن‌های رسمی لایحه‌ها در مجلس نمایندگان از شورای قانون‌گذاری مجلس (House Legislative Council) منشأ می‌گیرند؛ نهادی که استفاده از ابزارهای هوش مصنوعی برای آن اکیداً ممنوع است. این تمایز برای حفظ یکپارچگی زبان حقوقی بسیار حیاتی است، چرا که تنها یک توهم (hallucination) یا خطای ظریف زبانی از سوی یک مدل زبانی بزرگ (LLM) می‌تواند منجر به پیامدهای ناخواسته و قابل توجهی در سیاست‌های دفاع ملی شود.

روند رو به رشد استفاده از هوش مصنوعی در سیاست‌گذاری عمومی

این حادثه یک مورد منزوی از «نشت هوش مصنوعی» در محیط‌های حرفه‌ای نیست. چشم‌انداز گسترده‌تر هوش مصنوعی شاهد افزایش استفاده‌های غیرمجاز یا بررسی‌نشده از هوش مصنوعی در بخش‌های مختلف حکمرانی است:

  • سوءرفتار حقوقی: قضات بارها واریزهای حقوقی (legal filings) را که شامل استنادهای ساختگی بودند، توسط وکلایی که از چت‌بات‌ها برای تدوین آن‌ها استفاده می‌کردند، کشف کرده‌اند.
  • خطاهای شهرداری: مقامات شهری در برزیل اخیراً مصوبه‌ای را تصویب کردند که بدون اطلاع آن‌ها توسط ChatGPT نوشته شده بود.
  • استفاده در سطح ایالتی: الکساندر کولودین، نماینده ایالت آریزونا، آشکارا اعتراف کرده است که از ChatGPT برای کمک به نوشتن قوانین در سطح ایالتی استفاده کرده است.

با فراگیر شدن مدل‌های زبانی بزرگ مانند Claude و ChatGPT در محیط‌های کاری، خطر «هوش مصنوعی سایه» (shadow AI) — که در آن کارکنان از ابزارهای تأیید نشده برای وظایف رسمی استفاده می‌کنند — چالشی بزرگ برای دقت و پاسخگویی نهادهای عمومی ایجاد می‌کند.

نکات کلیدی

  • شفاف‌سازی در مورد نحوه استفاده: نماینده آنا پاولینا لونا استفاده از هوش مصنوعی برای تدوین قوانین دفاعی را تکذیب کرد و تأکید نمود که Claude متعلق به Anthropic تنها برای بررسی املایی و خلاصه‌سازی یک اصلاحیه استفاده شده است.
  • حفاظ‌های سازمانی: متن رسمی لایحه‌های مجلس توسط شورای قانون‌گذاری مجلس تدوین می‌شود که برای تضمین دقت حقوقی، از استفاده از هوش مصنوعی منع شده است.
  • ریسک سیستماتیک: این حادثه نشان‌دهنده روند رو به رشد ادغام بررسی‌نشده هوش مصنوعی در حقوق و حکمرانی است، که از پرونده‌های حقوقی تا مصوبات شهرداری‌ها را در بر می‌گیرد.