Yönetişimde Yapay Zeka: Temsilci Luna, Savunma Yasa Metni İçin Claude Kullandığını Reddetti
Üretken yapay zeka ile yasama taslağı hazırlama arasındaki kesişim noktası, Florida Temsilcisi Anna Paulina Luna'yı içeren bir tartışmanın ardından yoğun inceleme altına girdi. Anthropic'in Claude modelinin savunma finansmanı detaylarının taslağını hazırlarken kullanıldığını gösteren ekran görüntüleri ortaya çıktıktan sonra Luna, ofisinin iş akışında yapay zekanın rolüne açıklık getirdi.
Claude Tartışması ve NDAA Değişikliği
Tartışma, kullanıcıların 2027 Ulusal Savunma Yetkilendirme Yasası (NDAA) ile ilgili bir değişiklik özetinin ekran görüntülerini paylaşmasıyla X (eski adıyla Twitter) üzerinde patlak verdi. Sızdırılan metin, tuhaf bir biçimlendirme hatası içeriyordu: "Claude yanıtladı: Savunma Bakanı'nın Savunma Bakanlığı faaliyetlerini belirlemesini gerektirir..." Bu spesifik ifade, açıklayıcı özeti oluşturmak için Anthropic'in Claude LLM'i üzerinden bir istemin (prompt) işlendiğini güçlü bir şekilde gösteriyordu.
Temsilci Luna'nın ilk tepkileri, personelin taslak metni daha fazla düzenleme yapmadan düzeltmek için yapay zeka kullandığını ima ediyordu. Ancak, yapay zekanın gerçek yasaları yazmak için kullanılıp kullanılmadığına dair kamuoyundaki spekülasyonlar arttıkça, Kongre üyesi düzeltici bir açıklama yaptı. Yapay zekanın, değişikliğin yasal metninden ziyade yalnızca değişikliğin özeti üzerinde "yazım/dil bilgisi kontrolü" için kullanıldığını netleştirdi.
Özet ile Yasama Arasındaki Ayrım
Bu tartışmadaki kritik ayrım, hızlı okuma için kullanılan bir açıklayıcı araç olan "değişiklik özeti" ile yasal ağırlığı olan "asıl değişiklik metni" arasındaki farktır. Luna, ofisinde yapay zeka ile hiçbir gerçek yasal düzenleme hazırlanmadığını vurgulayarak hayati bir kurumsal güvenceye dikkat çekti.
Luna'ya göre, Temsilciler Meclisi'nden gelen tüm resmi yasa metinleri, yapay zeka araçlarını kullanması kesinlikle yasak olan bir kuruluş olan Temsilciler Meclisi Yasama Konseyi'nden (House Legislative Council) kaynaklanmaktadır. Bu ayrım, bir LLM'den kaynaklanabilecek tek bir halüsinasyonun veya dilsel nüans hatasının ulusal savunma politikasında önemli ve istenmeyen sonuçlara yol açabileceği yasal dilin bütünlüğünü korumak için hayati önem taşımaktadır.
Kamu Politikalarında Artan Yapay Zeka Eğilimi
Bu olay, profesyonel ortamlardaki münferit bir "yapay zeka sızıntısı" vakası değildir. Daha geniş yapay zeka dünyası, çeşitli yönetişim sektörlerinde yetkisiz veya denetlenmemiş yapay zeka kullanımında bir artış gözlemliyor:
- Hukuki Usulsüzlük: Hakimler, avukatların uydurma atıflar içeren hukuki dilekçeler hazırlamak için sohbet robotlarını kullandığını defalarca yakaladı.
- Belediye Hataları: Brezilya'daki şehir yetkilileri, yakın zamanda bilmeden ChatGPT tarafından yazılmış bir yönetmeliği onayladı.
- Eyalet Düzeyinde Kullanım: Arizona eyalet temsilcisi Alexander Kolodin, eyalet düzeyindeki yasaların yazılmasına yardımcı olması için ChatGPT kullandığını açıkça itiraf etti.
Claude ve ChatGPT gibi LLM'ler iş yerlerinde yaygınlaştıkça, çalışanların resmi görevler için onaylanmamış araçlar kullandığı "gölge yapay zeka" (shadow AI) riski, kamu kurumlarının doğruluğu ve hesap verebilirliği için önemli bir zorluk teşkil ediyor.
Önemli Çıkarımlar
- Netleştirilen Kullanım: Temsilci Anna Paulina Luna, savunma yasası taslağı hazırlamak için yapay zeka kullandığını reddederek, Anthropic'in Claude modelinin yalnızca bir değişikliği yazım denetimi yapmak ve özetlemek için kullanıldığını belirtti.
- Kurumsal Güvenceler: Resmi Meclis yasa metinleri, yasal kesinliği sağlamak amacıyla yapay zeka kullanması yasak olan Temsilciler Meclisi Yasama Konseyi tarafından hazırlanmaktadır.
- Sistemik Risk: Olay, hukuki dilekçelerden belediye yönetmeliklerine kadar hukuk ve yönetişimde denetlenmemiş yapay zeka entegrasyonuna yönelik artan eğilimi vurgulamaktadır.