“Claude” adlı yapay zekâ modelinin geliştiricisi Anthropic'in, yapay zekâ sistemlerinin denetimine ilişkin hazırladığı yasa taslağı tartışma yarattı. Politico’nun haberine göre şirket, devletin yapay zekâ sistemlerine müdahale yetkisini sınırlandıran taslağın yasalaşması için ABD Kongresi'nde kulis faaliyetleri yürütüyor. Tasarıya göre yapay zeka sistemlerine yönelik hükümet müdahalesi için risk eşiği oldukça yüksek.
Anthropic'in önerdiği düzenlemeye göre, federal hükümet bir yapay zeka modelinin kullanımını ancak, 50'den fazla kişinin ölümüne veya ciddi yaralanmasına yol açacak ya da 1 milyar dolardan fazla zarara neden olacak “acil ve öngörülebilir” bir risk olması durumunda engelleyebilecek. Ayrıca, bu riskin biyolojik silah üretimi, siber saldırı veya yapay zeka modelinin geliştiricinin kontrolünden çıkması gibi belirli durumlarla bağlantılı olması gerekiyor.
Güvenlik verileri kamuoyundan gizlenecek
Tasarı, şirketlerin güvenlik ve risk değerlendirmelerine ilişkin bilgileri federal makamlara sunmasını zorunlu kılmakla birlikte, bu kayıtları kamu kayıtları taleplerinden muaf tutuyor. Söz konusu yapay zeka modellerinin kullanımını durdurmak için mahkemeye başvuruda bulunma yetkisi yalnızca Ticaret Bakanlığı’na verilmiş.
Güvenliği temel ilkelerinden biri olarak önceliklendirdiğini iddia eden bir şirketin, devlet müdahalesi için onlarca kişinin ölümünü veya ciddi yaralanmasını gerektiren bir risk eşiği belirlemesi dikkat çekici. Tasarıya göre söz konusu eşik aşılmadığı sürece, ciddi can kaybı risklerinin bile müdahale için yeterli gerekçe olarak değerlendirilmiyor. Üstelik güvenlik değerlendirmelerini kamuoyundan gizlemek ve müdahale yetkisini sınırlamak, yapay zeka şirketlerinin faaliyetlerine yönelik kamu denetimini zayıflatabilir. Güvenlik gerekçesiyle sunulan taslak teklif, teknoloji şirketlerinin sorumluluğunu artırmak yerine, faaliyetlerine müdahale etmeyi zorlaştıran bir düzenleme öneriyor.