Vermont Senatörü Bernie Sanders ve Teksas Temsilcisi Greg Casar, yapay zekayı dizginlemek için çarşamba günü sert bir yasa tasarısı sunarak Kongre’deki tartışmayı tırmandırdı.
19 sayfalık Yapay Süper Zekayı Yasaklama Yasası, yapay zekayı düzenlemek ve denetlemek üzere bir yapay zeka sekreterinin liderliğinde kabine düzeyinde bir Yapay Zeka Bakanlığı kurulana kadar gelişmiş yapay zeka geliştirmesinin durdurulmasını gerektiriyor.
Kuralların ihlali, kurumsal ölüm cezası olarak adlandırdıkları cezanın yanı sıra 20 yıla kadar hapis cezası içeriyor.
Sanders bunun yasadışı nükleer silah üretmekle aynı ceza olduğunu söyledi.
Tasarı, yapay zekayı düzenlemeye yönelik bir dizi kongre teklifinin en sert olanlarından biri olarak öne çıkıyor. Araştırmacıların bu ay feci olasılıklar konusunda uyarıda bulunmasıyla yapay zeka Kongre’de önemli bir tartışma konusu olsa da, bu yıl anlamlı bir yasanın geçeceğine dair çok az beklenti bulunuyor. Sanders çarşamba günü gazetecilerle yaptığı bir görüşmede Kongre’de yaklaşan tsunamiye hazırlık için neredeyse hiçbir şey yapılmadığını belirtti.
Süper zekanın tanımı ve hedefleri
Casar ile birlikte sunduğu tasarı, yapay zeka araştırma ve geliştirme sürecini otomatikleştirme veya büyük ölçüde hızlandırma kapasitesi de dahil olmak üzere süper zekanın gelişimini tanımlamayı amaçlayan bir dizi ön koşul içeriyor.
Tasarının hazırlanmasında görev alan bir danışmana göre amaç özyineli kişisel gelişimi engellemekten geçiyor. Bazı yapay zeka uzmanları, özyineli kişisel gelişimin yapay zeka sistemlerinin daha akıllı ve daha yetenekli olmak için kendilerini eğitmesine ve sonunda insan kontrolünden çıkmasına yol açabileceği konusunda uyarıda bulunmuştu.
Sanders çarşamba günkü görüşmede, insanlığın daha önce hiç görmediği bir şeyle uğraştıklarını ifade etti. Bunun dünya tarihindeki en dönüştürücü teknoloji olduğunu ve çok hızlı ilerlediğini belirten Sanders, yapay zeka alanının dünyadaki en zengin az sayıda insan tarafından geliştirilip yönlendirildiğini ve temel amaçlarının sadece servetlerini ve güçlerini artırmak olduğunu söyledi.
Uzmanlar, farklı yapay zeka yetenek seviyeleri arasındaki belirsiz sınırlar nedeniyle süper zekayı teknik düzeyde tanımlamanın karmaşık olacağını belirtiyor. ABD Başkanı Donald Trump’ın salı günü Birleşmiş Milletler Genel Kurulu’nda yaptığı konuşmada hükümet belgelerinde yapay zekayı süper zeka olarak yeniden adlandıracağını açıklamasıyla bu sınırlar daha da belirsizleşti.
Tasarıya destek ve eleştiriler
Sanders ve Casar tasarısı, teknolojiye koruyucu önlemler getirilmesini savunan ControlAI grubunun liderlerinden övgü aldı.
Grup yayımladığı yazıda, süper zeki yapay zekayı federal hükümeti alt etme kapasitesine göre tanımlama tercihini takdir ettiklerini, bunun böyle bir yapay zekanın nasıl çalışacağının teknik detaylarını önceden belirlemek zorunda kalmadan yok olma riski oluşturan yapay zeka geliştirme türünü hedeflediğini belirtti.
Texas Üniversitesi Hukuk Fakültesi Profesörü ve yapay zeka politika uzmanı Kevin Frazier da milletvekillerinin çabalarını takdir etti. Frazier, Sanders ve Casar tarafından önerilen yasağın, Kongrenin yapay zeka gelişiminin istenmeyen ve geri döndürülemez olumsuz sonuçlara yol açmamasını sağlamak için hızlı hareket etmesi gerektiğini haklı olarak kabul ettiğini söyledi.
Ancak Frazier, tasarının yapay zeka kaynaklı zararları önlemeye yönelik diğer yolları göz ardı ettiğini ifade etti. Önde gelen yapay zeka şirketlerinin güvenlik uygulamalarına ışık tutmaya yardımcı olabilecek bağımsız doğrulama kuruluşları kurmaya yönelik mevcut tekliflerin altını çizdi.
Sektörden ve siyasilerden itirazlar
Washington’daki bazı isimler Sanders ve Casar’ın çabasının kışkırtıcı ancak gerçekçi olmadığını savundu.
İş dünyası dostu yapay zeka mevzuatını savunan Ulusal Yapay Zeka Birliği Başkanı Caleb Max, Sanders’ın tasarısının hem yapay zeka endüstrisi hem de Washington nezdinde kabul görmeyeceğini ifade etti.
Max, bazı şirket yöneticilerinin tasarıda belirlenen eşiği çoktan aştıklarını söyleyebileceğini ve bunun fiili bir yapay zeka yasağı anlamına geldiğini belirtti. Tasarıda özetlenen cezaların muhtemelen anayasaya aykırı ve kötü tanımlanmış olduğunu sözlerine ekledi.
Ticaret Komitesi Kıdemli Üyesi Senatör Maria Cantwell, gelişmiş yapay zeka sistemleri üzerinde anlamlı koruyucu önlemler oluşturacak bir tasarı üzerinde çalıştığını söyledi ve herhangi bir federal yapay zeka kuralının parçası olması gereken bir dizi ilkenin ana hatlarını çizdi.
Cantwell, federal hükümetin standart belirleme sürecine dahil olması gerektiğini belirterek bağımsız testlerin ve uluslararası bir stratejinin önemini vurguladı.
Uluslararası ortaklarla bir olay bildirim sistemine ihtiyaç olduğunu belirten Cantwell, başkanın Çin ile bir iletişim hattı kurması gerektiğini savundu.
ABD Başkanı Donald Trump’ın çarşamba akşamı Washington’da Çin Devlet Başkanı Xi Jinping ile bir araya gelmesi planlanıyor. OpenAI’den Sam Altman, Apple’dan Tim Cook ve eski yapay zeka danışmanı David Sacks’ın da perşembe akşamı Xi için verilecek devlet yemeğine katılmasıyla yapay zekanın tartışma konusu olması bekleniyor.
Çin heyetiyle yapılan toplantının ardından Hazine Bakanı Scott Bessent, diğer ülkeyi ciddi yapay zeka olayları hakkında uyarmak için bir bildirim mekanizması oluşturmayı önerdiğini söyledi. Bu mekanizmanın uygulanıp uygulanmayacağı belirsizliğini koruyor.
Kongredeki yasama engelleri ve gelecek beklentileri
Demokratların 3 Kasım ara seçimlerinde Senato’nun kontrolünü kazanması halinde Cantwell’in Ticaret Komitesine başkanlık etmesi bekleniyor.
Mevcut başkan Senatör Ted Cruz ise Senato Çoğunluk Lideri John Thune ve Senatör Amy Klobuchar ile ayrı bir yasa tasarısı üzerinde çalışıyor.
Cruz, bunun biyolojik veya nükleer tehditler dahil olmak üzere felaket boyutundaki riskleri ele alacağını söyledi. Cruz, tasarının metnini yayımlamak için bir zaman çizelgesi vermeden iki partili anlaşmalara varmak için çalışmaya ve müzakere etmeye devam ettiklerini ifade etti.
Yapay zeka güvenlik savunucuları Cruz, Thune ve Klobuchar teklifini çok hafif olduğu gerekçesiyle eleştirdi. Gruplar herhangi bir yapay zeka düzenlemesinin güvenlik testlerini zorunlu kılması gerektiğini, senatörlerin mevcut teklifinin ise şirketlerin kendi başlarına yapabilecekleri testlere çok fazla bel bağladığını belirtiyor.
Temsilciler Meclisi ara seçimlerin sonrasına kadar tatile girdi. Senato’nun ise seçim arası vermeden önce bu hafta ve muhtemelen önümüzdeki hafta çalışması planlanıyor.
Geçen hafta yapay zeka uzmanlarıyla milletvekilleri için düzenlenen kapalı kapılar ardındaki brifinge katılan tek Cumhuriyetçi olan Louisiana Senatörü John Kennedy, yapay zeka şirketlerinin acil durum kapatma düğmesine sahip olmasını gerektiren bir tasarıyı geçirmek için oybirliği sağlamaya çalıştı ancak Kentucky Senatörü Rand Paul bunu engelledi.
Kennedy, 2027’den önceki geçiş döneminde yapay zeka konusunda herhangi bir yasama eylemi olacağı konusunda kötümser olduğunu ifade etti.
Bu Kongrede yapay zeka konusunda hiçbir şey yapmayacaklarını belirten Kennedy, başkanın yapay zeka gücünün neye benzeyeceğini ve ayrıntılarını görmek için sabırsızlandığını ancak Kongrenin adım atmasının beklenmediğini söyledi.