“Bilgisayar bilimcisi Eliezer Yudkowsky, “hepimiz öleceğiz“Mevcut koşullar altında insanüstü akıllı bir yapay zeka yaratılırsa, yine de milletvekillerinin sistemi düzenlerken karşılaştıkları zorlukları anladığını söyledi.
“Bazen kullandığım benzetme yapay zekanın nükleer silahlara benzediğidir, eğer nükleer silahlar altın saçıyorsa ve siz onları büyüttükçe daha fazla altın saçıyorsa, ta ki sonunda kimsenin önceden hesaplayamayacağı bir eşiğe ulaşana kadar ve sonra patladığında Makine İstihbarat Araştırma Enstitüsü’nün kurucu ortaklarından Yudkowsky, CBC News’e bir e-posta gönderdi.
“Bu, düzenlenmesi alışılmadık derecede zor bir durum.”
Bazı ABD’li politikacıların Salı günkü ABD Senatosu Yargı Komitesi duruşmasında karşılaştığı bu düzenleyici muamma – AI birçok fayda sağlayabilir, ancak kontrolsüz bırakılırsa toplumu olumsuz etkileyebilir ve belki de insanlık için önemli bir tehdit oluşturabilir -.
‘Önemli zarara neden olur’
Duruşmada, yapay zeka şirketi OpenAI’nin başkanı Sam Altman’ın, kendisinin bile “dünyaya önemli zararlar verebileceğini” kabul ettiği, giderek daha güçlü hale gelen yapay zeka sistemlerinin riskine karşı koymak için bir dizi düzenlemeyi savunan ChatGPT’yi öne çıkaran ifadesi yer aldı. “
Ancak Kongre henüz bazı Büyük Teknoloji şirketlerini düzenlemedi. Meta ve Google. Bazı uzmanlara göre, Altman ve diğerlerinin AI hakkındaki duruşmada gündeme getirdiği sorunlar, bu endüstriyi düzenlemenin karşılaştığı zorlukları da gösteriyor.
“Yapay zeka düzenlemeleriyle ilgili en büyük sorunlardan birinin, [defining] Carnegie Endowment for International Peace’te teknoloji ve uluslararası ilişkilerden sorumlu misafir araştırmacı Matthew O’Shaughnessy, “Yine de yapay zeka nedir?” dedi.
O’Shaughnessy, IBM’in baş gizlilik ve güven sorumlusu Christina Montgomery ve New York Üniversitesi’nde fahri profesör olan yapay zeka uzmanı Gary Marcus’un ifadesini içeren duruşmadaki bazı panelistlerin ve senatörlerin yapay zekadan gerçekten geniş bir kavram olarak bahsettiklerini söyledi. diğerleri ise çok dar bir şekilde bundan bahsediyordu.
“Temel sorun, yapay zekanın sürekli gelişen ‘gördüğünde bil’ konsepti olmasıdır. Bu gerçekten zor [to put into] yasal bir tanım.”
Yapay zekayla ilgili duruşmayı açmak için Demokratik Senatör Richard Blumenthal, tamamen OpenAI’nin ChatGPT’si tarafından oluşturulan ve kendi sesini taklit etmek için kendi konuşmaları üzerinde eğitilmiş yapay zeka ses klonlama yazılımı tarafından oluşturulan kayıtlı bir açıklamayı dinletti. OpenAI CEO’su Sam Altman da duruşmada ifade vererek hükümeti yapay zekayı düzenlemeye çağırdı.
Kanada’da hükümet şu öneride bulundu: Yapay Zeka ve Veri Yasası “Kanadalıları korumak” ve “sorumlu yapay zekanın gelişimini sağlamak”. Ancak ABD’de geçerli federal teklif yok
Soruları inandırıcı bir şekilde insan benzeri yanıtlarla yanıtlayan bir sohbet robotu aracı olan ChatGPT ve en son üretici yapay zeka araçlarının insanları yanıltma, yalanlar yayma, telif hakkı korumalarını ihlal etme ve bazı işleri alt üst etme becerisi hakkında endişeler dile getirildi.
Bu arada, Yudkowsky ile birlikte “yapay zekanın vaftiz babası” olarak bilinen Geoffrey Hinton gibi diğerleri, kontrolsüz yapay zekanın insanlığı yok edebileceğine dair korkularını dile getirdiler.
Yudkowsky, çok güçlü bir insanüstü akıllı yapay zekanın, Time in March’ta yazdığı gibi, “İstediğimizi yapmıyor ve bizi ya da genel olarak duyarlı yaşamı umursamıyor.”
“İnsanlığın, karşıt bir insanüstü zekayla karşı karşıya gelmesinin olası sonucu, tam bir kayıptır.”
Yudkowsky, duruşmada Altman ve IBM’den Montgomery’nin kendisi ve Hinton tarafından ayrı ayrı ortaya atılan AI’nın en kötü senaryoları hakkında çekingen davrandıklarını söyledi.
“Asıl tehlike, dünyadaki herkesin ölmesidir” dedi. “Sam Altman bunu biliyor; görünüşe göre Kongre’ye bilgi konusunda güvenilemeyeceğine karar vermiş. Ve dürüst olmak gerekirse, bu karara biraz sempati duyuyorum ve izin verilmese bile muhtemelen çoğu Kongre üyesi bireysel olarak öyledir. bunu yüksek sesle söyle.”
Önümüzdeki ‘göz korkutucu’ görev
İnsan Uyumlu Yapay Zeka Merkezi’nin yönetici direktörü bilgisayar bilimcisi Mark Nitzberg, politika yapıcıların düzenleme açısından önlerinde kesinlikle “göz korkutucu” bir görev olduğunu söyledi.
“Nasıl oluyor da bu sisteme sahibiz ki kimse onun nasıl çalıştığını anlamıyor, herkes onun çok güçlü olduğu konusunda hemfikir ve bunların hiçbirini kontrol eden kesinlikle hiçbir düzenleme yok” dedi.
Nitzberg, büyük bir sorunun, AI’nın birçok yönden oldukça yetenekli bir sistem olmasına rağmen, rastgele olabilmesi, bir şeyler uydurması ve hiç kimsenin onun çalıştığı ilkeleri gerçekten anlamamasıdır.
“Hakkında kurallarımız olan başka herhangi bir mühendislik sistemi için durum böyle değil.”
Yapay zeka, bilimin üzerinde çalışıldığı gen düzenleme veya iklim biliminden farklıdır ve yönetmelikler ve genel anlaşmalar gibi politika üzerinde hala yapılması gereken işler olduğunu söyledi.
“Bilim teslim edilmeden önce siyaset yapmaya zorlanıyorsunuz.”
Nitzberg, mühendislik sistemleri için yapılan çoğu test ve ölüm sonrası analizin, örneğin araba ve uçak güvenliğinde, sistemlerin tahmin edilebilir şekilde davranmasına bağlı olduğunu söylüyor: Aynı duruma getirildiğinde aynı şekilde performans gösteriyor, dedi Nitzberg.
Ancak büyük dil modelleri, aynı istem için arka arkaya iki kez farklı yanıtlar verir. Bu nedenle, farklı türde test ve izleme metodolojilerinin oluşturulması gerekeceğini söyledi.
Cornell Üniversitesi’nde bilgisayar bilimi profesörü ve Intelligent Information Systems Institute’un direktörü Bart Selman, düzenlemelerin yıllar sürebileceğini ve paydaşlardan girdi alsanız bile bazı gerçek sorunları çözmediğini söyledi.
Bazı eleştirmenler, Altman’ın düzenleme çağrısının aslında kendi kendine hizmet edebileceğini öne sürdüler. Bir röportajda ABC’ler ile Buradan başlayın podcast, Gizmodo teknoloji muhabiri Thomas Germain, teknoloji endüstrisinin düzenlenmeyi istemesinin alışılmadık bir durum olmadığına dikkat çekti.
Kanadalı-İngiliz yapay zeka öncüsü Geoffrey Hinton, yapay zekanın insanlık için bir tehdit oluşturduğunu fark etmesini sağlayan son keşifler nedeniyle Google’dan ayrıldığını söyledi. CBC baş muhabiri Adrienne Arseualt, “yapay zekanın vaftiz babası” ile ilgili riskler ve bunlardan kaçınmanın bir yolu olup olmadığı hakkında konuşuyor.
“Gizlilik yasalarının en büyük savunucularından bazıları Microsoft, Google ve Meta’dır, çünkü teknoloji şirketlerine uyabilecekleri yasalar varsa bu büyük bir avantaj sağlar” dedi. “Bu şekilde, bir şeyler ters giderse, ‘Pekala, biz kurallara uyuyorduk. Daha iyi düzenleme yapmamak hükümetin suçu’ diyebilirler.”
Duruşmada Altman, en güçlü AI sistemlerini lisanslayacak ve “bu lisansı geri alma” ve güvenlik standartlarına uyumu sağlama yetkisine sahip olacak bir ABD veya küresel ajansın kurulmasını önerdi.
Nitzberg, bazı sohbet forumlarında, bazılarının “lisans almak için gerekli kaynaklara ve bağlantılara sahip çok az sayıda değerli kişinin olacağını ve dolayısıyla [Altman’s] kendi düzenleyici yakalamasını sağlamak.”
Ancak Nitzberg, Altman’ı sadece “daha büyük bir imparatorluk kurabilmek için insanların iyi tarafına geçmek” için yapay zekanın tehlikeli olduğunu söyleyen bir alaycı olarak görmediğini söyledi.
“2016’da yapay zekanın tehlikelerinden bahsediyordu.”
Yeniliği bastırmak
Bu arada, AI düzenlemesiyle ilgili başka endişeler de var: çok fazla hükümet müdahalesi inovasyonu engelleyebilir.
Competitive Enterprise Institute Kıdemli Üyesi James Broughel, “Özel sektör aktörlerinin güvenli AI uygulamaları için ilkeler geliştirmemesi veya kendi AI yönetim organlarını oluşturmaması için hiçbir neden yok.” Forbes’ta yazdı geçen ay.
“Yeni federal kurumlar oluşturmanın veya yeni düzenleyici programlar ve personel eklemenin sorunu, bunların kaçınılmaz olarak, kamu politikasını kendi çıkarları doğrultusunda yönlendirmek için hükümet gücünü kullanan bürokratlar, akademisyenler ve şirketler de dahil olmak üzere yeni seçmenler yaratmasıdır.”
Bu nedenle IBM’den Montgomery, Senato komitesini, yapay zekanın belirli kullanım durumlarında konuşlandırılmasını yönetmek ve teknolojinin kendisini düzenlememek için yapay zekaya yönelik bir “hassas düzenleme” yaklaşımı benimsemeye çağırdı.
Bu, “Amerikalıları potansiyel zararlardan korumak ile inovasyonun gelişebileceği bir ortamı korumak arasında uygun bir denge kurar” dedi.
O’Shaughnessy, çok fazla düzenlemenin gerçek bir endişe kaynağı olduğu ve politika yapıcıların yapay zekayı akıllıca düzenlerken dikkatli olmaları gerektiği konusunda hemfikirdi.
“Aynı zamanda, bu AI sistemleri çok güçlü. Günümüzde insanlar ve toplum üzerinde çok gerçek ve acil olumsuz etkileri var” dedi. “Üzerine anlamlı ve akıllı bir düzenleme koymamız önemlidir.”
O’Shaughnessy, duruşmaların bir tür düzenleme için iki partinin de desteğini ortaya çıkarmasının önemli olduğunu söyledi.
“Ancak bu fikri üst düzeyde desteklemek onlar için bir şey. Ödevlerin ne olduğu, neye benzediği daha net hale geldiğinde gerçek bir politikayı desteklemek onlar için çok farklı. aslında düzenleme için ivme olabilir.”
ChatGPT’yi yapan yapay zeka şirketinin başkanı, ABD Senatosu’ndaki bir duruşmada, giderek daha güçlü hale gelen AI sistemlerinin risklerini azaltmak için hükümet müdahalesinin kritik öneme sahip olacağını söyledi. About That yapımcı Lauren Bird, bu anın neden önemli olduğunu açıklıyor.
Kaynak : https://www.cbc.ca/news/world/chatgpt-ai-regulation-altman-1.6846448?cmp=rss