ChatGPT’nin arkasındaki OpenAI liderleri, yapay zekayı ve “süper zekayı” düzenleme çağrısında bulunuyor


Viral sohbet robotu ChatGPT’nin yaratıcısı OpenAI’nin liderleri, “süper zeka” ve yapay zeka sistemlerinin düzenlenmesi çağrısında bulunuyor ve dünyanın nükleer bekçi köpeğine eşdeğer bir teknolojinin, teknolojinin ortaya koyduğu “varoluşsal riski” azaltmaya yardımcı olacağını öne sürüyor.

İçinde ifade Şirketin web sitesinde bu hafta yayınlanan, kurucu ortaklar Greg Brockman ve Ilya Sutskever ile CEO Sam Altman, uluslararası bir düzenleyicinin “sistemleri denetlemek, denetim gerektirmek, güvenlik standartlarına uygunluğu test etmek (ve ) dağıtım derecelerine ve güvenlik seviyelerine kısıtlamalar getirin.

“Varoluşsal risk olasılığı” olan bir teknolojiye başka bir örnek olarak nükleer enerji ile bir karşılaştırma yaptılar. Dünyanın nükleer bekçi köpeği olan Uluslararası Atom Enerjisi Kurumu’na (IAEA) benzer nitelikte bir otoriteye olan ihtiyacı artırıyor.

OpenAI ekibi, önümüzdeki on yılda, “Yapay zeka sistemlerinin çoğu alanda uzman beceri düzeyini aşacağı ve günümüzün en büyük şirketlerinden biri kadar üretken faaliyetler yürüteceği düşünülebilir” diye yazdı. “Hem potansiyel olumlu hem de olumsuz yönler açısından, süper zeka, insanlığın geçmişte uğraşmak zorunda kaldığı diğer teknolojilerden daha güçlü olacak. Çok daha müreffeh bir geleceğe sahip olabiliriz; ama oraya ulaşmak için riski yönetmek zorundayız.”

Açıklama, Altman’ın geçen hafta ABD merkezli şirketin CEO’sunun da ayrı bir düzenleyici kuruma ihtiyaç duyulduğuna tanıklık ettiği Kongre’deki yorumlarını yineledi.

ChatGPT’nin arkasındaki CEO, Kongre yapay zekasının ‘dünyaya zarar verebileceği’ konusunda uyardı

Eleştirmenler, teknoloji endüstrisindeki kısıtlamalar olmaksızın sürekli gelişimden kâr elde etmeye hazır olan liderlerin düzenleme çağrılarına güvenmemeleri konusunda uyarıda bulundular. Bazıları, OpenAI’nin iş kararlarının bu güvenlik uyarılarıyla çeliştiğini söylüyor – hızlı sunumları bir AI silahlanma yarışı yarattı ve Google ana şirketi Alphabet gibi şirketlere, politika yapıcılar hala risklerle boğuşurken ürünlerini piyasaya sürmeleri için baskı yaptı.

The Washington Post’un daha önce bildirdiğine göre, destekçiler ve eleştirmenler teknoloji politikası hakkındaki tartışmaları etkilemeyi umduklarından, birkaç Washington milletvekilinin gelişmekte olan teknoloji veya yapay zeka hakkında derin bir anlayışa sahip olduğu ve yapay zeka şirketlerinin onlarla kapsamlı bir şekilde lobi yaptığı bildirildi.

Bazıları ayrıca ABD’nin rakiplerle, özellikle de Çin ile teknoloji üzerinde rekabet etme kabiliyetini engelleme riskine karşı uyarıda bulundu.

OpenAI liderleri, notlarında geliştirmenin durdurulmasına karşı uyarıda bulunuyor ve ekliyor: “Süper zekanın yaratılmasını durdurmak mantıksız bir şekilde riskli ve zor olacaktır. Artıları çok büyük olduğu için onu inşa etmenin maliyeti her yıl düşüyor ve onu inşa eden aktörlerin sayısı hızla artıyor.”

Yapay zekanın bizi yok edip etmeyeceği tartışması Silikon Vadisi’ni bölüyor

Geçen haftaki ilk kongre ifadesinde Altman, şirketinin teknolojiyi sunmaya devam edeceğini iddia ederken, AI’nın “dünyaya nasıl ciddi zarar verebileceği” konusunda uyarılarda bulundu.

Altman’ın milletvekilleriyle çalışmaya istekli olduğu mesajı, Amerika Birleşik Devletleri de dahil olmak üzere ülkeler buna ihtiyaç duyduklarını kabul ettikleri için Kongre’de nispeten sıcak karşılandı. gizlilik, güvenlik, işten çıkarmalar ve yanlış bilgilendirme ile ilgili endişeleri açığa çıkaran bir teknolojiyle uğraşırken inovasyonu desteklemekle uğraşmak.

Duruşmadaki bir tanık, New York Üniversitesi fahri profesörü Gary Marcus, söz konusu olan “akıllara durgunluk veren” para meblağlarının altını çizdi ve OpenAI’yi yatırımcısı Microsoft’a “borçlu” olarak nitelendirdi. Mali baskının kısıtlamaları olmaksızın “bir bütün olarak insanlığa fayda sağlamak” için yapay zekayı ilerletme misyonundan şirketin sapması olarak tanımladığı şeyi eleştirdi.

Washington, teknoloji devleri ve eleştirmenler azaldıkça AI ile mücadele etme sözü verdi

Metin, resim veya ses oluşturan ChatGPT ve üretici yapay zeka araçlarının yaygınlaşması, kullanıcıların gözlerini kamaştırdı ve ayrıca düzenleme konusundaki tartışmaya aciliyet kattı.

Cumartesi günü yapılan bir G-7 zirvesinde, dünyanın en büyük ekonomilerinin liderleri, AI ilerlemeleri için uluslararası standartların bir öncelik olduğunu açıkça belirttiler, ancak henüz risklerin nasıl ele alınacağına dair önemli sonuçlar üretmediler.

Biden yönetimi yapay zekayı kilit bir öncelik haline getirdiğini söylese de, Amerika Birleşik Devletleri şimdiye kadar özellikle Avrupa’da diğerlerinden daha yavaş hareket etti. Washington’daki politika yapıcıların yıllardır kapsamlı teknoloji yasalarını geçirmemesi, yapay zeka endüstrisi için düzenlemeleri ne kadar hızlı ve etkili bir şekilde geliştirebileceklerine dair soruları gündeme getiriyor.

Yapay zeka işleri değiştirirken, İtalya işçilerin yeniden eğitilmesine yardımcı olmaya çalışıyor

ChatGPT yapımcıları, “süper zekanın geliştirilmesinin” bu sistemlerin toplumla güvenli ve “sorunsuz entegrasyonuna” izin vermesini sağlamak için yapay zeka araştırması üzerinde çalışan şirketler arasında “bir dereceye kadar koordinasyon” çağrısında bulundu. Şirketler, örneğin, “sınırdaki yapay zeka kapasitesindeki büyüme oranının yılda belirli bir oranla sınırlı olduğu konusunda toplu olarak anlaşabilirler” dediler.

“Dünyanın dört bir yanındaki insanların, sınırlar ve varsayılanlar AI sistemleri için” diye eklediler ve “böyle bir mekanizmayı nasıl tasarlayacağımızı henüz bilmiyoruz” dediler.

Cat Zakrzewski, Cristiano Lima ve Will Oremus bu rapora katkıda bulundu.


Kaynak : https://www.washingtonpost.com/technology/2023/05/24/chatgpt-openai-artificial-intelligence-regulation/”>Source link

Yorum yapın

SMM Panel PDF Kitap indir