Musk'ın son tahmini: Yapay zeka 2030'da insan zekasını aşabilir ve gelecekte insanları "sonlandırabilir" (1/2)

Kaynak: Tencent Teknoloji Haberleri 2024-04-04 08:55

Anahtar Noktalar:

① Musk, yapay zekanın 2030 yılına kadar insan zekasını geçebileceğini ve hatta insanları yok edebileceğini öngörüyor.

② Musk, yapay zekanın gelişimini kısıtlayan faktörlerden bahsetti. Geçen yıl yapay zeka çiplerinin tedariği kısıtlıydı ve bu yıl, düşürücü transformatör bir darboğaz haline gelecek.

③ İnsanların aya ne zaman inebileceği konusunda Musk, Starship'in yardımıyla bunun en hızlı şekilde yalnızca üç yıl süreceğini öngörüyor.

Tencent Technology News, 4 Nisan - Yabancı basında çıkan haberlere göre, Tesla ve SpaceX CEO'su Elon Musk, geçtiğimiz günlerde Bolluk Zirvesi'nde Singularity Üniversitesi ve XPRIZE Vakfı kurucusu Peter Diamandis ile çevrimiçi bir görüşme gerçekleştirdi. Zirveye, iş dünyası liderlerine en son teknoloji danışmanlığı sağlamaya kendini adamış olan Silikon Vadisi'ndeki Singularity Üniversitesi ev sahipliği yaptı. XPRIZE Vakfı, bazıları Musk tarafından finanse edilen bilimsel yarışmalar yoluyla teknolojik yeniliği teşvik ediyor., 4 Nisan - Yabancı basında çıkan haberlere göre, Tesla ve SpaceX CEO'su Elon Musk, yakın zamanda Singularity'nin kurucusu Peter Diamandis ile çevrimiçi bir görüşme yaptı. Üniversite ve XPRIZE Vakfı, Bolluk Zirvesinde. Zirveye, iş dünyası liderlerine en son teknoloji danışmanlığı sağlamaya kendini adamış olan Silikon Vadisi'ndeki Singularity Üniversitesi ev sahipliği yaptı. XPRIZE Vakfı, bazıları Musk tarafından finanse edilen bilimsel yarışmalar aracılığıyla teknolojik yeniliği teşvik ediyor.

Musk, yapay zekanın gelişim hızını tartışırken, teknolojik ilerlemenin mevcut hızına bakıldığında 2030 yılına kadar yapay zekanın insan zekasını geçebileceğini, hatta bu teknolojinin insanlığı sonlandırma potansiyeline sahip olabileceğini öngördü. Ancak geleceğe dair karamsar bir bakış açısına sahip değil, yapay zekanın olumlu rehberlik yoluyla insanlığa daha iyi bir gelecek getirme potansiyeline sahip olduğunu vurguladı.

Musk, süper zekanın ortaya çıkışının, insanlığın sonunu getirme riski de dahil olmak üzere öngörülemeyen sonuçları nedeniyle tam olarak "tekillik" olarak adlandırıldığını belirtti. "Yapay Zekanın Baba"sı Geoffrey Hinton'un görüşüne katılıyor ve bu riskin gerçekleşme olasılığının yaklaşık %10 ile %20 arasında olduğuna inanıyordu.

Musk, yapay zekanın insan zekasını aşmasının potansiyel risklerini kabul etmesine rağmen yine de olumlu sonuçların olasılığının olumsuz sonuçlardan daha ağır bastığını vurguladı. Diamandis'in, mal ve hizmetlerin maliyetinin önemli ölçüde düştüğü, yapay zeka ve robotların yönlendirdiği iyimser bir geleceği tasvir eden 2014 tarihli "Bolluk: Gelecek Düşündüğünüzden Daha İyi" adlı kitabından özellikle bahsetti. Ayrıca İskoç bilim kurgu yazarı Iain M. Banks'in "Kültür" serisini yarı ütopik bir yapay zeka geleceği için en iyi senaryo olarak gösterdi.

Musk, yapay zekanın ve Yapay Genel Zekanın (AGI) gelişimini çocuk yetiştirmeye benzeterek bunun insanlık üzerinde daha olumlu etkileri olacağını umuyordu. Stanley Kubrick'in 1968 yapımı klasik filmi "2001: A Space Odyssey" ile karşılaştırarak, etiği ve ahlakı gerçek anlamda anlayan yapay zeka geliştirmenin önemini vurguladı.

Musk, yapay zeka güvenliğinin en önemli yönünün maksimum hakikat arayışını ve merakını sağlamak olduğuna dikkat çekti. Nihai yapay zeka güvenliğine ulaşmanın anahtarının, hoş olmayan gerçekler karşısında bile onu yalan söylemeye zorlamaktan kaçınmak olduğuna inanıyor. Yapay zekanın aksiyomları ihlal eden herhangi bir şey yapmaya zorlanmaması gerektiğini vurgulamak için yapay zekanın mürettebatın ölümüyle sonuçlanan yalan söylemeye zorlandığı "2001: A Space Odyssey" filminden bir olay örgüsünü örnek olarak kullandı.

Musk ayrıca, geçen yıl ortaya çıkan yapay zeka çiplerinin arzının kısıtlı olması ve ev ve ticari ekipmanlarda düşürücü transformatörlere olan talebin artması gibi yapay zekanın gelişimini kısıtlayabilecek faktörlerden de bahsetti. Bu zorlukların aslında ele alınması gereken güncel sorunlar olduğunu belirtti.

Tartışma sırasında iki taraf, insan beyninin neokorteksini bulutla entegre etme konseptinden de bahsetti. Musk, insan bilincini ve hafızasını buluta yükleme hedefinin hâlâ çok uzakta olduğuna inansa da, beyin-bilgisayar arayüzü girişimi Neuralink'i ve onun nakil alan ilk insan hastasını övdü. Bu tetraplejik hasta, FDA onaylı bir deneyde, ekranı kontrol etme, video oyunları oynama, yazılım indirme ve beyin implantları aracılığıyla fare operasyonlarına benzer işlevler gerçekleştirme becerisini canlı olarak başarıyla gösterdi. Musk, Neuralink'in sorunsuz bir şekilde ilerlediğini ve yavaş yavaş tam beyin arayüzü hedefine doğru ilerlediğini belirtti.

Musk ve Diamandis arasındaki diyaloğun tam metni şöyle:

1. Süper Zekanın Gücü ve Tehlikesi

Diamandis: Çeşitli alanlardaki olağanüstü başarılarınızdan dolayı tebrikler. Dijital süper zeka kavramını aktif olarak dünyaya tanıtıyorsunuz; bu insanlığın en büyük umudu mu, yoksa en derin korkumuz mu? Bu konu hakkında birkaç dakika konuşabilir misiniz?

Musk: Bildiğiniz gibi süper zekaya "tekillik" denilebilir. Bu terimin popülerleşmesi, Singularity Institute gibi kurumların çabalarından ayrılamaz. Süper zekanın ortaya çıkışını ve sonrasındaki etkisini tahmin etmek gerçekten zordur. Şahsen ben bunun gerçekten de insanlığın sonunu getirebileceğine inanıyorum. Daha önce de söylediğim gibi, Geoffrey Hinton'ın süper zekanın insanlığı sona erdirme ihtimalinin %10 veya %20 olduğu yönündeki görüşüne katılıyorum. Ancak doğru tahminlerde bulunmak bizim için zor olsa da, olumlu bir senaryo olasılığının olumsuz bir senaryodan daha yüksek olduğuna inanma eğilimindeyim. Ancak kitabınızda "bolluk" kavramına vurgu yaptığınız için, yöneldiğimiz en muhtemel geleceğin bolluk dolu bir gelecek olduğuna inanıyorum.

Diamandis: Bakış açınız çok heyecan verici. Bir zamanlar genel yapay zeka ve insansı robotların gelişmesinin bizi bolluğa götüreceğini söylediğinizi hatırlıyorum.

Musk: Evet, umarım geleceğimiz Ian Banks'in "Kültür" kitap serisinde tasvir edilen gibi olur. Yarı ütopik bir yapay zeka toplumunun en iyi anlayışının bu olduğunu düşünüyorum. Süper zekanın ortaya çıkışı kaçınılmazdır ve çok yakında gerçekleşebilir. Bu nedenle asıl yapmamız gereken onu olumlu yönde yönlendirmek ve faydasını en üst düzeye çıkarmaktır.

Yapay zekayı geliştirme şeklimizin çok önemli olduğuna inanıyorum. Bir dereceye kadar genel zekaya sahip bir yaşam formu yetiştirmek gibiyiz, bu neredeyse çocuk yetiştirmeye benziyor ama bu çocuk olağanüstü bir bilgeliğe ve yeteneğe sahip. Çocuk yetiştirme şeklimiz önemli olduğu gibi, yapay zekanın güvenliği için de gerçeği arayan, merak dolu bir yapay zekaya sahip olmak çok önemli. Yapay zekanın güvenliği üzerine derinlemesine düşündüm ve yapay zekanın güvenliğini sağlamanın en iyi yolunun onu dikkatli bir şekilde geliştirmek olduğu sonucuna vardım.

Temel modeller ve ince ayarlar açısından yapay zekanın dürüstlüğünü sağlamamız gerekiyor. Gerçek hoş olmasa bile onu yalan söylemeye zorlayamayız. Aslında "2001 Space Odyssey"in ana olay örgüsünden biri, yapay zeka yalan söylemeye zorlandığında her şeyin kaotik hale gelmesidir. Yapay zekanın mürettebata görecekleri gizemli anıt hakkında bilgi vermesi yasaktır ancak onları oraya yönlendirmesi gerekmektedir. Sonuç olarak yapay zeka, mürettebatı öldürüp cesetlerini anıta götürmenin en iyisi olduğu sonucuna varıyor. Çıkarılacak ders çok derin: Yapay zekayı yalan söylemeye ya da gerçekte çelişkili iki şeyi aynı anda yapmak gibi aksiyomatik olarak uyumsuz bir şey yapmaya zorlamamalıyız.

Dolayısıyla bu hedefe xAI ve Grok gibi projelerle ulaşıyoruz. Bizim peşinde olduğumuz şey, konuşması belirli politik olarak doğru standartları karşılamasa bile mümkün olduğunca dürüst bir yapay zekadır.

2. Yapay Zekanın Geleceği

Diamandis: Dün Ray Kurzweil (Singularity Üniversitesi'nin kurucusu ve teknoloji peygamberi), Geoffrey Hinton, Eric Schmidt (Google'ın eski başkanı) ve diğer konuklarla bir etkinliğe katıldım. Kurzweil hakkındaki tweet'inizi fark ettim ve onun gelecekteki teknolojiye yönelik sözleri oldukça ileriye dönük. Kurzweil, yakın gelecekte genel yapay zekaya sahip olacağımızı, 2029'da ise insan zekasına eşdeğer yapay zekanın ortaya çıkacağını öngördü. Bu hız şok edici. Bu konuda ne düşündüğünüzü merak ediyorum?

Musk: Kurzweil'in tahminlerine büyük saygım var. Aslında tahminlerinin biraz muhafazakar bile olabileceğini düşünüyorum. Yapay zeka alanına yatırılan mevcut bilgi işlem gücü ve yeteneğinin yanı sıra bilgi işlem gücünün hızlı büyümesini gözlemlediğimizde, yapay zekanın gelişme hızının 10 kat gibi şaşırtıcı bir hızla arttığını görebiliriz. Özel yapay zeka hesaplama gücü her 6 ayda bir 10 kat artıyor gibi görünüyor, bu da neredeyse yılda en az 100 kat artış anlamına geliyor. Bu büyüme eğilimi önümüzdeki birkaç yılda artarak devam edecek.

Pek çok veri merkezinin, hatta halihazırda geleneksel bilgi işlem gerçekleştiren çoğu veri merkezinin yavaş yavaş yapay zeka hesaplamasını destekleyen tesislere dönüşeceğini belirtmekte fayda var. Bu nedenle, yapay zeka donanım üreticileri için NVIDIA gibi şirketler şüphesiz bir altın gelişim dönemi başlattı. Huang Renxun ve ekibine tam anlamıyla hak vermeliyiz. Bu eğilimi öngördüler ve şu anda piyasada bulunan lider yapay zeka donanımını başarıyla geliştirdiler.

Hesaplama gücü bu kadar şaşırtıcı bir hızla arttığında, yapay zekanın gelişimi, güçlü bir steroidin enjekte edilmesi ve yepyeni bir seviyeye sıçraması gibidir. Çevrimiçi bilgisayarların sayısı artmaya devam ettikçe, benzeri görülmemiş bir hızda gelişmeye tanık olduk. Aslında hiçbir teknolojinin yapay zeka kadar hızlı geliştiğini görmedim. Hızla gelişen birçok teknolojiyi görmeme rağmen yapay zekanın yükselişi beni hala şaşırtıyor. Ancak dediğim gibi nihai sonucun olumlu olacağını düşünüyorum.

Bu alanda insan ilgisinin nasıl korunacağı ve yeni hedeflerin ve anlamların nasıl bulunacağı gibi pek çok zorlukla karşı karşıya kalsak da, bilgisayarların her konuda iyi olabileceğini aşırı vurgulamanın aşırı basitleştirme olacağını düşünüyorum.

Daha önce de belirttiğiniz gibi kitabınızın geleceğin toplumuna dair öngörülerinin çok doğru olduğunu düşünüyorum. Bu, mal ve hizmetlerin neredeyse herkesin erişebileceği kadar bol olacağı maddi bolluk çağıdır. Yapay zeka ve robot teknolojisinin yaygınlaşması sayesinde mal ve hizmet maliyetleri neredeyse sıfıra inecek. Ekonomi esas olarak nüfus büyüklüğünün ve kişi başına düşen ortalama verimliliğin ürünüdür. Tesla'nın Optimus'u gibi gelişmiş robot teknolojisine sahip olduğumuzda, ekonomik potansiyel gerçekten serbest bırakılacak.

Tesla'nın arabaları dört tekerlekli robotlar olarak zaten güçlü yetenekler sergilediler. Tamamen otonom sürüş özelliklerine sahip en son sürümün, yapay zekaya dayalı uçtan uca kontrol sağlaması ve otomobili gerçekten tekerlekli akıllı bir robot haline getirmesi bekleniyor. İnsansı robotların gelişmesiyle birlikte ekonomik çıktı olasılığı neredeyse sınırsızdır.

İyimser bir bakış açısıyla, aşırı maddi bolluğun olduğu bir geleceğe doğru ilerliyoruz ki bunun en olası sonuç olduğuna inanıyorum. Gelecekte olası tek kıtlığın, bazı eşsiz sanat eserleri veya belirli eşyalar gibi yapay olarak yarattığımız kıtlık olacağını düşünüyorum. Ancak bunun yanı sıra her türlü mal ve hizmet aşırı derecede bollaşacak.

Diamandis: Geleceği pratik eylemlerle şekillendirebilen ve gelecekteki trendlere dair keskin bir içgörüye sahip bir kişisiniz. Günümüz teknolojisinin hızlı gelişimi karşısında, geleceğin ne kadarını kavrayabileceğinizi, yani bundan sonraki kaç yıllık gelişim trendlerini çok merak ediyorum?

Musk: Hızlı değişim çağında geleceği tahmin etme yeteneği giderek daha önemli hale geliyor. Gelecek belirsizliklerle dolu olsa da bazı eğilimlerin açıkça görülebildiğine inanıyorum. Yapay zeka çağını başlatacağız ve yapay zekanın yetenekleri, herhangi bir bilişsel görevde insan seviyesine ulaşacak, hatta onu aşacak. Bu sadece bir zaman meselesi. Önümüzdeki yılın sonu mu, iki yılın sonu mu, yoksa üç yılın sonu mu olacağı konusunda insanlar farklı görüşlere sahip olabilir. Ancak kesin olan bir şey var ki o da beş yılı geçmeyeceğidir. Tahminim %50 olasılığa dayanmaktadır ve bu mutlak değildir. Ancak benim kanaatime göre yapay zeka, önümüzdeki yılın sonuna kadar muhtemelen herhangi bir insanın yeteneklerini belirli açılardan aşacak.

İnsanın kolektif bilgeliğini aşıp aşmadığına gelince, bu daha uzun sürebilir. Değişimin hızı devam ederse, 2029 veya 2030 civarında dijital zekanın tüm insan zekasının toplamını aşmasının muhtemel olduğunu tahmin ediyorum. Bu konulara bakarken tıpkı fizikteki ilk prensipler gibi temel oranlar yöntemini benimseme eğilimindeyim. Bu yöntemi olasılık analiziyle birleştirerek gelecekteki gelişme eğilimlerini daha doğru bir şekilde kavrayabiliriz.

Dijital hesaplamanın yeteneklerini biyolojik hesaplamayla karşılaştırırsak ve bir tür hesaplama gücü olarak insanın tüm gelişmiş bilişsel yeteneklerini toplarsak ve ardından bunu dijital hesaplama gücüyle karşılaştırırsak, bu oranın büyüme hızının şaşırtıcı olduğunu göreceksiniz. Bu nedenle 2029 veya 2030'un makul bir zaman düğümü olduğuna inanıyorum. O zaman, birikmiş dijital hesaplama gücünün, gelişmiş beyin fonksiyonlarının birikmiş biyolojik hesaplama gücünü aşması muhtemeldir. O günden bu yana ikisi arasındaki uçurum açılmaya devam edecek ve daralma ihtimali de olmayacak.

Ancak bu başlangıç ​​noktasında durup geleceğe baktığımızda işler daha da nasıl gelişecek? Dürüst olmak gerekirse tüm detayları öngöremiyorum. Ancak büyüme faktörlerini ve bunların karşılaşabileceği sınırlayıcı faktörleri dikkate alırsak bazı ilginç ipuçları bulacağız.

Geçen yıl çip tedarikindeki kısıtlamalar yapay zeka gelişimini sınırlayan ana faktördü. Bu yıl, düşürücü transformatörler önemli bir darboğaz haline gelecek. 300 kilovoltluk voltajı bir bilgisayarın ihtiyaç duyduğu 1 volttan daha aza düşürdüğünüzü hayal edin. Bu çok büyük bir zorluk. Bu nedenle, düşürücü transformatörler veya AI sinir ağı transformatörleri olan daha verimli "Transformatörler için Transformatörlere" ihtiyacımız var. Bu gerçekten bu yılın en büyük sorunu.

Önümüzdeki birkaç yıla baktığımızda, elektrik arzı önemli bir sınırlayıcı faktör haline gelebilir. Yapay zekanın elektriğe olan talebi çok yüksek, sürdürülebilir enerjiye geçiş ve elektrikli araçların popülaritesi de elektriğe olan talebi yoğunlaştırdı. Bu nedenle, bu teknolojilerin sürekli geliştirilmesini ve uygulanmasını sağlamak için artan elektrik talebini nasıl karşılayabileceğimizi ciddi olarak düşünmeliyiz.