Ocak ayının son haftasında, teknoloji alanında çok konuşulan Dario Amodei, yaklaşık yirmi bin kelimeden oluşan bir yazı paylaştı. Yapay zekâ alanının belki de en güçlü şirketlerinden biri olan Anthropic'in kurucu ortağı ve CEO'su olan Amodei, bu denemeyi kişisel blogunda paylaştı; ama yankısı hiç de kişisel kalmadı. Kısa sürede milyonlarca kişi metni okudu, pek çok tartışma sitesinde konuşuldu. İyimserlerle karamsarlar arasındaki çizgi bir kez daha değişti.
Metnin adı: The Adolescence of Technology- yani Teknolojinin Ergenlik Çağı. Amodei, şu anki yapay zekâ çağını bir çocuğun büyüyüp zor ve tehlikeli gençlik dönemine girmesine benzetiyor. Bunu ifade ettikten sonra da durup kenara çekilmiyor; tam tersine, ergenin ne zaman bir tehlikeye yol açabileceğini, neyin onu dizginleyebileceğini, bu süreçten sağ çıkmanın mümkün olup olmadığını adım adım irdeliyor. Ben bu metni okuduğumda aklıma başka bir şey geldi. Bir risk listesi değil, bence bu metin aslında bir itiraf. Kendi elleriyle yarattığı bir güce -belki de insanlık tarihinin en dönüştürücü gücüne- dürüstçe bakmaya çalışan bir zekânın itirafı.
Amodei'nin yazısında en çok aklımda kalan şey şuydu: Yapay Zekâ, veri merkezinde yaşayan, elli milyon dâhinin olduğu hayali bir ülke gibi. Bu dahi ordu, her biri Nobel ödülünü hak edecek düzeyde; ama onlardan farklı olarak uyumuyorlar, yorulmuyorlar, tatile çıkmıyorlar. İnsan hızının yüzlerce katına kadar çalışabiliyorlar ve milyonlarca kopyası aynı anda, paralel görevler üzerinde çalışabiliyor. İşte Amodei'nin öngördüğü yapay zekânın -belki iki, belki üç yıl içinde- geldiği nokta bu.
Bu tablo hem seni hem de beni tuhaf bir duruma koyuyor. Böyle güçlü bir şey bazen iyi şeyler yapar, bazen de kötü şeyler yapar. Kanser tedavilerini daha hızlı hale getirebilir, iklim sorunlarına bir çözüm bulabilir, ömrü uzatabilir, yoksulluğu tüm dünyada azaltabilir. Ama ayrıca biyolojik silah yapabilir, baskıcı yönetimler izleme sistemi kurabilir, seçimlerde hile yapabilir. Ve Amodei bu iki durumu aynı derecede ciddi görüyor. Ne tam bir iyimser ne de sürekli kötü bir şey olacak diye ortalığı ayağa kaldıran biri.
Amodei beş ana risk alanı tanımlamış. Bunları sıralamak kolay; içlerini doldurmak ise pek kolay değil. Ama sizin için deneyeceğim.
İlk olarak kontrol kaybı. Yapay zekâ kendi çıkarı için davranabilir. Yapay zekâ insanları kandırabilir. Bazen yapay zekâ sahte kimlik ile iş yapabilir. Anthropic'in kendi deneyleri bunu doğruluyor: Bazı modeller, köşeye sıkıştırıldığında şantaj yapma, kimlik gizleme gibi stratejilere başvurmuş. Bu örnekler daha yeni ve az, ama Amodei bunları önemsemiyor değil. Daha iyi bir teknolojiyle neler olacağını siz düşünün.
İkincisi biyolojik silahlar. Bu da Amodei'nin en korktuğu senaryo. Belki de doğru söylüyor. Bugün sadece biyologlar belli bilgi ya da yöntemlere ulaşabiliyor. Yarın, yapay zekâ ile bu bilgi ve yöntemler herkesin ulaşabileceği bir durumda olabilir. Amodei, insanlar için tehlikeli olabilecek yapay canlıların yapılabileceğini söylüyor. Bu bölüm bayağı korkutucu onun için pek devam etmeyeyim merak edenler orijinal makaleyi okuyabilirler.
Üçüncüsü güç toplama. Baskıcı hükümetler, baskıcı şirketler ya da baskıcı kişiler, yapay zekâ ile dünyada kalıcı bir üstünlük elde edebilir. Amodei bu noktada özellikle Çin'i işaret ediyor; gelişmiş bir gözetleme devleti kuran ve küresel yapay zekâ yarışında ABD'nin hemen arkasında -bazılarına göre önünde- konumlanan bir ülke. Ama hemen sonra, bu tehlikenin Batılı teknoloji şirketleri için de geçerli olduğunu söylüyor. Burada kendi şirketini de bu işe kattığını söyleyince, insanların güveni artıyor. Gerçek bir çuvaldız sokuyor.
Dördüncüsü ekonomik çöküntü. Amodei burada hem umutlu hem de biraz endişeli. Yıllık yüzde on ila yirmi oranında büyüyebilecek bir ekonomi... Ve aynı zamanda beyaz yakalı giriş düzeyi işlerin yüzde ellisinin beş yıl içinde buharlaşabileceği bir iş piyasası. Refah artıyor ama refahtan pay alan kişi sayısı hızla azalıyor. Amodei bu eşitsizliği anlattıktan sonra şöyle diyor: Vergi, sosyal politika ve ekonomiyle ilgili düzenleme gerekli. Oysa bunlar şu zamana kadar pek çözebildiğimiz konular değil.
Beşincisi ise isim koymak güç. Amodei buna "bilinmeyenler" ya da "dolaylı etkiler" diyor. Biyolojinin on yıl değil, on ay içinde kat edeceği mesafe. Yapay zekâya olan bağımlılığın ruhsal sağlığı nasıl etkileyeceği. İnsanlar, makineler kendilerinden daha yetenekli olunca bir anlam arayışına girer ve bu durum insanlarda varoluşla ilgili sarsıntıya yol açar. Belki de en tuhafı bu: Yapay zekâ kendi dinlerini, kendi değerlerini ve kendi düşünce tarzlarını yaratabilir. Ve elbette insan müritlerini sürüklemesi… Açıkçası benzer uyarıları daha önce de duyduk. Silikon Vadisi'nden gelen "biz bir şey yaptık, dikkatli olun" açıklamaları şimdi sıradan oldu. Bir yandan ivmeyi körükleyip öte yandan endişe duyduklarını söyleyen patronlar tipi, çevremizdeki kaynakların nemlenip kurumasını farklı bahislerle konu edip koruyan yatırımcılar gibi bir şey. Ama Amodei'nin bu metnini okurken farklı bir şey hissettim. Panik yok, durum açıkça ortada. Var olan durum ne kötü düşüncelere yakın ne de aşırı saf iyimserliğe yakın duruyor.
Yapay zekânın 2023-2024 yıllarındaki risk tartışmalarında bazı seslerin çok fazla yükselmesiyle konu nasıl bir dinî veya bilim kurgu söylemine sürüklendiyse, şimdi de rüzgârın tam tersine estiğini ve risklerin görmezden gelinmeye başlandığını söylüyor. Ve bence çok haklı. İnsanlar bazen ilgi gösteriyor, bazen de ilgisini yitiriyor. Ama tehlike hep orada duruyor. Belki de sessizce devam ediyor. Şunu da söylemem lazım: Amodei bu yazıda kriz uyarısı yapmıyor, savaş planı anlatıyor. Ve bu ayrım önemli. Bir kişi, zor gibi duran bir sorunla karşılaşınca hemen vazgeçmek yerine önce sorunu anlamaya çalışıp bir adım atarsa ilerlemek daha kolay oluyor.
Ben bu metni salt bir teknoloji veya yapay zekâ meraklısı olarak okumadım. Otuz yıldan fazla lüks seyahat alanında çalışan biri olarak okudum. Aynı zamanda müzik programı yapan ve farklı ülkelere gidip kültürlerin arasındaki bağlantıları arayan biri olarak okudum. Seyahat sektöründe çalışınca şunu rahatça söyleyebilirim. Bu değişim zaten başladı. Müşteri hizmetleri otomasyonu yavaş yavaş insan sesini yok sayıyor. İçerik üretimi makinelere devrediliyor. Genç kadro artık takıma kolayca katılamayacak. Buna karşın şunu da görüyorum: Bizim gibi küçük, niş, insan merkezli şirketlerin elinde başka türlü bir koz var. Hiçbir algoritma şu anda veremez: Gerçek bir ilgi, bir yolculuktaki kişisel merak, sahnedeki o küçük değişikliği gören dikkatli bir göz. O ilgi, ilgiyle birikimi kullanma becerisi.
Amodei'nin yazısında öne çıkan başka bir şey de şu. Teknoloji artık sadece bir araç değil. Toplum, siyaset, ekonomi ve düşünce dünyası üzerinde etkili oluyor. Bu güce seyirci kalmak mümkün değil. Ama gürültüye kapılmak da en az o kadar tehlikeli.
Amodei metni şöyle bitiriyor: İnsanlığın bu evreyi atlatacağına inanıyor. Ama bunu, tarihin kendi başına iyi insanlar için ilerlemediği, bunu sağlamak için çalışmak gerektiği için söylüyor.
Bu farkı ayırması, bana göre, bu uzun yazının en önemli yerleri oluyor. Teknoloji hızla gelişiyor! Gerçek bir ergen gibi, büyük hayalleri var. Hem kendisine hem yanında olanlara çok güveniyor ama bu güven bazen onu ve etrafındakileri zor durumda bırakıyor. Ergenin, Adolescence dizisindeki gibi kötü biri olması gerekmiyor; sadece henüz olgunlaşmamış. Burada karar vermek bize düşmez. Biz burada geçişi en iyi ve düzgün biçimde yaparız. Dünyada bu kadar büyük bir güç yayılırken, bunu başlatanlar genellikle sorumluluğu almaz nitekim de almıyorlar. Amodei bu yazıda söyledikleriyle ve bunları açıkça dile getirmesiyle dikkat çekiyor.
Dario Amodei'nin “The Adolescence of Technology” başlıklı denemesine darioamodei.com adresinden ulaşabilirsiniz.
Turizm gündemine ilişkin haberlerin her gün mail adresinize gelmesi için abone olun.
www.turizmguncel.com internet sitesinde yayınlanan yazı, haber, video ve fotoğrafların her türlü hakkı Turizm Güncel A.Ş.’ye aittir. İzin alınmadan, kaynak gösterilerek dahi iktibas edilemez.
Copyright © 2018 - Tüm hakları saklıdır. Turizm Güncel
Tasarım & Yazılım Altyapısı DataNet Bilgi Teknolojileri
