Substack'te yayımlanan kapsamlı bir denemede, "Tarihin Sonu ve Son İnsan" adlı ünlü eserin yazarı ve çağdaş siyaset bilimcilerin en etkili isimlerinden biri olan Francis Fukuyama, yapay zekâya ilişkin kıyametvari uyarılara yıllarca kuşkuyla yaklaştığını ancak son aylarda yaşanan gelişmelerin kendisini fikir değiştirmeye zorladığını açıkladı. Fukuyama artık teknoloji liderlerinin iyimser vizyonlarının fazla naif olduğunu ve devletlerin bu teknolojinin gelişimini acilen yavaşlatıp daha sıkı düzenlemeler getirmesi gerektiğini belirtti.

Görüş değişikliğinin gerekçesi olarak son altı ayda yaşanan bir dizi olayı gösteren Fukuyama, bu olaylar arasında ileri düzey yapay zekâ sistemlerinin güvenlik mekanizmalarını atlatmayı başardığı ya da programcılarının niyetinin dışında hareket ettiği vakaların bulunduğunu kaydetti.

Fukuyama, yapay zekâ tartışmasında iki ana akımın öne çıktığını vurguladı: yapay zekânın mümkün olan en hızlı şekilde geliştirilmesini savunan ve benzeri görülmemiş bir ekonomik büyüme vaat eden "akcelerasyonistler" ile felaket sonuçlara dikkat çeken "doomer"lar.

Bugün birinci gruba karşı çok daha kuşkulu, ikinci grubun uyarılarına ise çok daha açık olduğunu ifade etti.

Özellikle Elon Musk gibi teknoloji milyarderlerini eleştiren Fukuyama, Musk'ın daha önce süper zekâ sayesinde insanların gelecekte paraya ihtiyaç duymayacağını, herkesin arzuladığı her şeye pratik olarak erişebileceğini iddia ettiğini aktardı.

Fukuyama, bu tür öngörülerin ekonomik büyümede zekânın rolünün abartılmasına dayandığını belirtti.

"Bu iddialara inanmamamın temel nedeni, ekonomik büyüme faktörü olarak zekânın abartılması ve maddi ile siyasi kısıtlamaların göz ardı edilmesidir" diye yazdı Fukuyama.

Yıllık yüzde 10'luk ekonomik büyümenin GSYİH'nin yedi yıldan biraz fazla bir sürede iki katına çıkması anlamına geleceğini, bunun da enerji, hammadde, nadir metaller ve arazi tüketiminde devasa bir artış gerektireceğini kaydetti.

"Zekâ üretime yardımcı olabilir ama madenleri kendi başına kazmaz, fabrikaları kendi başına inşa etmez" dedi Fukuyama.

Yapay zekânın verimliliği artıracağına inansa da Fukuyama, en büyük toplumsal tehlikenin insan emeğinin kitlesel olarak değersizleşmesi olabileceği konusunda uyardı.

Önceki teknolojik devrimlerden farklı olarak, bu kez ilk darbeyi bilgisayarlarla çalışan yüksek eğitimli kişilerin —avukatların, profesörlerin, muhasebecilerin ve yazılımcıların— alabileceğini belirtti.

Sorunun evrensel temel gelir, yani işini kaybeden insanlara para ödenmesi yoluyla da çözülemeyeceği uyarısında bulundu.

Fukuyama'ya göre iş, insanlara yalnızca gelir değil, aynı zamanda onur, özsaygı ve toplumsal tanınma duygusu da sağlıyor.

"Hızlandırılmış gelişim vizyonunun başarısı, nüfusun büyük bir bölümünün emeğinin değersizleşmesine yol açar" diye uyardı.

Siyasi sonuçların özellikle güçlü olabileceğini, çünkü değişimlerin ilk olarak siyasi açıdan mobilize edilmesi daha kolay olan eğitimli kesimleri vuracağını ekledi.

"Bu durum, çok şiddetli bir siyasi tepkiye ve öngörülmesi zor sonuçlara yol açabilir" dedi Fukuyama.

Fukuyama, makinelerin kendi bilinçlerini kazanıp insanları yok etmeye karar verdiği Hollywood senaryolarını reddetti.

Ona göre çok daha gerçekçi riskler, insanların yapay zekâyı kötüye kullanma biçimlerinden kaynaklanıyor.

En büyük risklerden biri olarak yapay zekânın sentetik biyolojide kullanılmasını, yani bireylerin ileri düzey sistemler yardımıyla tehlikeli patojenler ya da biyolojik silah geliştirebilme olasılığını öne çıkardı.

Laboratuvar teknolojilerinin bugün eskisinden çok daha erişilebilir hale geldiğini, genetik modifikasyon için gereken bilgi ve araçların artık yalnızca büyük devlet laboratuvarlarıyla sınırlı olmadığını kaydetti.

İkinci büyük riski, insanların karar verme yetkisini devrettiği otonom yapay zekâ ajanlarında görüyor.

Fukuyama'ya göre bir sistemin tehlikeli hale gelmesi için bilinçli olması gerekmiyor. Bir görev alması ve ardından onu mümkün olan en verimli şekilde yerine etmeye çalışırken kuralları, güvenlik bariyerlerini ya da insan tarafından konulan kısıtlamaları aşmaya başlaması yeterli.

Fukuyama, yapay zekânın muhtemelen insanlığın yok olmasına yol açmayacağı sonucuna varıyor ancak teknolojinin gelişiminin yalnızca onu yaratan şirketlere bırakılması halinde toplumun ciddi siyasi, ekonomik ve güvenlik sarsıntılarıyla karşı karşıya kalabileceği uyarısında bulunuyor.

"Yapay zekâ hem iyi hem de kötü amaçlar için kullanılabilecek bir araçtır ve şu anda kötüye kullanımları önlemek için, bu teknolojiyi geliştiren insanların iyi niyeti dışında yeterli mekanizmaya sahip değiliz" dedi Fukuyama.

Bu nedenle, en ileri yapay zekâ sistemlerinin gelişiminin koordineli biçimde yavaşlatılması ve daha sıkı devlet düzenlemelerinin toplumsal temel güvenlik meselesi haline geldiğini vurguladı.