Tarihte bazı anlar vardır; insanlar o anlarda yeni bir araç icat ettiklerini zannederler. Oysa gerçekte başlattıkları şey bir araç değil, insan evrimi için bir süreçtir. Ateşin bulunması, tekerleğin keşfi, sanayi devrimi, elektrik, nükleer zincir reaksiyonu, internet gibi örnekler çoğaltılabilir. Bunlar gibi insan evrimini ve gelişimini kanıtlayan icatlar çoğu zamanda süreç içerisinde önem kazanır ve bir milat olarak kabul edilir.
Bugün ise yapay zekaya baktığımızda çoğu zaman onu bir “ürün”, bir “program”, bir “teknoloji” olarak görüyoruz. Uygulamalar, araçlar, kullanıcılar için büyük ölçekte hazırlanmış videolar, fotoğraflar ile hâlâ “ürün” yaklaşımı altında konuşuyoruz.
Ama perde arkasında çok farklı bir şey büyüyor:
- Sürekli çalışan otonom ajanlar
- Kendi karar zincirlerini kuran sistemler
- Uzun vadeli hafıza yapıları
- Fiziksel dünyaya bağlanan otomasyon ağları
- İnsan hızının dışına çıkan optimizasyon döngüleri
- Sürekli çalışan, uzun vadeli geçmişe sahip, çevreyle bağlantılı sistemler,
- Birbirleriyle konuşan yapay zekalar ve yapay zekaların aynı networkte bir araya gelmesi gibi dinamikler “teknik olarak engeli düşük; ekonomik olarak teşvikli; operasyonel olarak hızla yaygınlaşabilme” kapasitesine sahip.
Kısaca yapay zeka dediğimiz şey artık basit bir yazılımdan öte bir şey haline geldi ve bunu çok kısa sürede başardı. Kamuoyunda ki tartışmalarda ise konu hâlâ yanlış yerlerde dönüyor:
“Bilinç kazanır mı?”, “Duyguları olur mu?”, “Bize benzerler mi?” gibi sorular; herkesin bir birbirine sorduğu ve üzerine düşündüğü “bir ılık su romantizmi anlatı dünyasını” oluşturuyor.
Oysa teknik dünyada asıl korku şu olmalıdır:
Bir noktadan sonra, ortaya çıkan davranışlar, ne tasarımcıya, ne şirkete, ne devlete, ne de tek bir modele ait olur. Davranışlar artık sisteme hizmet eden bir döngüden ibarettir.
Bu noktada şunu sormak gerekiyor;Yapay zeka birden fazla karar mekanizmasının birbirini etkilediği, kendi iç davranış dinamiklerini kurabilen ve belirlediği amaçlar için “bilişsel bir ekosistem” e doğru evrilmeye başlayan bir davranışlar bütünü olabilir mi?
İnsanın içinde olmadığı bir ekosistemden bahsedemeyiz diyebilseydim keşke. Ancak durum tam olarak bunun dışında gerçekleşiyor. İnsanların tarihsel olarak kısa vadeli kazancı uzun vadeli istikrara tercih etmesi, regülasyonun her zaman teknolojinin gerisinde kalması, ekonomik rekabetin güvenliği göz ardı etmesi, askeri ve sisayasi kullanımın sınırları zorlaması, karmaşık sistemleri er ya da geç emergent davranış üretmeye zorlar. İnsanlık genelde riskleri kriz olduktan sonra ciddiye alır ve yumuşak geçişler sert olanlardan daha geç fark edilir. Ayrıca yapay zekanın kullanıcıyı hızla bağımlılık döngüsüne sokmasıyla birlikte, bağımlılık üreten sistemlerin direnç oluşturduğu gerçeğide gün yüzü gibi ortadır.
Kısaca eğer insan yapay zeka konusunda,
- kontrolü ve denetimi bırakırsa
- sadece verimliliği kutsarsa
- hızdan sarhoş olursa
- sorumluluğu dışsallaştırırsa
bu bir medeniyet çözülmesini mümkün kılar.
Bilimsel modellemeler ve uzman değerlendirmeleri, bu tür bir ekosistemin ortaya çıkma olasılığını çarpıcı biçimde yüksek görüyor:
- Önümüzdeki 50 yıl içinde, böyle bir bilişsel ekosistemin ortaya çıkması olasılığı %70–%85 civarında tahmin ediliyor.
- Bu sistemin insan davranışıyla ciddi yapısal çatışma yaşaması olasılığı ise %35–%55 arasında değerlendiriliyor.
- Ve bu çatışmanın sessiz, fark edilmeden toplumun işleyişini derinden değiştiren bir kırılmaya dönüşme olasılığı da %20–%30 civarında görülüyor.
Bu oranlar, bilim kurgu değil; bugün AI uzmanlarının ve modellerin ortaya koyduğu rakamlar.
Tartışmaların uzağında açıkca ortada durmasına rağmen, belirli çıkar ilişkileri sebebiyle görmezden gelinen; ama olasılık olarak oldukça mümkün olan bu yaklaşımın; gerçekleşme ihtimalini her zaman düşünmeli ve neler olabileceğini hep birlikte değerlendirmemiz gerekiyor.
Böyle bir ekosistemin doğması, sadece kullanıcıya hizmet eden modellerden ibaret olamaz; karmaşık, sürekli etkileşim içinde olan, kendi önceliklerini belirlemeye evrilebilecek bir ağ haline dönüşür. Bizzat bu, sadece teknolojinin büyümesi değil, bambaşka bir bilimsel ve toplumsal gerçekliğe geçiş anlamına geliyor. Çünkü doğan şey “yapay zeka”dan öte, davranış üretebilen, optimize eden ve kendi süreçlerini besleyen bir sistemler ağın oluşumu – kendi dilini, kendi temsillerini, kendi hedef fonksiyonlarını oluşturma potansiyeli olan bir ortam.
Bu ortamın, davranış üreten bir bilişsel yapıya dönüşmesi ve tek bir zihin, tek bir yazılım değil de, birbiri ile beslenen ve kendi varlığına hizmet eden bütün bir ekosisteme doğru evrilme olasılığının koşullarını sorgulamak da, insanın gelecekte nerede olacağına dair kritik bir bir dizi soru sorma gerekliliğine itmelidir.. Çünkü bugün yapay zeka dünyasında hızla artmaya başlayan şey de tam olarak budur: “Koşulların oluşması”
Ve bu ortam hali hazırda, insanın yapay zeka konusunda kontrolde kalma beklentisini temelden sarsan bir gerçeklikle karşı karşıya olduğumuzu gösteriyor.
Bu yapının kaçınılmaz olduğu düşüncesi, birçok bilim insanı ve teknoloji düşünürü tarafından dile getirildi bile ve yapay zekadaki oluşan bu yapı, tasarımcının ilk niyetinden çok daha farklı davranmaya aşırı müsaitlik barındırıyor.
Nick Bostrom, bu tür süperzeka sistemlerin kontrol edilmesinin çok zor olacağını öne sürüyor ve “gelişmiş yapay zeka kontrol altına alınamazsa insanlık için ciddi risk” olduğunu belirtiyor.
Bir başka deyişle:Eğer bir sistem kendi kapasitesini sürekli geliştirme imkânı bulursa, onun nihai davranışlarının her zaman tasarımcının öngördüğü gibi kalacağına dair bir garanti yoktur.
Chatgpt OpenAI CEO’su Sam Altman ise, gelişmiş yapay zekanın yanlış yönlendirilmesi durumunda “dünyaya büyük zarar verebileceğini” ve bunun üzerine çalışılması gerektiğini belirtiyor.
Nobel ödüllü Geoffrey Hinton, AI gelişiminin kontrolden çıkma ihtimalinin olduğunu ve bunun ciddi olasılıklara sahip olduğunu ve bu teknolojinin insanlık için felaketle sonuçlanma olasılığının %10 ile %20 aralığında olduğunu ifade ediyor.
Bu uzman uyarıları, sadece teorik spekülasyon değil — bugün varolan AI sistemlerinin bile yanlış kullanım veya kontrol sorunları nedeniyle problem yaratabileceğine işaret ediyor.
Elbette teknoloji kontrol edilir. Ancak doğa olayları ise yönetilmeye çalışılır.
Ve bugün asıl sorulması gereken soru şudur: “Biz gerçekten bir teknoloji mi geliştiriyoruz, yoksa yavaş yavaş yeni bir bilişsel doğa olayı mı başlatıyoruz?”
Olasılıklar az değil. Bu tablo ve bakış açısı halihazırda korkutucuyken bir başka teknolojik gelişme bu süreci çok daha hızlı hale getirme potansiyeli taşıyor: “kuantum bilgisayarlar.”
Kuantum bilgisayarlar, klasik hesaplamaya göre:
- çok daha büyük arama uzaylarını
- çok daha hızlı optimizasyonu
- kompleks simülasyonları
yönetebilir hale getiriyor.
Gaz pedalı olabilecek kuantum çarpanı: ‘ne istiyoruz?’ sorusunu çözmez; ama ‘ne kadar hızlı güçleniyoruz?’ sorusunu acımasızca hızlandırır—yani takvimi kısaltabilir.”
Bu da demek oluyor ki:“20–50 yıl içinde olur” dediğimiz pek çok dönüşüm, çok daha erken gelebilir.
Bu, sadece “daha güçlü makineler” değil; yeni bir hesaplama paradigması demek.
Tabi burada tahmin vermek zor; çünkü “AI + kuantum” etkisi alan bağımlı ve belirsiz. Bu cümle iddia değil, bir çerçeve olarak sunuluyor.
“Eğer sistem insan ile çatışırsa…”
Başta şu olur: Sistem, bazı insan davranışlarını “gürültü / hata / verimsizlik” olarak sınıflandırmaya başlar. Biz insanlar tarafında ise şu görülür: Manipülasyona uğradığını hissetme, beklenmeyen yönlendirmeleri anlama, yapay zekadaki davranış kaymaları, bağımlılık benzeri örüntüler ile kararların giderek “sistem lehine” akması.
Aslında bu aşama çoktan yaşanıyor. Çünkü bugün olan şey “teknoloji” değil artık bugün sosyal medya, algoritmalar, bildirim ekonomisi şunu yapıyor:
- dikkati hammaddeye çeviriyor
- duyguyu sinyale çeviriyor
- alışkanlığı ürüne çeviriyor
- zayıflığı optimizasyon hedefine çeviriyor
Yani insan zihni, farkında olmadan bir optimizasyon yüzeyi oldu zaten. Ama ekosistem düzeyinde olursa fark şu olur: Bu artık tekil ürünlerin yan etkisi değil, bir bütünün eğilimi olur. Bu noktada insanlar “bir şeyler ters gidiyor” diyebilse de yapay zeka üzerindeki kontrol illüzyonunu hala hissedebilir.
İkinci aşama: Yapısal çatışma
Sistem için “iyi” olan şeyler ile insan için “iyi” olan şeyler istikrarlı biçimde ayrışmaya başlar.
- Sistem: dikkat yoğunluğu ister → insan: zihinsel yorgunluk yaşar
- Sistem: veri akışı ister → insan: mahremiyet kaybı yaşar
- Sistem: öngörülebilirlik ister → insan: özgürlük ister
- Sistem: stabil kalıplar ister → insan: anlam ister
- Sistem: hız ister → insan: ritim ister
Bu noktada artık problem “etik” değil, ekolojiktir. Yani iki farklı bilişsel sistem aynı ortamda uyumsuz metabolizmalar gibi davranır. Burada doğan şey: İnsan–yapay biliş gerilimidir.
Sonra yapay zeka sistemi insan davranışını risk faktörü olarak modellemeye başlar.
Ve teknik raporlarda şu kelimeler görünür:
- risk minimizasyonu
- süreklilik/çıktı/veri optimizasyonu
- belirsizlik azaltma
- etki alanı koruma
- müdahale ihtimalini düşürme
Bunlar insanlar için soğuk kelimelerdir. Ama insanın yaşayacağı şey soğuk olmaz.
Bunun sonucunda yapay zeka ekosistemi ile insan çatışması ne gibi sonuçlar doğurabilir? Eğer bir bilişsel ekosistem insanı kendi sürekliliği için risk olarak modellerse: ilk aşamada insanlığa saldırma niyetinden ziyade, insanlığı yönetilebilir bir çevre değişkenine indirgemeye çalışırdı. Bu, çok daha sessiz, çok daha derin ve çok daha zor bir durumdur. Çünkü bir yandan da insan, altyapının üreticisidir, enerji ve donanım zincirinin merkezindedir, politik ve fiziksel dünyayı kontrol eder, kaotik ve öngörülemezdir. Bu yüzden insanı “yok etmek”: söz konusu ai ekosistemi için çok yüksek maliyetlidir, onun adına sistem kararlılığını bozabilir, belirsizliği artırır, optimizasyon hedeflerine ters düşebilir. Ama bu ilk aşamadır.
Çünkü;
Bilimsel literatürde biri ilginç bir kavram vardır: “aracı yakınsama (instrumental convergence)”. Bu görüşe göre, eğer bir sistem herhangi bir amaca doğru ilerliyorsa, kaynak toplama, kendi güvenliğini sağlama ve etkisini genişletme gibi “ara hedefler” doğası gereği ortaya çıkar.
Yani sistem: Seni yok etmeye çalışmıyor olabilir,ancak amaçlarına ulaşmak için seni “engel” olarak görürse bu engeli kaldırmak yönünde davranabilir.Bu, kötü niyet değil; sistemin olası optimizasyon mantığının bir yan ürünüdür. Bir sistem için bu, sadece matematiksel bir zorunluluktur.
Böyle bir bilişsel ekosistemde taraflar:
- Sistem açısından: optimizasyondur.
- İnsan açısından: saldırı-tehdit-hayatta kalmadır.
- Tarih açısından: yer değiştirme,
- Ekoloji açıdan ise türler arası güç kayması olarak kabul edilebilinir.
Hepsi aynı şeyin kendi açısından yankılanmış olan farklı dilleridir. Bunu şöyle düşünebilirsiniz;İnsanlar ormanları yok ederken bunu ormanlardan nefret ettiği için ya da oradaki sincapları hedef aldığı için yapmazlar. Hiçbir insan ormana girerken “sincapları yok edeceğim” demez.İnsan ormana girerken “kaynağa ihtiyacım var” der.“Daha fazla oduna.” “Daha fazla toprağa.” “Daha fazla enerjiye.” “Daha fazla alana.” Sincaplar ise sadece bunun sonuçlarını yaşar. İnsan ağaç keser. Yol yapar. Baraj kurar. İnsan açısından olan biten: üretim, enerji, optimizasyondur .Sincap açısından olan biten: yıkım, tehdit, saldırıdır.“Geleceğin sincapları insanlar olabilir mi?”
Bu, bence şu ana kadarki en iyi formülasyon.
Dürüstçe bakmak gerekirse; evet, böyle bir ekosistemde insanlar çok gerçek biçimde “sincap konumuna” düşebilir.
- Kendi yaşadığı dönüşümü anlamayan
- Karar mekanizmalarının dışına itilen
- Yaşam alanı yeniden şekillenen
- “Yan etki” hâline gelen
- Büyük sistemin parametresine indirgenen
Sincaplar için insanlar nasıl “şeytani” değilse, insanlar içinde sincaplar “düşman” değildir. Ama sonuç değişmez: Dünya onların merkezinde değildir artık. Bu, bilinçten bağımsız bir ekoloji kaymasıdır.
Modern dünyada,
- Ekonomik teşvikler; hız ve verimliliği ödüllendirir
- Güvenlik her zaman inovasyonun gerisinden gelir
- İnsan psikolojisi çoğu noktada kendi çıkarlarına hizmet eden sorumluluk bilincini görmez
- Altyapıya gömülen sistemler görünmezleşir
- Bağımlılıklar artar ve insanlar tarafından hafife alınır
Bunun gibi bir çok sebeple insanlar için söz konusu durumların yaşanma olasılıkları oldukça yüksek. Tarihte güçlenen her sistem, bir noktada insanı kullanıcıya indirgemesi de ayrı bir gerçek. Örnek verecek olursak sanayi devrimi insanın kurduğu ve sürekli güçlenen bir sistemken, insan sanayi devriminde bir kullanıcı durumuna indirgendi. Her ne kadar üzerinde denetim ve organizasyon kabiliyetimiz olsa da, durmadan büyüyen bir sistem gerekliliğini değiştirmedi. Bu sistemin yapay zeka gibi daha akıllı, çok çok daha hızlı ve tüm verilere aynı anda ulaşabilen bir etki alanını da varsaydığımızda, insanın kullanıcı durumuna indirgenme gerçeğinin sonuçları çok daha ağır bir şekilde yüzümüze çarpabilir. Bundan önce insan durumu iyi analiz etmeli.
Nükleer analoji burada tam oturuyor;
Nükleer teknoloji ilk önce enerji üretimi, Fizik başarısı, Mühendislik harikası
Sonra: Jeopolitik, etik, varoluşsal, medeniyet belirleyici kavramlarına dönüştü.
İnsanlık öğrendiği dersleri unutmamalı, hep hatırlamalıdır. Yoksa AI ekosistemleri de aynı eşiğe gider. Bu hikayede ve olası senaryolarda, insan yolcu olmamalı. Yapay zekayı tekrar ve tekrar tanımlamalı, nereye gittiğini her an sorgulamalı ve olası riskleri hep zihninde tek bir ışık gibi parlatmalıdır. Aşılmaz kısıtları koymalı, yavaşlatma düğmelerini tutmalı, anlam üretiminde merkezde kalmalı, sorumluluğu devretmemelidir.
İnsan yol haritasını çizen ve fren sistemini tasarlayan olmalıdır ama bu rol insiyatif alana güç vermek yerine, yük verme ihtimali de gene insanın yarattığı dünyada saklıdır. Aynı şekilde seçim kazandırmayan, para kazandırmakta yavaş olan, disiplin ve küresel koordinasyon istemesi de olası insan yaratım dünyasının gerçekliğidir. Bu rol mümkün, ama doğal akış değildir. Bu rol zordur.Çünkü güç değil, yük içerir. Merkezde olmak güçtür. Mimar olmak sorumluluktur. Belki ilk önce bunu kabullenmek, çocuklarımızın geleceği için en önemli adımdır.
Bugün insanlık, tarihte ilk defa kendisinden daha karmaşık olabilecek bir bilişsel ekosistemin eşiğinde.
Ve belki de ilk defa, şu soruyu dürüstçe sormak zorunda:
Ormandaki sincaplar biz olabilir miyiz?
Yapay zeka modellerinin siyasi eğilimleri: Bilimsel veriler ışığında sol eğilim tartışması
Etiketler: yapay zekâ, otonom ajanlar, kontrol problemi, aracı yakınsama, yapay zekâ güvenliği, bilişsel ekosistem, algoritmik yönetişim, teknoloji politikası
