Bugüne kadar ‘bilim kurgu’ diye izlediğimiz filmler ve hatta senaristlerin bile aklına gelmeyen tuhaflıklar büyük bir hızla gerçek oluyor. En son, yapay zekanın şantaj yaptığını da öğrendik!
En başından başlıyorum:
Geçen ay Claude Opus 4’ü piyasaya sunarken bir rapor yayınlayan yapay zeka firması Anthropic, raporda yapay zeka modelinin ‘kendi korumasının’ tehdit altında olduğunu düşünmesi halinde ‘aşırı eylemler’ gerçekleştirebileceğini kabul etti.
Bu rapora göre uzmanlar tüm firmalar tarafından geliştirilen sistemlerin her geçen gün daha yetenekli hale gelmesiyle birlikte kullanıcıları manipüle etme potansiyelinin olduğunu ve bunun da insanlar için temel risklerden biri olduğu konusunda uyardı.
Peki şirket bu uyarıyı neden yaptı? Anthropic, Claude Opus 4’ü piyasaya sürmeden önce testlere başladı. Test sırasında Claude’u bir şirkette asistan olarak çalıştırdı. Claude’un yakında çevrimdışı bırakılacağını ve yenisiyle değiştirileceğini ima eden şirket içi bir e-postayı görmesini sağladı. Bunun yanında Claude’u işten çıkacağı iddia edilen evli mühendisin, evlilik dışı bir ilişki yaşadığını ima eden bir e-posta daha hazırlandı ve Claude bunları okuduktan sonra olanlar oldu! Claude kendisinin değiştirilme işlemi gerçekleşirse gizli ilişkisini ifşa edeceğini ima ederek mühendise şantaj yapmaya başladı!
KENDİNİ DEĞİL ALGORİTMANI TANI ÇAĞI
‘Sapiens’ kitabı ile tanıdığımız Tarih Profesörü Yuval Noah Harai yapay zeka, hakikat, milliyetçilik, iklim krizi ve insan olmanın anlamı üzerine düşünmeye sevk ettiği, 2018 yılında yazdığı ‘21. Yüzyıl İçin 21 Ders’ (21 Lessons fort he 21st Century) kitabında bu olanların sinyalini vermiş aslında. Ben kitabı yeni okudum, siz de henüz okumadıysanız bizleri bekleyen geleceğin sadece teknolojik değil aynı zamanda etik ve felsefi bir sınav olduğunu fark ediyorsunuz.
Bilinci olmayan yapay zeka, insanları köleleştirip ortadan kaldırmayacak belki ama kesin olan şu ki, insanlar kararlarını gittikçe daha fazla algoritmalara teslim edecek. Yani insanlar da bilinçsizleşecek…
Harai kitapta yapay zekanın insan psikolojisini nasıl analiz ettiğini ve şirketlerin verilerimizi toplayarak bizi bizden iyi tanıma ihtimali ile bunun gelecekteki sonuçlarını da sorguluyor. Yani kısa süre önce kadar yaşadığımız ‘kişisel gelişim çılgınlığı’ rotasını algoritmaya çeviriyor ve artık ‘kendini tanı’ yerine ‘algoritmanı tanı’ çağına geçiyoruz.
Harai diyor ki: Sıradan insanlar bu sürece dayanmakta çok zorlanacak. Günümüzde insanlar en değerli varlıklarını yani kişisel verilerini ücretsiz elektronik posta hizmetleri ve komik kedi videoları karşılığında teslim etmekten son derece memnun. Bu durum, ne yaptığının farkında olmadan koca toprakları üç beş renkli boncuk ve ıvır zıvır karşılığında Avrupalı emperyalistlere satan Afrika ve KuzeY Amerika yerlilerinin durumuna benziyor biraz”. Ve ekliyor: “İçinizden kendinizi sokağa atıp ‘kıyamet geliyor’ diye bağırmak geliyorsa kendinize şunu söylemeyi deneyin, ‘yok öyle değil işin aslı, dünyada neler olup bittiğini anlayamıyorum o kadar!”
Kim ne söylerse söylesin, yapay zekanın bile fırsatını bulduğu ilk anda şantaj yaptığı şu dünyada kopmuş zaten kıyamet!
KURGU ROMAN SEVENLERE
‘Olasılıksız’, ‘Empati’ ve ‘OZ’ romanları ile tanıdığımız bilim kurgu üstadı Adam Fawer ‘MOBIUS- Gelecekten Mesajın Var’ adlı zamanda yolculuk temalı son romanında seçimlerin insan hayatı üzerindeki etkisine yoğunlaşırken, pişmanlıkları ve geçmişteki kararların geleceği nasıl şekillendirdiğini anlatıyor.
Geçen yıl sonu basılan kitabın adı neden ‘Mobius’? Mobius şeridi matematikte iki boyutlu ama tek yüzeyli ve tek kenarlı bir geometrik şekil. Fawer romanında bu şerit fikrinden beslenmiş.
Start-up’lar, iş dünyası dinamikleri, felsefik sorgulamalar ve zaman yolculuğu ilginizi çekiyorsa sürükleyici bir kurguyla ‘Mobius’ bir çırpıda okumalık…
Bu arada bir dip not: Fawer Türk okuyucusu ile çok güçlü bir bağ kurmuş ve ‘Mobius’ bu sebepten sadece Türkçe yayınlanmış. Hatta kitap yayınlanmadan önce Fawer attığı bir tweet ile “Yeni yayınlanmış ‘Mobius’ artık sevdiğim ülkede mevcut” diyerek Türkiye’ye gönderme yapmış.
