Bilgi El Degistirirken 10 12

İnsanın değerini yalnız yapabildiği işlerle tanımlarsak, her yeni makineyle kendimizi yeniden kanıtlamak zorunda kalırız. Oysa insan olmak, başarıların toplamından daha geniş bir yaşamı taşır.

✍️ Roj Arslan-Gülçehre

Düşünen Makineler Karşısında İnsanı Nasıl Tanımlayacağız?

Bilgi El Değiştirirken: Yapay Zekâ Çağında İnsan, Meslek ve Saygınlık
Dokuzuncu Ana Bölüm | 10/12

Makine Yanıt Verdiğinde Bizim Sorularımız Başlıyor

Bir yapay zekâ sistemi sorumuzu yanıtlıyor. Bir metni yorumluyor, bir öneri geliştiriyor veya karmaşık bir problemi adımlara ayırıyor.

Bazen karşımızdaki açıklamaya şaşırıyoruz:

“Bunu da mı yapabiliyor?”

Ardından başka bir soru geliyor:

“Öyleyse insanı farklı kılan ne?”

Bu soru yalnız teknolojiyle ilgili değildir. Kendimizi bugüne kadar nasıl tanımladığımızı da açığa çıkarır.

İnsanı çok bilen, hızlı hesaplayan ve etkili üreten bir varlık olarak görüyorsak bu alanlardaki gelişmeler bizi sarsabilir.

Fakat insanın bütün yaşamı bu ölçülere sığar mı?

Bir önceki bölümde meslek değişirken insanın saygınlığının ne olacağını sorguladık. Şimdi daha temel bir soruya bakalım:

Makinelerin yapabildikleri genişlerken insanı hangi ölçülerle anlayacağız?

“Düşünen Makine” Sözü Neyi Anlatıyor?

Başlıkta kullandığımız “düşünen makineler” ifadesini açıklığa kavuşturalım.

Gündelik dilde bir sistem problem çözdüğünde, çıkarım yaptığında veya seçenekler geliştirdiğinde onun düşündüğünü söyleyebiliyoruz.

Ancak bir görevi başarıyla yerine getirmek, bilinçli bir deneyime sahip olmak ve sorumluluk üstlenmek aynı iddia değildir.

Bir sistemin ne yapabildiğini araştırabiliriz. Hangi koşullarda başarılı olduğunu ve nerede hata yaptığını değerlendirebiliriz.

Bilinç konusu ise farklı sorular içerir: Bir şeyi yaşamak nasıl anlaşılır? Dışarıdan gözlenen davranıştan öznel deneyime ilişkin hangi sonuçlar çıkarılabilir?

Bu soruları tek bir etkileyici konuşmayla çözmüş olmayız.

Başarıyı, bilinci ve ahlaki sorumluluğu birbirinin yerine kullanmadan konuşmak gerekir.

Bilinç Üzerine Bildiklerimiz ve Açık Sorular

Yapay zekâda bilinç tartışmasını kesin hükümlerle kapatmak kolaydır.

Bir uçta “Güzel konuşuyorsa mutlaka hissediyordur” düşüncesi bulunur. Diğer uçta gelecekte ne olursa olsun araştırmaya gerek olmadığını varsayan bir kesinlik yer alabilir.

Daha dikkatli bir yaklaşım, hangi kanıtın hangi iddiayı desteklediğini sormaktır.

Butlin ve çalışma arkadaşlarının 2023 tarihli araştırma raporu, bilinç kuramlarından hareketle yapay zekâ sistemlerinde incelenebilecek göstergeler önerir. Çalışma, bilinç değerlendirmesini yalnız sistemin kendisi hakkında söylediklerine dayandırmayan bir araştırma yolu geliştirir. Bu, tartışmanın tamamlandığını gösteren bir hüküm değildir. Butlin ve arkadaşları — Consciousness in Artificial Intelligence

Burada tutabileceğimiz ölçü şudur:

Bir sistemin “Hissediyorum” diyebilmesi, tek başına hissettiğinin kanıtı olarak alınamaz.

Aynı şekilde teknik kapasite hakkında konuşurken bilimsel belirsizliği kendi inançlarımızla doldurmamaya da dikkat etmeliyiz.

İnsanı Sürekli Bir Üstünlük Alanında mı Arayacağız?

İnsanı tanımlamak için sürekli makinelerin yapamadığı bir şey ararsak hareketli bir sınırın peşine düşebiliriz.

“Şunu yapamaz” dediğimiz bir görev, yeni bir gelişmeyle yapılabilir hâle gelebilir.

Böylece insanın değerini savunmak için her defasında başka bir alan bulmamız gerekir.

Bana göre bu, başlangıçta yeniden düşünmemiz gereken bir ölçüdür.

Bir hesap makinesinin bizden hızlı hesap yapması, saygı görme hakkımızı azaltmaz. Benzer biçimde başka görevlerdeki teknolojik başarı da insanın onurunu bir yarış sonucuna dönüştürmemelidir.

Üstelik insanların yetenekleri birbirinden farklıdır. Herkes aynı hızda öğrenmez, aynı biçimde konuşmaz veya aynı düzeyde bağımsız hareket edemez.

İnsan onurunu belirli bir başarı eşiğine bağlamak, yalnız makineyle ilişkimizi değil, birbirimize bakışımızı da daraltır.

İnsan Bir Yaşamın İçinde Bulunur

Bir insanı tanımak, onun verdiği doğru yanıtları saymaktan fazlasını gerektirir.

Bir bedeni, geçmişi, ilişkileri ve ihtiyaçları vardır. Yaş alır, yorulur, öğrenir ve kayıplarla karşılaşır.

Bir söz onun hayatında yıllarca yer edebilir. Bir karar yalnız bugünkü işini değil, ailesiyle ve çevresiyle kurduğu ilişkiyi de etkileyebilir.

Bu deneyimler herkeste aynı değildir. İnsanlığı tek bir hayat biçimine indirgememeliyiz.

Ama kendimizi anlamaya çalışırken yaşamın bu boyutlarını dışarıda bırakamayız.

Bir insanın “Bunu biliyorum” demesinin arkasında bazen yıllarca süren bir çalışma, bazen bir karşılaşma, bazen de değiştirdiği bir düşünce bulunur.

İnsanı anlamak için ortaya koyduğu sonuç kadar, yaşadığı koşulları ve kurduğu ilişkileri de görmemiz gerekir.

Yakınlık Duygusu ile Karşılıklı Sorumluluk

Bir sistemin sabırla yanıt vermesi, bizi yargılamadan dinliyor gibi görünmesi veya düşüncemizi düzenlememize yardımcı olması değerli gelebilir.

Bu karşılaşmanın insanda oluşturduğu rahatlama küçümsenmemelidir.

Ancak hissettiğimiz yakınlıkla karşılıklı bir insan ilişkisinin bütün sorumluluklarını aynı saymamalıyız.

Bir dostlukta iki insanın da ihtiyaçları, sınırları ve birbirine karşı yükümlülükleri bulunur. Bir toplulukta verilen sözün ardından birlikte iş yapmak ve sonuçlarına katılmak gerekir.

Dijital bir destek bu ilişkilerin bazı taraflarına yardımcı olabilir. İnsanlarla bağ kurmak için hazırlık yapmamızı da sağlayabilir.

Yine de kendimize şu soruyu sormalıyız:

Bu araç, hayatımdaki ilişkileri geliştirmeme mi yardımcı oluyor; yoksa onlardan uzaklaşmamı kolaylaştıran tek yere mi dönüşüyor?

Bu soru teknolojiye düşmanlık için değil, kendi yaşamımızı dikkatle değerlendirmek için önemlidir.

İyi Bir Öneri, Kararın Sorumluluğunu Taşır mı?

Bir sistem ortak kaynakların kullanımı için seçenekler hazırlayabilir.

Hesapları karşılaştırabilir, farklı sonuçları açıklayabilir ve gözden kaçan bir noktayı görünür kılabilir.

Bunlar karar vermeye katkı sunabilir.

Fakat hangi ihtiyacın öncelikli sayılacağı, kimin ne kadar yük üstleneceği ve bir hata olduğunda nasıl düzeltileceği birlikte değerlendirilmelidir.

UNESCO’nun yapay zekâ etiğine ilişkin tavsiyesi, insan denetimini ve nihai insan sorumluluğunun korunmasını temel ölçüler arasında tutar. UNESCO — Recommendation on the Ethics of Artificial Intelligence

Bu, her bir sonucu yalnız kullanıcının omzuna yüklemek anlamına gelmez. Sistemi geliştirenlerin, uygulamaya koyan kurumların ve karar alanların sorumlulukları da açık olmalıdır.

“Sistem önerdi” cümlesi, kararı kimin aldığı ve sonucunu kimin değerlendireceği sorularını ortadan kaldırmaz.

Bilgi Gücü El Değiştirirse İnsan Sessizleşmek Zorunda mı?

Dizimizin başından beri aynı sorunun çevresinde dolaşıyoruz:

Bilgi kimdeyse güç de onun elinde mi olur?

Bu ilişkiyi bir düşünce örneği üzerinden yeniden ele alalım.

Bir toplulukta hesabı yalnız bir kişi açıklayabiliyorsa diğerleri onun yorumuna ihtiyaç duyar. Daha fazla insan hesabı anlamaya başladığında bu ilişki değişebilir.

Şimdi açıklamayı gelişmiş bir sisteme devrettiğimizi düşünelim.

İnsanlar daha çok şeyi anlayabilir. Ancak sisteme soru sorma, yanıtı inceleme ve sonuca itiraz etme imkânı yoksa karar gücü yine dar bir yerde kalabilir.

Bu nedenle insanın geleceğini yalnız ne kadar bilgiye sahip olduğuyla düşünemeyiz.

Bilgiyi değerlendirebilmesi ve yaşamını etkileyen kararlara katılabilmesi de belirleyicidir.

İnsan daha az şeyi ezberliyor olsa bile daha iyi sorular sorabilir. Bunun gerçekleşmesi için uygun eğitim, erişim ve katılım koşulları gerekir.

İnsanlığı Bir Listeye Sığdırabilir miyiz?

İnsanı tanımlarken sevgi, yaratıcılık, vicdan veya dayanışma gibi kavramlara başvurabiliriz.

Bunlar önemli tartışma alanlarıdır. Fakat her birini insan olmak için yerine getirilmesi gereken bir sınava çevirmemeliyiz.

İnsan bazen ilişki kurmakta zorlanır. Bazen üretmeye gücü yetmez. Bazen kendisini anlatamaz.

Böyle zamanlarda insanlığı ve onuru eksilmez.

Sorumluluk alma kapasitemiz de yaşa, koşullara ve içinde bulunduğumuz duruma göre farklılaşabilir. Bu farklılıklar, bakım ve desteğe olan ihtiyacımızı artırabilir.

Dolayısıyla insanı anlamakla insana değer biçmeyi birbirinden ayırmalıyız.

İnsan hakkında daha çok şey öğrenebiliriz; saygısını kazanması için önüne sürekli yeni koşullar koymamalıyız.

Ne Olacağını Beklerken Ne Yapacağız?

Yapay zekânın gelecekte hangi kapasitelere ulaşacağını bütün ayrıntılarıyla bilmiyoruz.

Ama bugünkü tercihlerimizi, bütün bilimsel ve felsefi soruların çözülmesine kadar erteleyemeyiz.

Sistemlerin insanların haklarına, öğrenmesine, çalışmasına ve ortak yaşama etkisini değerlendirebiliriz.

Bir uygulamanın insanı daha bağımsız mı kıldığını, yoksa açıklayamadığı bir karara daha bağımlı mı hâle getirdiğini sorabiliriz.

Hata karşısında kimin yanıt vereceğini ve düzeltmenin nasıl yapılacağını belirleyebiliriz.

Bilinç tartışması devam ederken de bunlar yapılabilir.

Belirsizlik, sorumluluktan vazgeçme gerekçesi olmamalıdır. Daha dikkatli karar vermenin nedeni olabilir.

İnsanı Birlikte Yaşarken Yeniden Düşünmek

Düşünen makineler karşısında insanı nasıl tanımlayacağız?

Bana göre insanı yalnız bilgi, hız ve üretim kapasitesi üzerinden tanımlayan dar çerçeveyi genişletmeliyiz.

Yaşam deneyimini, bedensel ve toplumsal ihtiyaçları, ilişkileri ve ortak karar sorumluluğunu da düşünmeliyiz.

Bunu insanın her zaman doğru davrandığını iddia ederek yapamayız. İnsan zarar verebilir, gücünü kötüye kullanabilir ve kendi hatasını görmekten kaçabilir.

Bu yüzden insanı merkeze almak, insanın kararlarını denetimsiz bırakmak anlamına gelmemelidir.

Kendi yanılgımızı kabul edebildiğimiz, başkasının sözünü duyabildiğimiz ve ortak kurallarla gücü sınırlayabildiğimiz ölçüde daha adil bir yaşam kurabiliriz.

Gelecekte insan kalmak, her alanda üstün olduğumuzu kanıtlamaktan çok, birbirimizin yaşamını nasıl gözettiğimizle ilgili bir sorumluluk olabilir.

Bir sonraki bölümde bu düşünceleri ortak bir gelecek sorusuna taşıyacağız:

“Yapay Zekâyla Nasıl Bir Ortak Gelecek Kuracağız?”

Eğitimde, işte ve toplumsal yaşamda hangi ilkeleri birlikte savunabiliriz? Teknolojik imkânları insanın özgürlüğünü ve eşitliğini güçlendirecek biçimde nasıl kullanabiliriz?

Yol bir, sürek binbir.

Àşk ile…

✍️ Roj Arslan-Gülçehre
01.11.2026