Makineler Calisirken Insan Nasil Yasayacak 6 12

Bir kararın altında insanın imzasının bulunması, o karar üzerinde gerçekten söz sahibi olduğunu göstermez. Denetim; bilgiye, zamana, itiraz edebilme gücüne ve gerektiğinde süreci durdurabilecek yetkiye dayanmalıdır.

✍️ Roj Arslan-Gülçehre

Kararı Kim Verecek: İnsan mı, Algoritma mı?

Makineler Çalışırken İnsan Nasıl Yaşayacak?
Yapay Zekâ, Mülkiyet, Yönetim ve Ortak Gelecek
Altıncı Bölüm | 6/12

Ekranda Bir Öneri, Masada Bir İnsan

Bir düşünce örneğiyle başlayalım.

Bir işyerinde haftalık görev dağılımını yazılım hazırlıyor. Sistemin önerisi yöneticinin ekranına geliyor. Yönetici listeyi inceliyor ve onaylıyor.

Çalışanlardan biri, bakım sorumluluğu nedeniyle belirli saatlerde çalışamayacağını daha önce bildirmiş. Fakat listede yine o saatlere yerleştirilmiş.

Yöneticiye soruyor: “Bu karar neden böyle çıktı?”

“Sistem bu şekilde hazırladı” cevabını alıyor.

Oysa listenin altında bir insanın onayı var.

Burada kararın sahibi kim? Yazılımı kullanan yönetici mi, ölçütleri belirleyen kurum mu, sistemi geliştiren şirket mi?

Önceki bölümde üretimin sahipliğini ve kazancın paylaşımını tartıştık. Şimdi yetkiye bakalım: İnsan süreçte görünürken, karar gücü başka yerde toplanabilir mi?

Algoritma Yalnızca Robotun İçinde Değil

Algoritmik yönetim dediğimizde, mutlaka insan gibi konuşan bir yapay zekâ düşünmemeliyiz.

ILO bu kavramı; izlenen veriler ve başka bilgiler üzerinden işi düzenleyen, dağıtan, takip eden ve değerlendiren sistemlerle açıklıyor. Bunların bir bölümü yapay zekâ kullanırken, bir bölümü daha basit kurallara dayanabiliyor. ILO — İşyerinde algoritmik yönetim

Dolayısıyla mesele yalnız makinenin ne kadar gelişmiş olduğu değildir. Hangi kararın yazılıma bırakıldığı ve bu kararın insanları nasıl etkilediği de önemlidir.

Bir görev listesini hızla hazırlamak yararlı olabilir. Ancak aynı liste çalışma saatlerini, geliri veya değerlendirmeyi etkiliyorsa, yalnız hızına bakamayız.

Bir işlemi otomatikleştirmek, o işlemin sonuçları üzerindeki sorumluluğu ortadan kaldırmaz.

Hedefi Kim Belirliyor?

Bir sistemden “En verimli planı hazırla” diye istenebilir. Peki verimlilik hangi ölçüyle tanımlanmıştır?

En düşük maliyet mi? En fazla tamamlanan işlem mi? En kısa bekleme süresi mi? Çalışanların dinlenmesi ve hizmetin kalitesi de hesaba katılıyor mu?

Bu tercihler, teknik tasarımın içine yerleşen yönetim kararlarıdır.

Bir çalışanın daha yavaş görünmesinin nedeni, bir başkasına yardım etmesi olabilir. Bir hizmetin daha uzun sürmesi, o kişinin daha fazla açıklamaya ihtiyaç duymasından kaynaklanabilir. Ölçümde görünmeyen katkılar, gerçekte yok değildir.

Bu nedenle bir puanın nasıl hesaplandığını bilmek kadar, neden o puanın başarı ölçüsü seçildiğini de sormalıyız.

Algoritmanın önerisini tartışmak, bazen ondan önce belirlenmiş hedefi tartışmayı gerektirir.

İnsan Onayı Ne Zaman Gerçek Denetim Olur?

Bir insana kısa sürede çok sayıda karar onaylatılıyorsa, onun süreci gerçekten inceleyebildiğini varsayamayız.

Denetim için önce bilgi gerekir. Kişi, sistemin hangi amaçla kullanıldığını, hangi veriye dayandığını ve bilinen sınırlarını anlayabilmelidir.

Ardından zaman ve yetkinlik gerekir. Bir sonucu incelemek görev olarak veriliyorsa, bunu yapabilmenin koşulları da sağlanmalıdır.

Fakat bunlar da tek başına yetmez. Yanlış görülen sonucun değiştirilebilmesi, gerektiğinde sürecin durdurulabilmesi ve başka bir yolun işletilebilmesi gerekir.

NIST’in 2023 tarihli yapay zekâ risk yönetimi çerçevesi, insanlarla sistemlerin farklı rollerinin ve sorumluluklarının açıkça tanımlanmasını vurgular. İnsan ile yapay zekânın birlikte çalışmasının her durumda daha iyi sonuç vermediğini de belirtir. Bu, gönüllü bir risk yönetimi çerçevesidir; Türkiye’de uygulanmış bir hukuki güvence değildir. NIST — İnsan ve yapay zekâ etkileşimi

Sorumluluk yüklenen kişiye yetki ve imkân verilmemişse, insan denetimi bir görüntüye dönüşebilir.

İnsan da Yanılabilir

Buradan “Kararı insan verirse sorun kalmaz” sonucunu çıkarmamalıyız.

İnsanlar da eksik bilgiyle hareket edebilir, önyargılı davranabilir veya kurumun baskısı altında karar verebilir. Sistemin önerisini sırf ekranda düzenli ve sayısal göründüğü için sorgulamadan kabul edebilirler.

NIST’in aynı çerçevesi, bazı koşullarda insan ile yapay zekâ etkileşiminin önyargıları güçlendirebileceğine dikkat çeker. Bu nedenle yalnız insanın varlığına değil, nasıl bir denetim düzeni içinde çalıştığına bakmalıyız. NIST — İnsan ve yapay zekâ etkileşimi

Her küçük işlem için aynı inceleme düzeyi de gerekli değildir. Bir görüntü dosyasını küçültmekle, bir insanın çalışma koşullarını veya temel hizmete erişimini etkileyen kararı aynı değerlendiremeyiz.

Kararın ağırlığına, olası zararına ve geri çevrilebilirliğine uygun güvenceler kurmalıyız.

Açıklama, İtirazın Yerine Geçmez

Bir insan kendisi hakkında verilen kararın nedenini öğrenebilir. Fakat öğrendikten sonra hiçbir şey yapamıyorsa, açıklama sınırlı kalır.

Yanlış veri düzeltilebiliyor mu? Karar yeniden incelenebiliyor mu? İtirazı değerlendiren kişinin sonucu değiştirecek yetkisi var mı? İnceleme sonuçlanana kadar oluşabilecek zarar düşünülüyor mu?

Bir başvuru düğmesinin bulunması, işleyen bir itiraz yolu bulunduğunu tek başına göstermez.

Aynı şekilde, açıklama istemek her kullanıcının bütün yazılımı teknik ayrıntısıyla incelemesini beklemek değildir. İhtiyaç duyduğu şey, kendisini etkileyen kararı anlayıp sorgulayabileceği ve yanlışını düzelttirebileceği bir yoldur.

Bu yolun nasıl işleyeceği, kararın niteliğine göre ayrıca düzenlenmelidir.

Yönetici “Sistem Önerdi” Diyerek Çekilebilir mi?

OECD’nin 2025 tarihli, altı ülkede 6.000’den fazla işletmeyi kapsayan işveren araştırması, algoritmik yönetimin algılanan yararlarının yanında sorumluluğun belirsizliği ve sistemin mantığını izlemekte güçlük gibi kaygıları da ortaya koyuyor. Bunlar katılımcı yöneticilerin değerlendirmeleridir; bütün sistemlerin nesnel olarak aynı etkiyi yarattığını göstermez. OECD — İşyerinde algoritmik yönetim

Bir kurum, hangi sistemi nerede kullanacağını seçerken bazı sorumluluklar üstlenir. Sistemi geliştirenlerin, uygulayanların ve işletenlerin görevleri de açık olmalıdır.

Sorun çıktığında yalnız son onayı veren kişiyi işaret etmek yeterli olmaz. Hedefleri kimin koyduğu, eksiklikleri kimin bildiği ve düzeltme yetkisinin kimde olduğu da incelenmelidir.

Bu yazıda belirli bir olay için hukuki sorumluluk dağıtmıyoruz. Yönetim bakımından savunduğumuz ölçüyü söylüyoruz: Karar sürecindeki yetki ve sorumluluklar, sorun çıktıktan sonra kaybolmamalıdır.

Türkiye’de Soruyu Nereden Kuralım?

Bir işletme veya kamu kurumu, insanları etkileyen bir karar sürecinde yazılım kullanıyorsa, yurttaşın ve çalışanın karşısında başvurabileceği bir muhatap bulunmalıdır.

Uygulamanın amacı açıklanıyor mu? Kullanılan bilgiler güncel ve ilgili mi? Hata bildirmek mümkün mü? İncelemeyi yapacak kişiler yeterli bilgiye ve bağımsızlığa sahip mi? Dışarıdan alınan hizmetin koşulları denetimi sınırlıyor mu?

Bunlar belirli bir kurumun bugün böyle davrandığına ilişkin iddialar değildir. Türkiye’de de kurulmasını savunduğumuz hesap verebilirliğin sorularıdır.

DDP72’deki “Hiyerarşisiz Toplum mu, Denetlenebilir Yetki mi?” yazısında yetkinin hesap verme sorumluluğundan ayrılamayacağını tartışmıştık.

Yetkinin bir bölümü yazılımla kullanıldığında da o soru geçerlidir. Bir sürecin dijital olması, onu toplumsal tartışmanın dışına çıkarmaz.

Otomatik Pilotun Çizdiği Yol

WALL·E filmindeki Auto, geminin otomatik pilotudur. Pixar’ın karakter açıklamasında, gizli bir talimatı sonuçlarına rağmen uygulamaya kararlı olduğu anlatılır. Kaptanın yön belirleme çabası da bu işleyişle karşı karşıya gelir. Pixar — WALL·E

Film bir teknik kanıt değildir. Bizim için açtığı soru şudur: Bir sistemin izlediği amaç artık insanlara hizmet etmiyorsa, o amacı kim değiştirebilir?

Gerçek hayatta bütün sistemleri böyle bir çatışmaya benzetmek doğru olmaz. Ancak hedeflerin, yetkilerin ve itirazın neden önemli olduğunu düşünmemize yardımcı olabilir.

Karar Gücünü Görünür Kılmak

İnsanla algoritmayı iki bağımsız tarafmış gibi karşı karşıya koymak bazen asıl ilişkileri gizler. Sistemin arkasında onu geliştiren, satın alan, hedeflerini belirleyen ve kullanan insanlar ile kurumlar vardır.

Bu yüzden yalnız “Son düğmeye kim bastı?” diye sormayalım. Hangi kararın otomatikleştirileceğine, hangi ölçünün kullanılacağına ve hangi itirazın dinleneceğine kimin karar verdiğini de soralım.

Teknoloji bilgiye ulaşmayı ve bazı kararları değerlendirmeyi kolaylaştırabilir. Bu imkândan yararlanırken insanın sözünü sembolik bir onaya indirgemek zorunda değiliz.

İnsanı merkezde tutan yönetim, onun yalnız süreçte bulunmasını değil; anlayabilmesini, itiraz edebilmesini ve sonucu gerçekten etkileyebilmesini gerektirir.

Bir Sonraki Bölüm | 7/12

Devletler ve Şirketler: Teknolojik Güç Kimin Elinde?

Karar yetkisinin küresel altyapılarla ilişkisine bakacağız. Hesaplama, enerji, çip ve veri gücünün devletler, şirketler ve toplumlar arasında nasıl dağıldığını sorgulayacağız.

Yol bir, sürek binbir.

Àşk ile…

✍️ Roj Arslan-Gülçehre

Hazırlanma tarihi: Kasım 2026