Bir hedefe daha hızlı ulaşabilmek, ona saldırmanın doğru veya hukuka uygun olduğunu göstermez. Yaşamı etkileyen kararları değerlendirirken hızın yanında sınırları ve sorumluluğu da konuşmalıyız.
✍️ Roj Arslan-Gülçehre
Tetikte Kim Var? Savaşta Karar Makineye Bırakılır mı?
Makine Harekete Geçerken: Otonom Sistemler Çağında İnsan, Emek ve Güç
Dördüncü Ana Bölüm | 5/7
Ekrandaki İşaretin Ardında Bir Yaşam Var
Bir düşünce sahnesiyle başlayalım.
Bir ekranda hareket eden bir işaret beliriyor. Sistem onu belirli bir sınıfa yerleştiriyor. Sonraki adım, bu sınıflandırmanın bir saldırıyı başlatması olabilir.
Peki o işaret neyi temsil ediyor?
Bir araç mı? Bir insan mı? Yanlış yorumlanmış bir görüntü mü?
Çevresinde kimler bulunuyor? Birkaç saniye önce geçerli görünen değerlendirme hâlâ geçerli mi?
Bu soruların yanıtı, yalnız görüntünün ne kadar net olduğuyla bulunamaz. Durumun anlamını ve doğabilecek sonuçları da değerlendirmek gerekir.
Bir önceki bölümde insanı ağır ve tehlikeli işlerden uzaklaştırabilecek makineleri konuştuk. Şimdi aynı teknik gelişmenin en ağır sorumluluk alanlarından birine geliyoruz:
Hedef seçmek ve kuvvet uygulamak üzerindeki insan denetimi nasıl korunacak?
Her İnsansız Araç Otonom Silah Değildir
Önce kavramları ayıralım.
Bir hava aracının içinde pilot bulunmaması, saldırı kararını kendi başına verdiği anlamına gelmez. Araç uzaktan yönetilebilir; hedefi belirleyen ve ateşleme kararını veren bir insan bulunabilir.
Başka bir sistemde ise etkinleştirildikten sonra belirli özelliklere uyan hedefleri seçme ve bunlara kuvvet uygulama işlevleri makine tarafından yürütülebilir.
Uluslararası Kızılhaç Komitesi, otonom silahları bu kritik işlevler üzerinden tanımlar: Hedef seçme ve kuvvet uygulama. Yalnızca uçuşun veya yön bulmanın otomatik olması bu tanım için yeterli değildir. ICRC — Autonomous Weapon Systems: Frequently Asked Questions
Bu ayrım bir sistemi kendiliğinden kabul edilebilir yapmaz. Farklı uygulamaların farklı biçimde incelenmesini sağlar.
“İnsansız”, “uzaktan kumandalı”, “yapay zekâ kullanan” ve “otonom hedef seçen” ifadelerini birbirinin yerine kullanmamalıyız.
Geçmişteki Otomatik Tepkiden Bugünkü Tartışmaya
Silahlarda bazı işlevlerin otomatikleştirilmesi yeni değildir.
ICRC, yıllardır tartışılan örnekler arasında gelen mühimmatlara karşı kullanılan hava savunma ve araç koruma sistemlerini sayıyor. Bazı sistemler dar biçimde tanımlanmış hedef türlerine ve kullanım koşullarına göre çalışıyor. Bunların hepsi bugünkü makine öğrenmesi yöntemlerine dayanmak zorunda değil. ICRC — Position and Background Paper on Autonomous Weapon Systems
Burada önemli karşılaştırma şudur:
Gelen bir mühimmata karşı sınırlandırılmış tepkiyle, değişken bir yerleşim alanında insanları hedef profillerine göre seçmek aynı sorun değildir.
Kullanım alanı, süre ve hedef türü genişledikçe değerlendirilmesi gereken durumlar da çoğalır.
Daha önce bir alanda otomasyon kullanılmış olması, her alana genişletilmesini haklı çıkarmaz.
Bir Nesneyi Tanımakla Saldırıyı Değerlendirmek
Bir sistem görüntüdeki bir nesneyi belirli bir doğrulukla tanıyabilir.
Fakat teknik tanıma, saldırının bütün koşullarını açıklamaz.
Nesnenin o andaki durumu, çevresindeki siviller ve saldırıdan beklenen sonuç birlikte değerlendirilmelidir.
Uluslararası insancıl hukukta ayrım gözetme, saldırıda orantılılık ve uygulanabilir önlemleri alma yükümlülükleri bu nedenle önemlidir. Orantılılık, basitçe iki tarafın gücünü eşitlemek değildir; beklenen arızi sivil zararın, öngörülen somut ve doğrudan askerî avantaja kıyasla aşırı olup olmadığının değerlendirilmesiyle ilgilidir. ICRC — Autonomous Weapon Systems Under International Humanitarian Law
Dolayısıyla bir sistemin “doğru nesneyi bulması”, saldırının hukuka uygunluğunu tek başına kanıtlamaz.
Görüntüyü sınıflandırmakla yaşamı etkileyen bir kararı gerekçelendirmek farklı işlerdir.
Daha Az Hata Yapma Vaadi Nasıl Sınanmalı?
Otomasyon lehine ileri sürülebilecek bir düşünceyi ciddiye alalım.
İnsan yorulabilir, korkabilir veya öfkeyle hareket edebilir. Belirli bir teknik sistem bazı görevleri daha tutarlı yerine getirebilir.
Bu ihtimali baştan reddetmek yerine kanıt istemeliyiz.
Hangi görevde daha iyi sonuç alınıyor? Hangi koşullarda sınandı? Başarı yalnız hedefe isabetle mi ölçülüyor, siviller üzerindeki sonuçlar da değerlendiriliyor mu?
Ayrıca dar bir testteki başarıyla karmaşık bir çatışma ortamındaki davranış aynı tutulamaz.
Teknik iyileşme iddiası, doğrulanabilir bir karşılaştırma gerektirir. Etik soruların tamamını da tek başına ortadan kaldırmaz.
Bir şeyin daha hassas yapılabilmesi, yapılmasına ilişkin bütün kararların doğru olduğu anlamına gelmez.
İnsan Onayı Gerçekten Ne Kadar Etkili?
Bir sistem hedef öneriyor, insan da onaylıyor olsun.
Bu düzen ilk bakışta insan denetiminin korunduğunu düşündürebilir.
Ama onay veren kişinin neyi görebildiğine bakmalıyız.
Önerinin dayanağını inceleyebiliyor mu? Belirsizliği anlayabiliyor mu? Karşı çıkmak için zamanı ve yetkisi var mı?
Çok sayıda öneri çok kısa sürede geliyorsa, insanın rolü düşünülmüş karar vermekten çıkıp rutin onaya dönüşebilir.
Bu, her uygulamada mutlaka gerçekleşecek bir sonuç değildir. Tasarımda ve kullanımda sınanması gereken bir risktir.
Bir düğmeye insanın basması, o karar üzerinde anlamlı denetim bulunduğunu tek başına göstermez.
Denetim; bilgi, zaman, yetkinlik ve gerektiğinde durdurabilme imkânı ister.
Hız Her Zaman Güvenlik midir?
Bazı savunma görevlerinde kısa sürede tepki verebilmek önemli olabilir.
Ancak karşılıklı sistemlerin tepkileri hızlandığında değerlendirme ve gerilimi azaltma alanının daralması ihtimali de düşünülmelidir.
Bir sınıflandırma hatası başka bir sistem tarafından saldırı işareti olarak yorumlanırsa ne olur? İnsanlar durumu anlayana kadar hangi adımlar gerçekleşmiş olabilir?
ICRC, otonom silahların kuvvet kullanımını hızlandırmasının yanlış hesaplama ve çatışmanın tırmanması riskini artırabileceği konusunda uyarıyor. ICRC — What You Need to Know About Autonomous Weapons
Bu nedenle her hız artışını aynı ölçüde ilerleme sayamayız.
Bazı durumlarda güvenliği sağlayan şey daha hızlı tepki değil, yanlış bir adımı önleyecek duraksama imkânıdır.
İnsan Uzaklaşırken Savaşın Bedeli Kimde Kalıyor?
Bir askerin tehlikeli alandan uzaklaştırılması, onun yaşamını koruyabilir. Bu önemlidir.
Fakat değerlendirmeyi yalnız sistemi kullanan tarafın güvenliğiyle sınırlayamayız.
Aynı alanda yaşayan sivillerin güvenliği ne oluyor? Günlük hayatları, hareket özgürlükleri ve temel hizmetlere erişimleri nasıl etkileniyor?
Bir tarafta riskin azalması, toplam insani zararın azaldığını kendiliğinden göstermez.
Burada ahlaki bir ölçü öneriyorum:
Teknolojinin başarısını yalnız onu kullananların korunmasıyla değil, etkilediği insanların yaşamıyla birlikte değerlendirmeliyiz.
Siviller, bir sistemin eksiklerini yaşayarak ortaya çıkarmak zorunda bırakılacak görünmez denekler değildir.
“Makine Yaptı” Sorumluluğu Ortadan Kaldırmaz
Bir hukuka aykırılık yaşandığında sorumluluğu makinenin üzerine bırakamayız.
Hukuki yükümlülükler bir yazılıma devredilmez. Somut sorumluluğun belirlenmesi ise olayın koşullarını ve ilgili kişilerin rollerini incelemeyi gerektirir. Sistemi geliştiren, kullanıma sunan ve kullanan herkesin aynı biçimde otomatik olarak sorumlu olduğunu da varsayamayız. ICRC — Autonomous Weapon Systems Under International Humanitarian Law
Bu nedenle kararların ve kullanım koşullarının incelenebilir olması önemlidir.
Kim hangi bilgiyle karar verdi? Hangi sınırlar kondu? Bilinen bir sorun var mıydı? Olaydan sonra ne düzeltildi?
Karmaşık bir işleyiş, kimsenin yanıt vermediği bir sorumluluk boşluğuna dönüşmemelidir.
Etkilenen insanların adalet talebi de teknik tartışmanın dışında bırakılamaz.
Yasak Olanla Yasaklanması İsteneni Ayırmak
Bu konuda hukuki durumu anlatırken dikkatli olmalıyız.
Mevcut uluslararası insancıl hukuk otonom silahlara da uygulanır. Bunun yanında yeni ve bağlayıcı sınırlar getirilmesine ilişkin çağrılar bulunmaktadır.
ICRC, etkileri yeterince öngörülemeyen otonom silahların ve insanlara kuvvet uygulamak üzere tasarlanan veya kullanılan otonom silahların yasaklanmasını; diğerleri için de sıkı sınırlar oluşturulmasını savunuyor. Bu, kurumun düzenleme önerisidir; önerinin tamamını zaten yürürlükte olan evrensel bir yasak gibi sunmamalıyız. ICRC — Position on Autonomous Weapon Systems
Bu ayrım tartışmayı zayıflatmaz. Neyi bildiğimizi ve neyi savunduğumuzu açık tutar.
Bir sınırı gerekli görmekle o sınırın hâlihazırda bağlayıcı olduğunu söylemek farklı iddialardır.
Bilgi Gücü Kuvvet Kullanımıyla Birleştiğinde
Önceki dizide bilginin kimde toplandığını sorgulamıştık.
Şimdi bilgi, hedef değerlendirmesi ve fiziksel kuvvet aynı süreçte birleşebiliyor.
Bu durumda veriyi seçen, değerlendirme ölçülerini belirleyen ve sistemi kullanıma sunan kişilerin tercihleri daha da önem kazanır.
Bir önerinin ekranda sayısal görünmesi, onun arkasındaki insan tercihlerini ortadan kaldırmaz.
Hangi veri eksik? Hangi varsayım kullanıldı? Belirsizlik nasıl gösteriliyor?
Bunları sormak yalnız teknik bir inceleme değildir. Gücün nasıl kullanıldığını sorgulamaktır.
Bilgiye sahip olmak güç sağlıyorsa, bilgiyi kuvvete dönüştüren süreçlerin daha güçlü denetime ihtiyacı vardır.
Geleceği Beklemeden Sınır Konuşmak
Bu meseleyi yalnız gelecekteki çok gelişmiş makineler üzerinden tartışırsak bugünkü sorumluluğu erteleyebiliriz.
Şimdiden sorabileceğimiz sorular var.
Kullanım sınırları anlaşılır mı? Bağımsız değerlendirme mümkün mü? İnsan müdahalesi etkili mi? Sivillerin deneyimleri ve zarar kayıtları ciddiye alınıyor mu?
Gelecekte daha gelişmiş algılama imkânları ortaya çıkabilir. Ama teknik gelişmenin hangi kararlara hizmet edeceği yine tartışılmalıdır.
Bana göre insanlara yönelik ölümcül kuvvet kullanımında insan muhakemesinin dışlanmasına karşı açık bir sınır savunmalıyız.
Yaşamın değeri, sistemin onu ne kadar başarılı sınıflandırdığına indirgenemez.
Tetikteki Sorudan Daha Geniş Bir Sorumluluk
Tetikte kim var?
Bazen doğrudan karar veren bir insan, bazen hedef seçme işlevini üstlenen bir sistem bulunabilir.
Fakat sorumuz yalnız son ana sıkışmamalı.
O sistemi hangi amaçla geliştirdiğimiz, hangi koşullarda kullanıma sunduğumuz ve sonucunu nasıl denetlediğimiz de önemlidir.
İnsanın hata yapabildiğini kabul etmek, sorumluluğu makineye bırakmak için yeterli gerekçe değildir. İnsan kararını daha dikkatli, sınırlı ve hesap verebilir kılmak için çalışabiliriz.
Teknolojik gücün büyümesi, insan yaşamı karşısındaki yükümlülüğümüzü azaltmamalı; onu daha açık biçimde üstlenmemizi gerektirmelidir.
Bir sonraki bölümde kontrolün ekonomik ve kurumsal tarafına bakacağız:
“Hareket Eden Güç Kimin Elinde?”
Makineyi satın alan mı, yazılımı ve veriyi yöneten mi gerçek kontrol sahibi olacak? Yeni bağımlılıklar karşısında ortak karar hakkını nasıl koruyacağız?
Yol bir, sürek binbir.
Àşk ile…
✍️ Roj Arslan-Gülçehre
08.11.2026
-
Sabit Koldan Hareketli Robota: Bu Yol Nerede Başladı?
Sabit robot kolundan hareketli robota uzanan yol nasıl başladı? Unimate, Shakey ve Mars gezginleri üzerinden otomasyonun gelişimini inceliyoruz. Hareket etmekle yolunu bulmak arasındaki farkı; insan emeği, görev paylaşımı ve karar sorumluluğuyla birlikte değerlendiriyoruz.
-
Tarladan Şantiyeye: Makine Çalışırken İnsan Ne Yapacak?
Otonom iş makineleri tarlada, taş ocağında ve şantiyede emeği nasıl değiştiriyor? Bugünkü uygulamaları tanıtım vaatlerinden ayırarak operatörün deneyimini, iş kaybı ihtimalini ve küçük üreticinin erişimini ele alıyoruz. Kazanılan zamanın ve üretilen değerin nasıl paylaşılacağını sorguluyoruz.
-
Makineye Hareket Verdik; Geleceğe Yönü Kim Verecek?
Makine Harekete Geçerken dizisinin kapanışında açılışı ve beş ana bölümü birlikte değerlendiriyoruz. Robotların tarihinden otonom araçlara, emekten savaşta insan denetimine uzanan tartışmayı toparlıyor; güvenlik, hesap verebilirlik ve ortak karar hakkı için çıkarımlarımızı paylaşıyoruz.
-
Makine Harekete Geçerken İnsan Nerede Duruyor?
Makineler çevrelerini algılayıp hareketlerini düzenlerken insanın yeri nasıl değişiyor? Yedi yazılık dizinin açılışında hareketli robotların geçmişini, otonominin sınırlarını ve bugünkü uygulamaları ele alıyoruz. Emek, güvenlik, kontrol ve ortak gelecek üzerine sorularımızı ortaya koyuyoruz.
-
Hareket Eden Güç Kimin Elinde?
Bir makineyi satın almak, onun üzerinde tam kontrol sağlıyor mu? Dizinin bu bölümünde donanım mülkiyetiyle yazılım, veri ve bakım yetkilerini ayırıyoruz. Küçük üreticinin seçeneklerini, ortak kullanım modellerini ve kamusal sorumluluğu ele alarak hareket eden gücün kimde toplandığını sorguluyoruz.
-
Direksiyonda Kim Var? Otonomi Ne Kadar Bağımsız?
Direksiyonda insan görünmediğinde araç gerçekten ne kadar bağımsızdır? Sürücü desteği, otonom çalışma ve uzaktan yardım arasındaki farkları ele alıyoruz. Otomobillerden hava araçlarına uzanan örneklerle görev devrini, güveni ve ortak alanlarda insanın söz hakkını sorguluyoruz.
