Makine Harekete Gecerken 3 7

Direksiyonda bir insanın görünmemesi, sistemin insandan bağımsız olduğu anlamına gelmez. Asıl soru, hangi kararın nerede verildiği ve sınırına ulaşıldığında sorumluluğun nasıl sürdüğüdür.

✍️ Roj Arslan-Gülçehre

Direksiyonda Kim Var? Otonomi Ne Kadar Bağımsız?

Makine Harekete Geçerken: Otonom Sistemler Çağında İnsan, Emek ve Güç
İkinci Ana Bölüm | 3/7

Araç İlerliyor; Peki Kim Sürüyor?

Bir düşünce sahnesiyle başlayalım.

Bir otomobil yolda ilerliyor. Hızını ayarlıyor, şeritte kalıyor ve önündeki araçla arasındaki mesafeyi koruyor.

İçeride oturan kişi direksiyona sürekli müdahale etmiyor.

Dışarıdan baktığımızda şöyle diyebiliriz:

“Araba kendi kendine gidiyor.”

Ama bu cümle bize yeterli bilgi veriyor mu?

İçerideki insanın yolu sürekli izlemesi gerekiyor olabilir. Başka bir sistem yalnız belirli koşullarda sürüşü üstlenebilir. Bir diğerinde ise tanımlanmış bir hizmet alanında yolcu sürüş görevine katılmaz.

Görüntü birbirine benzeyebilir. Görev paylaşımı farklıdır.

Otonomiyi anlamak için yalnız aracın hareketine değil, insandan ne beklendiğine de bakmalıyız.

Bir önceki bölümde sabit kollardan hareketli robotlara uzanan tarihi inceledik. Şimdi hareketin içindeki yetki paylaşımını sorgulayalım.

Yardım Etmekle Görevi Üstlenmek Arasındaki Fark

Sürücüye yardımcı olan sistemler önemli işler yapabilir.

Fakat yardımın gelişmiş olması, sürücünün gözetim sorumluluğunun ortadan kalktığını göstermez.

NHTSA’nın açıkladığı sınıflandırmada, ikinci düzey sürüş desteğinde sistem hem yönlendirmeye hem hız kontrolüne katkı sunabilir; insan ise sürüşü sürekli izlemeye devam eder. Üçüncü düzeyde sistem belirli koşullarda sürüş görevini yürütürken insanın istek üzerine görevi devralmaya hazır olması beklenir. Dördüncü düzeyde ise sistem, tanımlanmış çalışma koşulları içinde sürüş görevini insan sürücüye dayanmadan yerine getirir. NHTSA — Automated Vehicle Safety

Bunlar teknik görev paylaşımını açıklayan ayrımlardır. Tek başlarına her ülkedeki hukuki sorumluluğun yanıtı değildir.

Yine de temel sorumuzu berraklaştırırlar:

Sistem sürücüye yardım mı ediyor, yoksa tanımlanmış koşullarda sürüş görevini mi üstleniyor?

Bu fark anlaşılmadığında insan araca, aracın karşılayamayacağı bir güven yükleyebilir.

“Nerede Çalışıyor?” Sorusu Neden Önemli?

Bir sistem belirli yollarda, hızlarda veya hava koşullarında çalışmak üzere tasarlanmış olabilir.

Bu koşullar onun çalışma alanını tanımlar.

Bir şehirde belirlenen bölgede hizmet verebilmekle her köy yolunda, her hava durumunda ve her yol düzeninde ilerleyebilmek aynı kapasite değildir.

Bu sınırı bir eksiklik ilanı olarak görmemeliyiz. Sınırın açıkça bilinmesi, güvenilir kullanımın parçasıdır.

Sorun, sınırlı bir yeteneğin sınırsızmış gibi anlaşılmasıdır.

Dolayısıyla “Bu araç otonom mu?” sorusunun yanına şunu eklemeliyiz:

“Hangi görevde ve hangi koşullarda?”

Bu soru otomobil için olduğu kadar depo robotu, tarım makinesi ve hava aracı için de önemlidir.

Sistem Sınırına Geldiğinde Ne Olacak?

Bir sistemi yalnız iyi çalıştığı koşullarla değerlendiremeyiz.

Yol kapanabilir. Görüş azalabilir. Algılayıcıdan beklenen veri gelmeyebilir. Sistem önündeki durumu yeterince değerlendiremeyebilir.

Böyle bir durumda ne olacağı, tasarımın temel parçasıdır.

İnsana görev devri mi yapılacak? Araç riski azaltacak bir duruma mı geçecek? Yerinde yardım mı gerekecek?

Her sistem için aynı yanıt geçerli değildir.

Burada “Gerekirse durur” cümlesiyle de yetinemeyiz. Durmanın nasıl gerçekleştiği, bulunulan yer ve çevredeki insanlar önemlidir.

Güvenilirlik, yalnız ilerleyebilmekte değil, devam edemediğinde uygun davranabilmekte de aranmalıdır.

İnsanın Devralması Bir Düğme Hareketinden Fazlasıdır

Bir süre boyunca sistemin yönettiği yolculukta insanın aniden görevi üstlenmesini düşünelim.

Yalnız direksiyona dokunması yetmez.

Nerede olduğunu, aracın neden zorlandığını ve çevresinde neler yaşandığını anlaması gerekir.

Bu nedenle görev devrini değerlendirirken zaman, uyarının açıklığı ve insanın hazır bulunma koşulları birlikte düşünülmelidir.

Kâğıt üzerinde “İnsan devralır” demekle uygulanabilir bir devir düzeni kurmak aynı şey değildir.

Bu konuda sorumluluğu yalnız kullanıcıya yüklemek de yeterli olmaz. Aracın tasarımı, verilen eğitim ve kullanımın nasıl anlatıldığı önemlidir.

İnsandan beklenen müdahale, gerçekten yerine getirilebilir olmalıdır.

Uzaktan Yönetim ile Uzaktan Yardım

Bir araçta sürücü görünmediğinde aklımıza başka bir soru gelebilir:

“Onu uzakta oturan biri mi kullanıyor?”

Bazı sistemlerde uzaktan sürüş bulunabilir. Başka sistemlerde ise uzaktaki ekip, belirli durumları anlamaya yardımcı olur; aracın sürüşünü doğrudan yürütmez.

Bu ayrımı her uygulama için ayrıca araştırmak gerekir.

Örneğin Waymo, kendi uzaktan yardım düzenini açıklarken ekibin gerektiğinde bilgi ve tavsiye sunduğunu, araçları uzaktan sürmediğini belirtiyor. Bu, şirketin kendi sistemine ilişkin açıklamasıdır; bütün sürücüsüz hizmetler için genellenemez. Waymo — The Role of Remote Assistance

Buradan çıkarabileceğimiz sonuç şudur:

Araçta insan bulunmamasıyla, işleyişte insan katkısının bulunmaması ayrı şeylerdir.

Görünmeyen desteğin niteliğini bilmek, sistemin gerçek kapasitesini anlamamıza yardımcı olur.

Gökyüzünde de Aynı Ayrımlara İhtiyacımız Var

Uçaklar ve insansız hava araçları konuşulurken de benzer bir karışıklık yaşanabilir.

Otomatik uçuş işlevlerinin bulunması, bütün uçuşun her koşulda insan sorumluluğu olmadan yürütüldüğünü göstermez.

EASA, otomatik ve otonom drone arasındaki farkı açıklarken pilotun müdahale edebilmesini temel ayrımlardan biri olarak ele alır. Otomatik bir uçuşta önceden belirlenmiş rota izlenebilirken pilot müdahale edebilir; otonom uçuş kavramı ise pilot müdahalesi olmadan güvenli uçuş yürütme kapasitesiyle açıklanır. EASA — Autonomous and Automatic Drones

Burada da tek bir özelliği bütün araca yaymamalıyız.

Rotayı izlemek, engeli değerlendirmek ve beklenmedik bir durumda görevin devamına karar vermek farklı işlevlerdir.

Bir işlevin otomatik olması, bütün görevin bağımsız yürütüldüğünü kanıtlamaz.

İnsan Kontrolü Nerede Bulunuyor?

Kontrolü yalnız makinenin yanında duran kişide ararsak önemli kararları kaçırabiliriz.

Aracın hangi bölgede çalışacağını belirlemek de bir karardır. Hız sınırını ve görev türünü tanımlamak da. Yazılımı değiştirmek veya hizmeti durdurmak da kontrolün parçalarıdır.

Bu kararlar farklı kişiler ve kurumlar arasında dağılabilir.

Bir operatör yalnız belirlenmiş görevi başlatabilir. Başka bir ekip sistemin sınırlarını belirleyebilir. Hizmeti kullanan kişi ise bu sınırlar üzerinde çok az söz sahibi olabilir.

Dolayısıyla iki ayrı soruyu birlikte sormalıyız:

Makine neyi kendi başına yapabiliyor? İnsanlar sistem üzerinde ne kadar söz sahibi?

Makinenin görev içindeki bağımsızlığı artarken, kullanıcının hizmet sağlayıcıya bağımlılığı da artabilir.

Güveni Nasıl Değerlendireceğiz?

Bir aracın başarılı yolculuğunu izlemek etkileyicidir.

Fakat güvenilirlik hakkında karar vermek için tek bir yolculuktan fazlası gerekir.

Hangi koşullarda denendiğini, ne kadar kullanıldığını, hangi sorunlarla karşılaştığını ve bunların nasıl giderildiğini bilmek isteriz.

Kazaları veya olayları karşılaştırırken de kullanım miktarını ve ortam farklarını hesaba katmalıyız.

Az olay görülmesi, tek başına daha güvenli sistem demek olmayabilir. Daha az kullanım veya daha sınırlı koşullar da sonucu etkileyebilir.

Tersine, tek bir görüntü de bütün sistemin başarısızlığını açıklamaya yetmeyebilir.

Güven, tanıtımla ya da tek bir olayla değil; koşulları açıklanan veriler ve düzenli incelemeyle değerlendirilmelidir.

Sokak Yalnız Yolcuların Alanı Değildir

Otonom bir araçtan yararlanan kişi yolculuğunu seçebilir.

Ama aynı sokaktaki yaya, bisikletli veya çocuk o hizmeti seçmiş olmayabilir.

Yine de aracın davranışından etkilenir.

Bu nedenle değerlendirmeyi yalnız yolcunun deneyimine indiremeyiz.

Araç farklı hareket hızlarını ve erişim ihtiyaçlarını hesaba katabiliyor mu? Beklenmedik bir duruş başkalarını nasıl etkiliyor? Hizmetin koşulları hakkında halk nasıl bilgi alıyor?

Ortak alanı kullanmak, ortak sorumluluk doğurur.

Teknolojiyle karşılaşan herkes müşteri değildir. Bazıları, yaşadığı sokakta onunla birlikte bulunmak zorunda olan insanlardır.

Onların deneyimi de değerlendirmeye katılmalıdır.

Bir Hata Olduğunda Sorumluluğu Kaybetmemek

Bir sorun yaşandığında “Aracı kim sürüyordu?” sorusu önemlidir. Ama tek başına yeterli olmayabilir.

Tasarım, yazılım, bakım, işletme ve kullanım kararları birlikte incelenmek zorunda kalabilir.

Somut olayın hukuki sorumluluğu, ilgili kurallara ve olayın koşullarına göre değerlendirilir. Teknik otonomi düzeyinden tek başına kesin bir hukuki sonuç çıkaramayız.

Toplumsal ölçümüz ise açık olabilir:

Etkilenen kişi sorusunu iletebilmeli, olay incelenebilmeli ve düzeltme süreci anlaşılır olmalıdır.

Kararın birçok katmana dağılması, kimsenin yanıt vermediği bir boşluğa dönüşmemelidir.

Gelecekte Daha Bağımsız Makineler, Daha Özgür İnsanlar mı?

Daha fazla görevin makineye bırakılması bazı insanlar için önemli imkânlar açabilir.

Yorucu bir işi hafifletebilir veya belirli bir hizmete erişimi kolaylaştırabilir.

Ancak bunun kimler için ve hangi koşullarda gerçekleştiğini araştırmalıyız.

Fiyat, hizmet alanı, erişilebilirlik ve insan desteği gibi etkenler sonucu değiştirebilir.

Geleceği yalnız “Direksiyonda kimse olmayacak” görüntüsüyle anlatmak bu nedenle eksik kalır.

İnsanların ihtiyaç duydukları yere ulaşabilmesi, hizmet değiştiğinde seçeneksiz kalmaması ve hata karşısında muhatap bulabilmesi de önemlidir.

Makinenin bağımsızlığıyla insanın özgürlüğünü aynı şey saymamalıyız. İkisi arasındaki ilişkiyi bilinçli biçimde kurmalıyız.

Direksiyonun Ötesindeki Kararlar

Direksiyonda kim var?

Bazen bir sürücü vardır. Bazen belirli koşullarda görevi üstlenen bir sistem. Bazen de görünmeyen destek ekipleri ve farklı yetkilerden oluşan bir çalışma düzeni bulunur.

Bu nedenle otonomiyi tek kelimelik bir özellik gibi değerlendiremeyiz.

Görevini, sınırlarını, insanla ilişkisini ve başarısızlık durumundaki davranışını birlikte incelemeliyiz.

Yolculuğun her küçük hareketini insanın yönetmemesi mümkün olabilir.

Ama amaçları belirlemek, sonuçları değerlendirmek ve ortak alanın kullanımına ilişkin kararları tartışmak insan sorumluluğu olmaya devam eder.

Direksiyondan el çekmekle geleceğimiz üzerindeki söz hakkından vazgeçmek aynı şey değildir.

Bir sonraki bölümde bu dönüşümü üretimin içine taşıyacağız:

“Tarladan Şantiyeye: Makine Çalışırken İnsan Ne Yapacak?”

Tehlikeli ve yorucu işler azalırken görevler, gelir ve yetki nasıl değişecek? Yeni imkânlardan kimler yararlanabilecek?

Yol bir, sürek binbir.

Àşk ile…

✍️ Roj Arslan-Gülçehre
06.11.2026