OYUNCAK ARABA
CAN BAŞKENT
0.
Bin dokuz yüz seksenlerin ortasında Therac-25 adlı bir radyoterapi cihazı yazılımındaki bir bug nedeniyle hastalara yüksek dozda radyasyon verir. Bunun sonucunda birkaç hasta hayatını kaybeder. Peşi sıra kritik sistemlerin yazılımlarının kontrolü nasıl yapılır, güvenliği nasıl sağlanır ve hatta hiyerarşik bir kontrol zinciri nasıl oluşturulur gibi tartışmalar için Therac-25 nadide bir vaka incelemesi haline gelir.
Bununla beraber, bu vakadan öğrenilecek en önemli şey “makinanın yasal sorumluluğu” olup olmadığı tartışmasıdır. Çünkü, Therac-25 nedeniyle hayatını kaybedenler düşünüldüğünde, bunun sorumlusunun kim olduğunu bulmamız lazım. Acaba, cihazı kullanan tekniker mi (tekniker assembly diliyle yazılmış bir programı buglara karşı nasıl kontrol etsin?), programı yazan yazılımcı mı (yazılımcının grup lideri olan kıdemli yazılımcı neden gerekli kontrolleri yapmamış), yazılımı yeterli şekilde test edememiş şirket politikası mı (istediğiniz kadar test edin, her bug yakalanamaz) suçlu? Yoksa yoksa, yazılımın kendisi mi suçlu? Bu tip programların lisansı neredeyse daima hep aynı şeyleri söyler: “Biz elimizden geleni yaptık, sizden ya da bizden kaynaklı bir sorun çıkarsa, mesul değiliz”. Bu lisans nispeten anlaşılır elbette — yoksa kelime işlemciyle intihar notu yazanların yakınları bile yazılımcıları dava eder hale gelir. Ucu bucağı olmayan bir hukuki tartışma bu. Sadece makine-insan hukuku da değil, makina-hayvan, makina-doğa gibi zeminlerde tartışmayı daha da büyütmek mümkün (1).
Dediğim gibi 80lerin ortasında kalan bir tartışma bu. Ancak, bugünlerde sık sık bu tartışmayı 80lerde bırakmış olmanın bedelini ödüyoruz. Zira toplumsal (ve toplumcu) gündemimize makinayı bir hukuki ve ahlaki özne olarak katamadık. Bu tartışma da katlana katlana ilerledi, Therac-25 benzeri makineler, web siteleri, yazılımlar hayatlarımıza daha da girdi. Zamanında tartışmadığımız konular, şimdi içinden daha da çıkılmaz hal aldı. Bununla birlikte bizler tartışmadan daha da dışlandık. Nihayetinde toplumcu ve özgürlükçü siyaset, makina hukuku tartışmasına dair yeni bir söz söyleyemediği gibi, bu tartışmalara dahil edilmez hale geldi.
1.
Günümüzde bu tartışmanın en başat öğesi otonom araçlar. Bunun bizleri, ya da en azından batı memleketlerinde yaşayanları, ilgilendiren boyutu da bu araçların olağan trafik akışında test ediliyor olması. Elbette bu testler, bir test pilotuyla yapılıyor. Ancak geçen haftalarda olduğu gibi, bu ölümlü kazaları engellemiyor. Ya da daha dikkatlice bakarsak, testler yapıldıkça kazalar da artıyor. Bu riskli testlerin nerede yapılacağına karar verenler, toplumcu davranma baskısı hissetmez hale geliyor. Büyük şirketler lobi yapıyor ve kazanıyor — ta ki medyatik bir skandal patlayana dek.
Bu gözlemlerden işaretle, otonom araçlar için kati hüküm vermek manalı değil. Zira, bizler de mühendisler de hala sınırlı miktarda bilgiye sahibiz. Kehanetler dışında elimizde çok az veri var. Zaten sorun da burada beliriyor: veri toplamak toplumsal bir risk yaratıyorsa, bu riske dair kararlar da ancak toplum olarak alınır. Otonom araçların trafikteki güvenliği, en azından medeni memleketlerin trafik şartlarında, akan trafikte test edilecekse, bu kararı trafiğin ögelerine sormadan alamazsınız. Hele hele ABD hukuk sistemi gibi paranın konuştuğu bir sistemde özgürlükçü bir adalet tesis etmeniz imkansız hale gelir (2). Bunun sonunda da tartışma popülist kaygılarla daralır gider: katil makinacılar ve masum halk gibi tuhaf ikilemlere düşeriz.
Mesele belki kısa vadede otonom araç testleri gibi görünüyor. Ancak uzun vadede, mesele toplumsal alanın, şehir mimarisinin ve evlerin yeniden inşasıdır. Elektrikli araçların pillerini şarj edecek trafo falan gibi altyapıdan tutun da, park edilen arabanın nasıl ve nerede şarj edilebileceğine de birçok sorun bizleri bekliyor. Hele hele Eski Dünyada yaşıyorsanız sorunlar daha da katlanacak. Bununla beraber, öyle ya da böyle, makinalara konacak olan programın yapacağı seçimlere dair karar mekanizmasından da dışlanacağız. Bir kaza anında, örneğin, otonom araç, 70 yaşındaki birisiyle 7 yaşındaki birisi arasında seçim yapmak zorunda kalırsa, direksiyonu hangisine doğru kıracaktır? (3) Önünde çarpmak zorunda kaldığı iki kişi varsa, otonom araç hangisine çarpmayı tercih edecektir?
Bu siyasi bir tartışma. Dolayısıyla çözümü de siyasi olacak. Çünkü, otonom araçlara dair risklerin analizini toplumcu ve özgürlükçü bir şekilde yapmaktan başka çaremiz yok. Yoksa, bu “cepheyi” de silikon vadisine bırakmış olacağız. Mücadele zor. Bu tartışmalara onlar bizi çağırmazsa, bizim kendimizi davet ettirmemiz icap edecek. Görünen bu.
Çünkü, tarihteki hatalarımızı tekrar etme riskimiz var (4). Therac-25 meselesini ihmal edegeldiğimiz gibi, otonom araçları da ihmal edersek, gelecekte bu tartışmadan daha da dışlanmış olacağız. Şirketler ve mühendislerin, teknoloji gurularıyla yönlendirdiği tartışmada toplumcu bir kanal açamayacağız. Şehirler, caddeler, evler otonom araçlara göre şekillenmeye başlayınca da çok geç kalmış olacağız. Otopark değnekçileri gibi, araba “şarzcıları” belasıyla uğraşacağız.
2.
Bu girdaba düşmemizin iki büyük nedeni var. Bir, siyaseti sosyal bilimcilere ve ekonomistlere bıraktık. Ancak siyaset, sosyal bilimcilere bırakılamayacak kadar önemlidir. İki, “öncelik” bahanesiyle, ne öncelik verdiğimiz sınıfsal sorunları çözebildik, ne de modern çağın dijital problemlerinde gündeme dahil olabildik. Özellikle sol ideoloji, beden, hayvan ve makina politikasında siyasal islamın bile, bakın “bile” diyorum, gerisinde kaldı.
İyimserseniz eğer, sonuç belli. Siyasi alanın ve aktörlerinin yeniden eğitilmesini gerekiyor. Yazılım, açık/kapalı kod, raspberry pi, yapay zeka, algoritmik düşünce gibi kavramları bilerek ve anlayarak kullanabilen toplumcu gruplara ihtiyacımız var. Nasıl nükleer füzyon, nükleer atıkların yarı ömrü gibi şeyleri bilen aktivistler yarattıysak, bunu da halledebiliriz. Yok, benim gibi karamsarsanız dans eden devrimcilere dijital siyaset anlatılabileceği günlerin hayaliyle yetinirsiniz.
Notlar
1. Makina-doğa hukukuna en ilginç örneklerden biri sabotajdır. Baraj yapmak için ağaç kesen dozerlere yapılan sabotajın mağduru kimdir? Makina mı, makinanın sahibi mi? Makinaya karşı nefsi müdafaa nasıl yapılır? Meseleye dair daha geniş ve ilginç bir tartışma için okuru Birikim Güncel’deki eski bir yazıma yönlendireyim: CB, “Veganizm ve Siyasi Ötelemeleri”, Birikim Güncel, 20 Mayıs 2014, http://www.birikimdergisi.com/guncel-yazilar/828/veganizm-ve-siyasi-otelemeleri
2. Uber, otonom aracının çarptığı kadının ailesine mahkemeye gitmeden tazminat ödemiş ve böylece dava açılmadan mesele kapanmış: https://www.technologyreview.com/the-download/610716/uber-settled-with-the-family-of-its-autonomous-car-crash-victim/ ve https://www.reuters.com/article/us-autos-selfdriving-uber-settlement/uber-avoids-legal-battle-with-family-of-autonomous-vehicle-victim-idUSKBN1H5092
3. What Uber’s Fatal Accident Could Mean for the Autonomour Car Industry, Technology Review, https://www.technologyreview.com/s/610574/what-ubers-fatal-accident-could-mean-for-the-autonomous-car-industry/
4. Bu lafı TeknoSofist’in 3. bölümünde dostum Murat Altun sarfetmişti, burada kullanırken de onu anmamak olmaz: www.teknosofist.net