3 Robotik Kural’ın Etrafından Dolanmak / Orkun UÇAR

3 Robotik Kural’ın Etrafından Dolanmak

 

            Çoğunuz aşinadır, içinde üç dilek hakkı bulunan masallarda mutlu son yoktur. Kahramanımız ne dilerse dilesin, dileğin dile getirilme komutunda bütün açıklar kapatılmazsa istemediği olumsuz bir durum oluşur.

            Mesela Kral Midas dokunduğu her şeyin altın olmasını ister, sonuçta yiyecekleri de altına dönüştüğünden açlıktan ölür.

            İşte Isaac Asimov 3 Robotik Kural’ı kurgunun temeline koyduğu hikaye ve romanlarında bu eski hileyi kullanır.

            Ustanın, 3 Robotik Kural’ın etrafında dolanma yöntemlerine geçmeden önce ne üzerine konuşuyoruz hatırlayalım…

 

 

Üç Robotik Kural

 

  1. Yasa; Bir robot, insana zarar veremez veya tepkisiz kalarak zarar görmesine neden olamaz.
  2. Yasa; Bir robot, bir insanın verdiği emirlere uymak zorundadır. Ama bu emirler 1. Yasa ile çelişemez. Yani emredilse bile insana zarar veremez.
  3. Yasa; Bir robot, kendini korumalıdır. Ancak bu 1. ve 2. Yasa‘ya uyması gereken durumlarda geçerli değildir. Bir insanı kurtarmak için kendisini feda edebilir.

            Bu yasaların ihlali durumunda oluşan sonucun ağırlığına göre robotun çalışması sona erebiliyor veya hasar alıyor. Mesela istemeden de olsa bir ölüme direkt neden olursa “Roben” durumu oluşuyor, kendini kapatıyor ve bir daha çalışmıyor. Daha hafif durumlarda hareketleri aksayabiliyor veya konuşması bozuluyor.

            Bu üç yasaya yıllar sonra “Robot Serisi”nin dördüncü kitabı “Robots and Empire”da (Türkiye’de “Kurtarıcı” ismiyle Altın Kitaplar) “Bir robot insanlığa zarar veremez ya da zarar görmesine seyirci kalamaz”

 

            Bu yasa ile birlikte, ilk yasa şu şekilde değişikliğe uğradı. “Bir robot, sıfırıncı yasayla çelişmediği sürece, insana zarar veremez veya tepkisiz kalarak zarar görmesine neden olamaz”

            3 Robot Kural’ına ilk olarak 1941 tarihli “Liar!” (Yalancı) adlı kısa öyküde rastlarız. O zamana kadar bilimkurgu öykülerinde robotların insanlığa karşı tehlikeleri çok işlenmiştir. Isaac Asimov’un 3 Robotik Kural’ı insanları korumak için ortaya çıkmıştır. Ama usta yazarın niyeti bu olsa da, devam eden her öykü ve romanda, 3 Robot Kural’ına rağmen işlenmiş suçlar veya sorunlar kurgunun ana temasını oluşturmuştur. Yani niyetinin aksine bize robotların tehlikeli olduğunu göstermiştir.

 

 

Kuralı Da Koyarım, Kuralı Da Bozarım…

 

            Romanlar üzerinden bir robotu suç işlemede nasıl kullanırız yöntemlerine bakalım…

            “The Caves of Steel” (Çelik Mağaralar): Arzlı dedektif Elijah Baley ile tanıştığımız ilk roman. Uzaylı Dünyalar, insanları Arz’a hapsetmiş, milyarlarca insan çelik mağara denilen kapalı kentlerde yaşıyor. Öyle ki, açık alana çıkma korkusu var insanlarda.

            New York kentinin yakınında bir Uzaylı kenti kurulmuş. İki kent arasında sıkı kontrol edilen bir  geçiş koridoru var. Bu şartlarda bir cinayet işleniyor.

            Katilimiz cinayet için bir robotu kullanıyor. Nasıl mı? New York’lu bir insan açık alana çıkamaz ama bir robotu ve cinayet silahını açık alandan yolluyor.

            Burada Isaac Asimov, robotu cinayet silahını taşıma aracı olarak kullanıyor.

 

            “The Naked Sun” (Güneşin Tanrıları): Dedektifimiz Elijah Baley bu kez sadece 20 bin kişinin yaşadığı Solaria gezegeninde bir cinayeti çözmeye çalışıyor. Bu gezegende insanlar sadece uzaktan iletişim kuruyor, birbirlerini “görme” gerektiren zorunlu durumlar psikomatik arazlara yol açıyor. Bu durumun tek istisnası üreme için bir araya gelmek. Zaten Solaria’lılar suni döllenme ile bu sıkıntıyı da çözmeye çalışıyorlar.

            Peki insanlar birbirlerinden binlerce kilometre uzaklıklarda yaşıyorlarsa bir cinayet nasıl işlenir. Zehirleme kolay. Elijah Baley şunu düşünür: “Bir robot su olan bir sürahiye zehir atar. Ona bu zehirli suyu insanın içmeyeceği söylenir. Suyun zehirli olduğunu bilmeyen ikinci bir robot da, sürahiyi içmesi için insana götürür.” Birbirinden bağımsız iki masum eylem sonuçta cinayete neden olur.

            Ama söz konusu cinayet zehirlenme değildir. Kurbanın kafasına sert bir cisimle vurulmuştur. Burada robotun kolu çıkartılabildiği için cinayet için kullanılır. Robot cinayeti işlemez ama katil onun kolunu adamın kafasına vurur.

            Solaria ayrıca insan mürettebatı olmayan, silahlı uzay gemileri yapmayı da planlamaktadır. Böyle bir savaş gemisine, karşısındaki gemiyi yok etme emri verildiğinde içinde insan olduğunu düşünmeyecektir. Ya da “O gemiler de sadece hedef, içinde insan yok” denilecektir.

 

            “The Robots of Dawn” (Şafağın Robotları) ve  “The Robots and Empire” (Kurtarıcı) telepatik robotlarla tanıştığımız romanlar. Robot Giskard ilkinde başka bir robotu “öldürüyor”, ikincisinde Dünya’nın radyoaktif olmasına neden olacak bir makineyi çalıştırıyor.

            Gördüğünüz gibi hiç de tehlikesiz değil robotlar. R. Giskard, kendi ortaya çıkardığı “Sıfır Yasası” doğrultusunda, insanlığın iyiliği için hareket etse de milyarca insanın öleceği bir durumu seçiyor. Her ne kadar bu kararı alıp, sıfır yasasına göre hareket etse de kendini durduruyor. Onun görevine R. Daneel devam edecektir.

            Robotlara Vakıf serisinin dördüncü kitabından sonra da rastlıyoruz. Telepatik olanı var, insan görünümünde olanı var. Artık 3. Robot Kural’ı epey esnemiş. Mesela Hari Seldon’u koruyan Dors Venabili hem insan görünümlü, hem de Hari’yi korumak için başka insanlara rahatça zarar verebiliyor.

            “Foundation and Earth” (Vakıf ve Dünya) kitabında Solaria’ya yolu düşen kahramanlarımız, robotlar tarafından öldürülmekten son anda kurtuluyor. Robotlar sadece aksanları yüzünden, onların insan olmadığına karar veriyor. Yani anlı şanlı 3. Robotik Kural, sadece aksanla bile atlatılabiliyor.

 

            Özetlersek:

  • Bir robotu silah nakliyesinde kullanabiliyorsunuz
  • İki robota iki ayrı suç olmayan eylem yaptırıp, cinayet işleyebiliyorsunuz
  • Bir robot, insanlığın geleceği için bir insanın hayatına son verebilir (sıfır yasası)
  • Robota yanlış bilgi verilebilir (Uzay gemisi)
  • Robot Kural’ını değil, insan tanımını değiştirebilirsiniz. (Aksan) Mesela kızıl saçlılar insan değil dersiniz biter.Ben de 3 Robotik Kural’a yer veren bir hikaye yazmıştım. “Kızıl Vaiz” adlı kitabımda var. Korku romanları okumayı seven çocuk bakıcısı bir robot, kendini vampir sanan hasta bir adamı, kalbine kazık saplayarak öldürüyordu. Onun mazareti de “Vampirler zaten ölüdür” oluyordu.

 

            İşin Gerçeği…

            Bu satırların yazıldığı sıralar robot teknolojisi çok hızlı ilerliyor. Örneğin televizyonda Çin’de, robotlar ve onları yapan mühendislerin futbol maçı yaptığını ve robotların kazandığı haberini duyuyorum.

 

            Ama robot teknolojisi gelişirken duymadığım bir şey var: “Üç Robotik Kuralı”

 

            Robotik bilimini bilmiyorum ama Asimov’un 3. Robot Kural’ının pratikte uygulaması olabileceğine inanmıyorum. Spesifik bazı komutlar verilebilir ama bir robotun sinir sistemine bağlı böylesi kurallar gerçekçi değil. Ve sıraladığım gibi birçok “açığı” var.

            Bugün gelişen robot teknolojisinin suç işlemeye karşı ahlaki veya programlama engelleri yok. Bir robota rahatlıkla bir insanı öldürmesini emredebilirsiniz. Askeri robotlar çoktan yapılmaya başladı. Terminatörleri savaş meydanlarında göreceğimiz günlere çok yok.

 

            Daha korkunç ihtimaller de var: mesela sinek kadar küçük robotlar yaptılar ve bunlar kanla hareket edebiliyor. (Niye kana ihtiyaçları olduğunu bilmiyorum.) Binlerce küçük robotun üzerine çullanıp, kanınızı emdiğinizi düşünsenize… Savaşta düşmanın kanını kullanan robotlar.

            Robotları kontrol edebilecek programlar elbette yazılacaktır, belki bu konuda uluslararası anlaşmalar imzalanacak ama esas sorun “yapay zekalar”… Onları kontrol edecek, zincirleri olan programların yazılması daha önemli ve zor. Yapılmazsa Skynet çok uzak bir gelecek değil.

            Isaac Asimov robotların insanlığın bakıcısı ve hizmetkarı haline gelmesini olumlu bir durum olarak görmez. Ona göre robotlarla çevrili bir insan, parmaklıkları olmayan bir hapishane içindedir. İnsanoğlu Galaksi’yi kendi keşfetmeli, kolonize etmelidir.

 

            İnsanoğlu yürümeyi öğrenen bir bebek gibi düşe kalka büyümelidir.

 

 

Orkun UÇAR

 

BU İÇERİK BİR KONUK YAZAR TARAFINDAN ÜRETİLMİŞTİR. Yayınlanmasını istediğiniz eserlerinizi yenipapirus@gmail.com ‘a göndermeniz gerekmektedir. Editör onayından geçen eserler Yeni Papirüs okurlarına sunulacaktır.

Leave a Reply

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Araç çubuğuna atla