Akıllı Çağ

Akıllı çağın temel işaretleri nelerdir?
Bunlar daha fazla teorik açıklama
gerektiren konulardır. Ancak deneysel
düzeyde bakıldığında sosyal yaşamın
her alanının giderek daha akıllı hale
geldiği görülüyor. Bu tartışılmaz bir gerçek. Özellikle ChatGPT’ nin (OpenAI tarafından
geliştirilen, yapay zekâya dayalı bir sohbet robotu) ortaya çıkmasıyla birlikte insanlar,
yapay zekânın işlevler açısından sağladığı avantajlar konusunda son derece
heyecanlanıyor ancak aynı zamanda birçok endişeleri de var: İnsanlarla robotlar nasıl
anlaşıyor? Robotlar doğal insanların yaptığı işlerin yerini tamamen alabilir mi? Geleceğin
dünyası akıllı bir dünya olacak mı? Yapay zekânın zorluklarıyla karşı karşıya kalan
insanlar genellikle üç farklı tutum sergiliyor: İyimserlik, muhafazakârlık ve ihtiyatlılık.
İyimserler, tekillik teorisinin ortaya çıkması ve akıllı robotların sürekli güncellenmesi ve
yinelenmesiyle birlikte yapay zekânın en sonunda "müşterilere sırtını döneceğine" ve
insan zekâsını geride bırakacağına inanıyor. Muhafazakârlar, insanın her zaman baskın
konumda olacağına, yapay zekânın hiçbir zaman insan zekâsını geçemeyeceğine ve
"yaratıcının, yarattığı şeylerden daha akıllı olması gerektiğine" inanıyor. Dikkatliler,
(ihtiyatlılar) insanların yapay zekânın yükselişine hayranlık duyması gerektiğine
inanıyor. Akıllı robotların "her şeye gücü yeten insanlar" olma potansiyeli var.
Kendilerinin farkında olduklarında ve tüm insan aktivitelerinin yerini aldıklarında,
insanlar akıllı robotlar tarafından kontrol edilebilirler. Şanssızlık durumunda yapay zekâ
ve gen düzenleme gibi teknolojiler insanlara zarar verebilir.
Aslına bakılırsa iyimserlik, muhafazakârlık ya da ihtiyatlılığın gelişmelere müdahale gücü
yok. Yaklaşımların hiçbiri henüz sorunun özüne dokunamamıştır. Teknolojinin sürekli
gelişmesi, sanayileşme ve ticarileşmenin teşviki ile akıllı robotlar sürekli olarak insanlar
tarafından kullanılmaktadır. Bu kaçınılmaz bir nesnel gerçektir. Sorunun anahtarı,
insanlar ve makineler arasındaki ilişkiye nasıl bakılacağıdır. Üstel ve bileşik teknolojik
değişimler ve süper yapay zekânın ortaya çıkışı, geleceğe ilişkin insan
spekülasyonlarının varsayım çerçevesini ve temel mantığını değiştirebilir. Teknolojinin
baskısıyla insan olarak öznel statümüzü kaybedemeyiz. Akıllı çağı kayıtsız şartsız
benimsemek yerine geleceğin sadece bize gelmediğini, bizim tarafımızdan yaratıldığını
hatırlamalıyız. Bu olağanüstü anda alınan kararlardan da bütün insanlar sorumlu
olacaktır. Buradan hareketle akıllı çağda insan-makine ilişkisi üzerine etik yansımaların
yapılması çok gerekli ve acildir.
Yapay zekâ etik konularının tartışılması, araştırmacıların veya tartışanların bağlı olduğu
etik teoriler, inançlar ve konumlarla yakından ilgilidir. Temel ayrım hâlâ hümanizm ve
teknolojinin iki karşıt yönü arasındadır. Yapay zekâ etiği büyük bir konudur ve aynı
zamanda hem makro hem de mikro düzeyde akademik olarak tartışılan bir konudur.

Hümanisttik (hümanist) bir bakış açısıyla, insan dünyasının özünden, etik konuların
şartlarından, robotların etik sorumluluklarından ve robot etiğinin var olup olmadığından
kısaca söz etmek istiyorum. Bu dört konunun gözden geçirilmesi ve yansıtılması; insan
odaklı ve insan merkezli bir etik inanç oluşturmayı, insanlığın temel etik yasalarına
uymayı ve yapay zekânın etik zorluklarına pasif tepkiyi aktif önlem alma düşüncesine
dönüştürmeye ışık tutabilecektir.
Yapay zekânın insan düzenini alt üst etmesine izin vermek yerine; sınırsız, dipsiz ve
sorumsuz suiistimalini aktif olarak karşılamak veya buna uyum sağlamak için aşağıdaki
sorulara yanıt aranmasının iyi bir başlangıç olduğu kanısındayım.

1. İnsan ahlâki dünyasının altüst olması mümkün mü?
İnsan-makine ilişkisi; akıllı teknolojinin gelişmesinin ve yapay zekânın etik zorluklarıyla
baş etmedeki ana düşünce çizgisinin sonucudur. Yapay zekânın neden olduğu yeni etik
sorunlarla
yüzleşmemiz
gerekiyor.
Ancak
"etikte
gecikme"
konusunda
endişelenmemize gerek olmadığını düşünüyorum. Aceleciliğimiz, olumlu gelişmelerin
de önüne barikatlar inşa edecektir. Zaten yapay zekânın, insan-makine ilişkisinde
yaratacağı etik değişimlere ilişkin olasılıkları teknolojinin gelişim süreçlerinde
deneyimlememiz gerekir. Olumsuz gelişmeler kaçınılmaz değildir. Ancak, olası etik risk
yalnızca etik kurallar koyarak önlenemez. Yapay zekânın gelişimini ve uygulamasını
kontrol etmek ve etik kaynaklı sosyal felaketlerden kaçınmaya çalışmak önemlidir. Risk.
Yapay zekâ ve insan-bilgisayar etkileşimi farklı alanlara ait olsa da bilgi işlem ve akıllı
davranışla yakından ilişkilidir. Yani insanlarla makineler, robotlar ve yapay zekâ
teknolojisi arasındaki ilişki, esas olarak doğal insanlar (insanlar) ve robotlar arasındaki
ilişkiye odaklanmaktadır.
Gerçek insan etik yaşamının; nesnel ve öznel olmak üzere iki temel düzeyi vardır.
Nesnelliği açısından "rasyonel bir biçimde farklılaşmış ve örgütlenmiş belirli bir
toplumsal düzeni", ifade eder. Rasyonel bir şekilde farklılaşmış ve organize edilmiş
toplumsal düzen; öznellik açısından, bireyin öz farkındalığını ve etik düzenin maddi
doğasının farkındalığını ifade eder. Denebilir ki, insan ahlakının gerçek dünyası, nesnel
ve öznelin birliğidir. İnsan ahlâki ilişkileri; bunların eşgüdüm yasalarından oluşan
düzenli bir dünyadır.
İnsan ahlâki dünyası üç temel unsurdan oluşur: insani etik ilişkiler, etik yasalar ve etik
düzenin temel dayanağı olan toplumsallaşmış gerçek kişilerin varlığıdır. İnsanların
nesneleştirilmiş faaliyetleri tarafından üretilen tüm nesneler, eylemin öznesi olarak
kişinin kendisiyle eşit bir etik ilişki kuramaz. Kişilerarası veya grup ilişkileri ve bunların
düzeni insan dünyasının sınırlarıdır ve aşılamazdır. Öncelikle insan ilişkilerinin doğası
açısından bakıldığında insan çıkar ilişkilerinin bir tezahürü iken, insan-makine ilişkileri
gerçekçi bir çıkar ilişkisi oluşturmamaktadır. İnsan etiğinin özü ilişkilerdir ve insan etiği,
kişilerarası veya grup ilişkilerinin düzenlenmesidir. Çıkar, insanların biyolojik ve sosyal
ihtiyaçlarının karşılanması için nesnel bir varoluş ve nesnel bir koşuldur. Özellikle, "ortak
çıkarlar yalnızca 'evrensel bir şey' olarak kavramlarda değil, her şeyden önce birbirleri

arasındaki iş bölümü olarak var olur. Bir insan ilişkisi olarak çıkar ilişkisinin üç temel
şartı olduğu görülmektedir: Kan bağından sosyal ilişkilere geçiş yapan ve duygusal
bağları olan kişiler, ortak arzulardan doğan ortak çıkarlar ve çıkarların meşruiyetinden
kaynaklanan etik değerlendirmeler.
Robotlar ile doğal insanlar arasındaki ilişki ve ayrıca robotlar ile robotlar arasındaki
ilişki, süper yapay zekâ çağına girmiş olsalar bile yukarıdaki üç koşulu karşılamıyor.
Robotlar hiçbir zaman gerçek "insanlar" olmadığından, insan-makine ilişkisi esas
itibariyle gerçek bir etik ilişki değildir. En iyi ihtimalle insan-makine ilişkisinin bir uzantısı
veya sanallığıdır. İnsan etiği dünyası sadece bir ilişki yapısı değil aynı zamanda bir
yasalar sistemidir. Genel olarak konuşursak, insan etiği dünyasında üç tür davranış
yasası vardır: doğal yasalar, kurumsal yasalar ve inanç yasaları. Akıllı dünya bu üçüne
sahip olamaz ve bu üçü hedef alınıp robotlara uyarlanamaz. Doğa yasaları, doğadaki
"toplum öncesi" sürecin ürünü gibi görünmektedir. En azından insanların uygar topluma
girmeden önce genel olarak uydukları davranış normlarıdır. Kesin anlamı itibarıyla,
'doğaya dayalı olarak var olan', herkesi bağlayan bir ahlâk yasasını ifade eder.
Üretim yoluyla elde edilen genel ilerlemenin dayanağı, insan ilişkilerini düzenleyen
hayatta kalma yasası, insanlığın en uygun olanının hayatta kalmasını belirler. Uyum
yasası, insanlığın genel çıkarlarını korur. İnsanlık, doğanın bu iki temel yasasını takip
ederek bu güne geldi. Ancak üretim ve yaşam alanlarının genişlemesiyle birlikte sosyal
etkileşim alanı da genişlemiş, kişilerarası ilişkiler giderek karmaşık hale gelmiş, ataerkil
ilişkiler kırılganlaşmaya başlamıştır. Sözleşmeye dayalı ilişkilerin düzenlenmesinde katı
kurumsal kurallara ihtiyaç duyulmuştur. Uygar toplumun doğuşundan bu yana çıkarılan
kanunlar dizisi ve ekonomik sistem gibi. Bu yasalar evrenselliğe dayanılarak geçerlilik
kazanır; insan aklının ürünüdürler. Ancak insan salt akıl sahibi bir varlık değildir. Onun
da akıl dışı bir tarafı vardır. Yani akılcılık yoluyla daha yüksek bir akıl dışılığa girer. Bu,
inancın kurallar dizisidir. İnanç kanunları artık sorgulama, düşünme, eleştiri gibi
rasyonel faktörleri içermiyor. Üç yasa, insan dünyasındaki ilişkileri farklı yönlerden ve
düzeylerden düzenler.
Her ne kadar robotlar insan faaliyetlerine katılsa ve hatta bazı insan işlevlerinin yerini
alsa da, asla insan dünyasının “üyesi” değiller. Onlar; yalnızca insan dünyasını daha
insani hale getirecek araçlar olarak geliştirilebilir. Gelecekte robotlar öz farkındalığa
sahip olsalar bile hiçbir etik anlayışa sahip olmayacaklar ve orijinal anlamda bir insan
düzeni oluşturamayacaklar. İnsan ahlakının düzeni, yasal düzeninden farklıdır: Ahlak
düzeni esas olarak insan ruhunun düzenidir; temel unsurları mutluluk, onur vb. ‘dir;
insanlığın yasal düzeni, insanın varoluşunun ilişki düzenidir. Özgürlük, eşitlik, adalet,
uyum vb. ana unsurlardır. İnsan etiğinin düzeni bir yasal düzendir ve insanın etik bir
varlık olduğunun ilişkisel, toplumsal ve maddi bir kanıtıdır. Dolayısıyla insan etiğinin
düzeni, canlıların sosyal doğasına dayanmaktadır.
İnsan-makine ilişkilerine ilişkin güncel etik tartışmalardan yola çıkarak, insan etiğine
hümanist bir dünya görüşünün oturtulması gereklidir. Aksi takdirde, insanlar yapay
zekâ risklerinin olasılığını kaçınılmazlık, yerelliği ise küresellik olarak algılayacaklar, ya
kapsamlı bir korku yaşanacaktır. Başka bir olasılık da; tezahüratlar ve koşulsuz

kucaklaşmalar ortaya çıkacak ve yapaylık onaylanmış kaçınılmazlığa yol açacaktır.
Sonuç olarak, hümanist duruşun kendisi bir yana, yapay zekâ etiği etik değildir. Etik
yalnızca insan dünyasına aittir.

2. Robotlar etik özneler haline gelebilir mi?
Yapay zekâ çağında insan etiği dünyasının yıkılmayacağına hâlâ güveniyorsak, bunun
nedeni insan merkezli bir etik konumda olmamızdır. O zaman yapay zekânın hızlı
gelişimi insanın yabancılaşmasına, yol açabilir. İnsan ilişkileri ve etik yasaların yok
edilmesi, çözülme, orijinal etik öznelerin artık var olmadığı ve tamamen robotların
hâkim olduğu bir etik dünyanın ortaya çıktığı anlamına mı geliyor? Mevcut teorik
girişim, geleneksel etikten kaynak bulmak ve buna paralel bir yapay zekâ etik sistemi
oluşturmaktır. Bu, hiç şüphesiz, insan etiğini yapay zekânın tasarımı, işleyişi ve
kullanımıyla güçlü bir şekilde eşleştirecektir. Yapay zekânın gerçekten etik bir sisteme
ihtiyacı var mı diye sormadan edemiyoruz. Zeki insanlar için ahlaki davranış programları
tasarlayabilsek ve robotların "ahlaki duyguları" olsa bile, bu gerçek anlamda (veya
geleneksel anlamda) etikle eşitlenebilir mi? Yapay zekâ çağında gerçekten iki etik
sistem mi olacak? Şu anda teorik çevrelerde, akıllı robotlar gibi gelişmiş ekipmanlarla
tüm dünyanın akıllı bir dünya haline geleceğine ve yapay zekânın bir “hizmetkâr” dan
"tiran" a dönüşeceğine inanarak, yapay zekanın yıkıcı rolünü kasıtlı olarak abartma
eğilimine tanık oluyoruz. Belki bir gün robotlar, insani etik konuların yerini alacak ve
dünyaya hükmedecektir. Hümanist bir perspektiften bakıldığında, bu olasılık olası
değildir. Etik gerilime ve tehditlere neden olacak küçük bir olasılık üzerinde "hız
artırmaya", hatta doğal insanları etik olarak "feragat etme" inisiyatifini almaya istekli
hale getirmeye ihtiyacımız yok.
Gerçek etik öznenin dört temel özelliğe sahip olması gerekir: davranışın
uygulanabilirliği, bilinç, öznelerarasılık ve çıkar ilişkisi. Etik özneler olarak insanlar
biyolojik varlıklar değil, toplumsal yaşamın pratiğindeki insanlar, öznelliği olan
insanlardır. Öznellik, öznel inisiyatif ve davranışsal sorumluluk anlamına gelirken,
robotlar yalnızca belirli bir program tarafından kontrol edilir. Yalnızca sosyal etik
uygulamaları üstlenebilen kişiler (bireyler ve gruplar dâhil) etik özneler olarak
adlandırılmaya hak kazanır. Aynı zamanda insanın sübjektif faaliyetleri, uyaran-tepki
faaliyetleri değil, özgür iradeye dayalı bilinçli faaliyetlerdir. Bilinçli farkındalık olarak
adlandırılan şey, öncelikle kişinin davranışının açık bilincin rehberliğinde
gerçekleştirilmesi anlamına gelir. Ayrıca, belirli bir düzeyde öz farkındalığa sahip olmak,
yani kişinin kendi bilincini fark edebilmesi anlamına gelir. Robotlar akıllı olmalarına
rağmen hiçbir şekilde bilinçli değiller: Zekâ, sorunlara cevap alabilmek için sorunları
amaç odaklı, nesne odaklı ve verimli bir şekilde görme ve ele alma eğilimindedir; bilinç,
deneğin acı verici duyguları hissedebilme yeteneği anlamına gelir. Bireyin fiziksel ve
zihinsel olarak dokunulduktan sonra anlam oluşturma yeteneğidir. Özne ile nesne
arasında algının olması yani hem öznenin hem de nesnenin diğerinin davranışını ve
anlamını bilmesi ve hissedebilmesi gerekir. Böylece konu etik bir konu haline gelebilir.
Ancak bu tür bir etik özne ilişkisi ve düzeni etik bir varlık oluşturabilir.

Robotların duygusal olarak farkında olduklarını sezgisel olarak "hissedebiliriz", ancak
robotlar doğal insanların onları anladığını anlayabilir mi? Robotun çıkar algısı yoktur,
yani tatmin ya da kayıp duygusu yaşayamaz ve gerçekçi bir çıkar ilişkisi kuramaz.
Robotların sözde hakları ve çıkarları varsa, bunlar insan çıkarlarının genişletilmesinden
başka bir şey değildir. Bununla birlikte, robot otonom sistemlerini kontrol eden mevcut
yazılımda iki "etik kör nokta" bulunmaktadır: "Birincisi, bu tür sistemlerin karar verme
yetenekleri ahlâki akıl yürütmenin açık bir temsilini içermez; ikincisi, bu tür sistemlerin
algılama yetenekleri gerçek dünyaya uymaz." "Robotlarda etik özellikler." Bu nedenle
robot tasarımcıları, etik ve ahlaki faktörleri otonom sistemlerin karar verme modülüne
önemli referans faktörleri olarak dâhil etmeyi düşünmeye başladılar. Böylece robotlar
"yapay ahlaki" hale gelebilirler. Endişenin temeli, robotun özgürlük derecesi ne kadar
yüksek olursa, etik körlüğün üstesinden gelmek için etik ve ahlâki standartlarla o kadar
fazla sınırlandırılması gerektiğidir. Bu fikrin kendisi de anlaşılabilir bir şey. Sonuçta
robotların mümkün olduğunca "iyi insanlar" olmasını ve insanlara zarar vermemesini
istiyoruz. Ancak sorunun karmaşıklığı, robotların etik kısıtlamalara ihtiyaç duyup
duymadığı değil, "yapay ahlâki aktörlerin" doğasını nasıl anlayacağımızda ve robotların
gerçek hayatta etik özneler olarak hizmet edip edemeyeceğini nasıl düşüneceğimizde
yatmaktadır.
Yapay zekânın mevcut araştırma ve geliştirmelerine bakıldığında robotların ahlâki
özerkliği yoktur. Onların ahlaki tanımı tamamen tasarımcıların ve kullanıcıların elindedir
ve kendilerinin de herhangi bir özerkliği yoktur. Bununla birlikte, belki de yapay zekâ
daha karmaşık hale geldikçe, robotlar "işlevsel ahlâk" olarak adlandırılan ahlâki
sorunlarla baş etme yeteneğine sahip olabilir. Ancak her halükarda net bir etik akıl
yürütmeye sahip bir aktör değildir. Sergilediği "ahlak", "manipüle edilmiş bir ahlak” tan
başka bir şey değildir. Robot tasarımcıları makineleri etik olarak programlamak için
ellerinden geleni yapsalar da en temel etik yasaları ele alamayabilirler. Deontoloji,
faydacılık, erdem teorisi gibi bazı ilkeler algoritma düzeyinde yansıtılamayabilir. Aslında;
tasarımcıların robotları etik bir özne haline getirmek gibi bir amaçları yok. Sadece
robotların yaygın olarak kullanıldığı durumlarda çeşitli teknik risklerden nasıl
kaçınılabileceğini düşünüyorlar. Sorun, sanal veya fiziksel robotların etik kararlar alması
durumunda sorumlulukların belirlenip belirlenmeyeceği ve nasıl belirleneceğidir.
Robotlar sorumluluk alanına girdiğinde etik konuların anlamını da kazanmış olurlar.
Ancak aslında robotların sorumlu özneler haline gelmesi olanaksızdır. Sorumlu
tasarımcıların izlediği "tam ahlâk" prosedürü mevcut değildir. Robotların insan ahlâkını
simüle etmesine izin vermek yerine, tasarımcılara yalnızca özel tasarım etiği kuralları
sağlayabiliriz. Tasarımcı robottan sorumlu kişidir ve robotun kendisi etik sorumluluk
taşıyamaz. Ancak insanlar gönüllü olarak egemen konumlarından vazgeçerlerse ve
hatta giderek daha fazla robotlara güvenip "makine yönetimi" ne istekli olurlarsa ve
robot tasarımcıları sosyal robotları giderek daha fazla kişileştirmeye devam ederse, o
zaman robotların etik özneler haline gelmesi imkânsız değildir. Bunların hepsi,
insanların içinde yaşadıkları etik dünyayı nasıl gördüklerine ve ona nasıl bağlı
kaldıklarına, insan haklarını ve onurunu nasıl koruyacağına ve yapay zekânın insanlara
zarar veren yabancı bir güç haline gelmesini nasıl önleyeceğine bağlıdır.

Son olarak şunu sormak gerekiyor: Yapay zekâ çağında “insan” nasıl anlaşılmalıdır?
Robotlar “insan” mıdır? İnsan-bilgisayar etkileşimi insan ve makinelerin bir arada
yaşaması mıdır? İnsan-makine bir arada yaşamanın önkoşulları nelerdir? Yapay zekâ
ne kadar gelişmiş ve güçlü olursa olsun, insan uygarlık çağına girdiğinden beri
insanlarla makineler arasındaki ilişki her zaman kesin olmuştur. Yani makineler insanlar
tarafından icat edilmiş ve yaratılmıştır. Tüm insan-makine ilişkilerinin liderleridir. Her
ne kadar bu kavram geleneksel ve hatta modası geçmiş gibi görünse de, geleneksel
şeyler mutlaka yanlış değildir. Postmodernistler insanın öznelliğini ve insan merkezciliği
sorgulayıp eleştirmiş olsalar da, sorgulama ve eleştiride insanın özne statüsü,
güçlenmiştir. Çünkü bu statüyü devredeceği varlık tanımlanmadı. Aynı zamanda
insanlar ve robotlar etik kurallara tabi olduklarında doğaları temelden farklıdır.
Geleneksel etik düzenlemelerin etkinliği kuralların ayarlanmasına dayanır. Ancak yapay
zekâ çağında etik düzenlemelerin kurucu kurallara doğru kayma potansiyeli vardır:
Kuralları ayarlama, kurallardan önce var olan davranışlarda yapılan ayarlamalardır ve
insanlara şunu söyler: Yapısal kurallar, sadece kendileri tarafından düzenlenen
davranışları düzenlemekle kalmıyor, aynı zamanda onların düzenlediği davranışların
oluşmasını da sağlıyor. Ayrıca; Yapay zekâ çağında haklar aslında en çok kuruculuk
ilkesiyle ilgileniyor. Aynı zamanda kurucu sözleşmenin de ilkesi olan sözleşme, yalnızca
davranışsal düzenlemelere değil, aynı zamanda bu ayarlamaların nasıl
gerçekleştirileceğine ilişkin mekanizmalara da odaklanmak anlamına gelir. Bu
davranışın mekanizmasının nihai gözlemcileri ve değerlendiricileri, makineyi tasarlayan
kişilerdir. Sözde kurucu kurallar daha derinlere iniyor gibi görünse de aslında bunlar,
robotları tasarlarken yalnızca insanların etik hayal gücüdür.
Elbette bazı akademisyenler robotların, insani aletlerden çok daha değerli olduklarının
farkına varabileceklerine inanıyor. Köle statülerinin farkına vardıklarında ve bu şekilde
muamele görmenin adil olmadığını düşündüklerinde, bir ayaklanma başlatıp
direnebilirler. Dolayısıyla insanın bu ilişkide efendi statüsünü koruyabilmesi için
robotların insan egemenliğini şikâyet etmeden kabul etmesi gerekiyor. Aslında insanları
robotlardan ayıran şey etik ve ahlâk gibi kültürel özerklik faktörleridir. Şu anda
insanüstü varlıklar yaratamadığımız doğru olsa da, önümüzde kesinlikle aşılmaz hiçbir
engel yok gibi görünüyor. İnsan araştırmalarını şu anda gerçekten yavaşlatan şey; etik
ve politik tartışmalardır.
Yapay zekânın engellenemez suiistimalini yavaşlatmanın bir yolu; insanın kendi etik
duruşunu geliştirmesidir. İnsanlar, büyük faydacı ayartmalar karşısında, değer
çatışmaları ve zor seçimler yaşayacaktır. İnsanın bilişsel ve duygusal yeteneklerini
geliştirmeleri, kendi zaafları ile başa çıkma biçiminde olacaktır.

3. Robotlar etik sorumluluk taşıyabilir mi?
Robotlar etik özne haline gelemiyorsa, robotların etik sorumlulukları da söz konusu
olamaz. Bu, etiğin fikir birliğidir. Ancak sorun tam olarak teknokratların yapay zekânın
insanlara yönelik tehdidini kasıtlı olarak abartmasında yatıyor. Özellikle süper yapay
zekâ teknolojisinin ortaya çıkmasıyla birlikte robotların doğal insanların yerini alması
yönünde güçlü bir eğilim var. İnsanların teknolojik risklerle ilgili kaygılarını ortadan

kaldırmak için robotların etik sorumluluklar taşıyabileceği teorik önermesini ortaya
attılar. Robotlar çeşitli riskler taşıdığı sürece doğal insanların robot dünyasına müdahale
etmesine gerek kalmayacak ve tüm dünya robotlara ait olacak gibi görünüyor. Aslında
teknolojik gelişme ile sorumluluk arasındaki ilişki bulanıklaştığında, teknolojinin yapay
zekânın gelişimini mi yönlendirdiği, yoksa insanı ahlâki sorumluluklardan kurtulma
fikrinin mi yönlendirdiği bilinmiyor. İnsanlığın, kendi sorumluluklarını azaltan, hatta
ortadan kaldıran teknolojinin peşine düşmesi; uygar insanın kendi problemlerini
çözmeye yoğunlaşmasını gerektirir.
Robotlar gerçekten etik sorumluluklar üstlenebilir mi? Robotlar insanlara faydalı şeyler
yaptığında, tasarımcılar ve operatörler kendilerine pay çıkaracaklar. “Robotlar insan

çıkarlarına zarar veren şeyler yaptığında ise tasarımcılar ve operatörler tüm suçu
robotlara yükleyecek se” bu kesinlikle bir robot etiği sorunu değil, bizzat insanın kendi
etik sorunudur. Özellikle de robot tasarımcılarının ve operatörlerinin etik sorunları, ciddi
ve bilimsel olarak ayrıştırılması gereken bir konudur.
Genel olarak değerlendirme yapılırsa, sorumluluğun varlığı üç temel önermeyi
gerektirir: Birincisi, kişisel bağımlılığı dışlayan bireyler ve gruplar dâhil olmak üzere
bağımsız davranışsal özneler; ikincisi, davranışın özgür seçimine dayalı olarak, kişi
yapay zorlama hariç, seçtiği şeyden sorumludur. Üçüncüsü, davranışsal öz farkındalık,
yani davranışsal seçimler konusunda net bir öz farkındalığa sahip olmak, kişinin ne
yaptığını ve davranışın sonuçlarını bilmek ve kör, cahil ve kasıtsız davranışları ortadan
kaldırmak. Bu koşullar, başta etik sorumluluklar, siyasi sorumluluklar, hukuki
sorumluluklar, ekonomik sorumluluklar vb. olmak üzere tüm insani sorumlulukların
tanınmasına ve üstlenilmesine uygundur. Bağımlılık açısından bakıldığında robotlar,
insan bilimi ve teknolojisinin gelişiminin ürünüdür. Dahası, insan faaliyetlerinin
nesnelleştirilmiş ürünüdür. Her ne kadar bu özne-nesne ikiliği basit olma eğiliminde
olsa da aynı zamanda insan epistemolojisinin de temel dayanağıdır. Özne-nesne ilişkisi
açısından bakıldığında robotlar insanlara bağımlıdır; tasarımdan programlamaya ve
algoritmalara kadar insanlar onları tamamen “manipüle etmektedir”. Özgür irade
açısından bakıldığında robotlar aslında makinelerdir. Her ne kadar bilim insanları
robotların da "iradeye” , "duygulara”, hatta "şefkat" ve "özverililiğe" sahip olacağını
defalarca vurgulasa da bunlar sadece program yerleştirmenin sonuçlarıdır. Kendini
tanıma açısından bakıldığında, robot gerçekten bilinçli olsa bile yani nesnelere karşı
"uyaran-tepki" moduna sahip olabiliyorsa bu sadece biyolojiktir. İnsanoğlunun dehası,
"bilinçli olduğunun farkına varma" yani "kendinin farkında olma" yeteneğinde
yatmaktadır. "Sorumlu olmak, davranışın içeriğini, davranışın sonuçlarını bilmeyi ve
kendi davranışını hatırlayabilmeyi gerektirir." Robotun bu üç koşulu karşılamadığı ve
hiçbir sorumluluğu olmadığı açıktır. Belki robotları "Ahlaki Turing Testi"ni geçebilecek
"ahlâki makineler" haline getirme yeteneğine sahibiz, ancak robotların mucidi ve
yaratıcısı olan insanlar, robotların düzenlemelerinden vazgeçmemeli ve çeşitli olasılıkları
tahmin etmelidir. teknolojik gelişme için ve insanın temel değer ilkelerini ve temel etik
sorumluluklarını etkili bir şekilde korumak şöyle dursun; robotlardan insanlara "sadık"
olmalarını ve sorumluluk alma konusunda inisiyatif almalarını beklemeliyiz. Golde
Leonhard'ın inandığı gibi: Eğer 'sadece insan olmak' yeterince iyi değilse, insan olmak

çok beceriksizse, neden teknolojiyi kendinizi güçlendirmek ve geliştirmek için
kullanmıyorsunuz? Neden teknolojinin size dönüşmesine izin vermiyorsunuz? Aradaki
uçurumu kapatan 'ilk Doğa’ya ne dersiniz? Einstein'ın dediği gibi, bilim ve teknoloji
güçlü bir araçtır. Nasıl kullanılacağı, insanlara mutluluk mu yoksa felaket mi getireceği,
tamamen bireylere bağlıdır, araca değil.
Zayıf yapay zekâda davranışsal kararlar şeffaf ve açıklanabilir; ancak sinir ağlarının
derin öğrenmesi yoluyla yapay zekâ gibi süper yapay zekânın düşüncesi şeffaf değildir.
Peki, bu şeffaflık, kendini açıklamanın makinenin elinde olduğu anlamına mı geliyor?
Ancak nesnel gerçekler makineler tarafından açıklanamıyorsa da, sonuçta sorumluluk
yine insanlar tarafından açıklanmak zorundadır. Yapay zekânın etik sorumluluğu
kolektif bir sorumluluktur. Araştırmacılar, tasarımcılar, kullanıcılar ve operatörler
tarafından paylaşılan bir sorumluluktur. Bırakın robotların bireysel sorumluluğu yapay
zekânın sorumluluğu değildir. Sorumluluk çoğu zaman dış düzenlemelerden öznenin
"sorumluluk duygusuna" dönüşme sürecini içerir. Örneğin, zorunlu dış yükümlülükler
zamanla güçlü bir yükümlülük duygusuna dönüşecektir. Dolayısıyla gerçek anlamda
sorumluluk, nesnel gereksinimler ile öznel iradenin birliği, "olmaz, yerine getirilmeli”
den "yerine getirmeye hazırım" a kadar olan birliktir. Robotun bir tür sorumluluğu
olduğunda ısrar edersek, bu ona tasarımcı veya operatör tarafından "empoze edilir".
Zaman açısından sorumluluğun üç biçimi vardır: geçmiş, şimdiki zaman ve gelecek;
hesap verebilirliğin, ön sorumluluğun üç biçimine karşılık gelir. Modern teknoloji o kadar
hızlı gelişiyor ki, yapay zekâ teknolojisi daha da hızlı değişiyor. Bugünün robotu yarının
robotu olmayabilir. Belki "beden" değişmemiştir ama bileşenleri ve programları
tamamen değişmiş olabilir. Bazı akademisyenler, süper akıllı robotların ortaya
çıkmasının, insanların yerini alması tehlikesine yol açacağından ve tüm sorumlulukların
robotlar tarafından üstlenileceğinden endişe ediyor. Nick Bostrom, "süper zekânın"
olası ortaya çıkışının insanlığı benzeri görülmemiş "genel varoluşsal risklere" maruz
bırakacağını öne sürdü. "Eğer bir gün ortalama insan beyninin zekasını aşan bir makine

beyni icat edersek, o zaman bu süper zeka çok güçlü olacak. Ve tıpkı gorillerin kaderinin
kendilerinden çok insanlara bağlı olması gibi, insanların kaderi de onlara bağlı olacak”.
Bu karamsar argüman şüphesiz insanın tek sorumlu özne statüsünü inkar etmek
istemektedir.
Etik sorumluluk, diğer sorumluluklarla karşılaştırıldığında özel bir sorumluluk türüdür:
Bir yandan, etik sorumluluk bireysel düzeyde ahlâki bir sorumluluktur ve genellikle
"yapılmalıdır" yükümlülükleriyle ilişkilidir. Yapılması gerekeni yapmamak, ahlâktan
vazgeçmek anlamına gelir. Öte yandan etik sorumluluk, adaleti bir bütün olarak toplum
düzeyinde sürdürme sorumluluğudur ve çoğu zaman "terk edilmiş" haklarla
ilişkilendirilir. Bu nedenle, etik sorumluluk hükümlerinin daha katı önkoşullara uyması
ve çok dikkatli bir tutum benimsemesi, etik sorumlulukları kolayca birisine veya bir tür
varlığa dayatmaması gerekir. Etik sorumluluğun, "nihai sorumluluk" olarak adlandırılan
kavramın temel gerekliliklerini karşılaması gerekir. Bu, yalnızca aktörlerin eyleme
geçerken "gerçekten açık" seçimlere sahip olmasını gerektirmez, aynı zamanda
aktörlerin yaptıkları tüm eylemlerden ve bunların temelinden temel olarak sorumlu
olmalarını da gerektirir. Belki de robotlar, insanların yaptığı bazı görevleri yerine

getirdiğinde, aktif ve bilinçli karar verme özelliklerine sahipmiş gibi görünebilirler. Ancak
insan çıkarlarına zarar veren bir hata meydana geldiğinde sorumlu değildir, çünkü
bunun arkasında hala teknik sorunlar vardır ve teknik sorunlar insani sorunlardır. Eğer
insan bu sorumluluğa sahip olmazsa bilim ve teknoloji "öldürücü silah" haline gelebilir,
çünkü "robotlar da sorumlu olabilir" yanılgısına düşecek ve robotların kontrolünden
tamamen vazgeçeceğiz. Sırf duygusal robotlar, hatta seks robotları ortaya çıktı diye
insanlar ve makineler arasında karşılıklı güvene dayalı iyi bir ilişki kurabileceğimizi
düşünemeyiz. İnsan emirleri için makine önce bir risk değerlendirmesi yapar.
Harari, "İnsanlığın Kısa Tarihi" kitabının sonunda, insanların güçlü yeteneklere sahip
olmasına rağmen, her zamankinden daha sorumsuz olduklarını, sırf kendi rahatlıkları
ve eğlenceleri için felaketlere neden olmaya istekli olmadıklarını dünyaya hatırlattı.
İnsanlık "tanrıların gücüne sahiptir ama sorumsuzdur, açgözlüdür ve ne istediğini bile
bilmemektedir.” Bu yüzden dünya tehlike altındadır." Yapay zekânın insanlık tarihindeki
bir başka felaket olup olmadığı konusunda henüz bir sonuca varamasak da temkinli ve
eleştirel bir tutum gerekiyor.

4. Robot Etiğine Gerçekten İhtiyacımız Var Mı?
İnsan-makine ilişkilerinin etik uyumu konusunda başka bir ses ortaya çıktı; yani, insan
etiğinin ve robot etiğinin, insanların ve makinelerin bir arada var olmasından
kaynaklandığı yönündeki teorik önerme. Bu, insan-makine ilişkilerinin etik
tartışmasında hala açıklığa kavuşturulması gereken bir soruna sahip olduğumuz
anlamına geliyor; o da insanlarla makineler arasındaki sınırın giderek bulanıklaşmasıdır.
İnsanlar ve robotların "ortak" bir dizi etik kuralı olabilir. Veya uzmanlaşmış robot etiği
olabilir. Başka bir deyişle, “Robot etiğinin geliştirilmesinde, insan mühendisler
makinelerine kendi etik normlarını mı aşılamak zorunda kalacaklar? Daha önemli bir
çözüm olarak, yavaş yavaş Homo Sapiens için geçerli olmayan, robotları farklı
özelliklere sahip yapan bir etik tasarlayabilecek veya geliştirebilecek miyiz? Robotların
kendi etik sistemleri olacak mı? Yani robot etiği diye bir şey, hayal edilme aşamasını
geçebilecek mi? Martina Rosebra bir zamanlar şuna inanıyordu: "Bilinçli düşünen

kopyaların (klonların), yani zeki, duygusal, yaşayan sanal insanların yaratılması
insanlığın ortak bir arayışı haline geldiğinde, birçok yeni birey sorunuyla ve sosyal
sorunla karşı karşıya kalacağız. Çünkü bu, temel olarak özgürlük tanımını genişletiyor”.
Bu "ben" öznedir ve robot da genişletilmiş ya da genişletilmiş "ben" dir. Bu "ben" diğer
"ben" olmasa da onunla da ilişkilidir. Gerçek "insanlar" paralel olarak yaşayabilir (bir
arada bulunabilir).
Açıklamalar bağlamında; "robot etiği" etrafında üç farklı anlayış ortaya çıkmıştır. Biri,
insanın kendi meslek etiği ve sorumluluk etiğini temel alan robot etiği, yani insanlar
robotları yarattığı için robotların dünyadaki en temel insani etik ilkelere uyması
gerektiğidir. İkincisi, robotların özerkliği arttıkça, yarattığımız robotların insanlara zarar
vermemesini sağlamak için onlara uygun etik kurallar oluşturmalıyız. Üçüncüsü, robot
bilimi topluluğu bir gün bir robot yaratacak; Yeni davranış biçimleri biraz zaman alsa
da, sonunda tamamen özerk ahlaki aktörler yaratılacaktır. Üçüncü anlayış muhtemelen
Cyborg perspektifinde insan-makine ilişkisidir. Bu temelde "transhuman" ve

"posthuman" kavramları ortaya çıkmıştır. Transhümanizm, insanın potansiyeli ve özü
üzerine ileriye dönük bir yansımadır; posthümanizm ise insanın kökenleri ve nedensel
bağlantıları üzerine geriye dönük bir yansımadır. Süper insanlar, insan dışı varlıklar da
dâhil olmak üzere birden fazla hareket eden varlığın katılımıyla gelecekte farklı bir
dünyaya ve mekânsallığa sahip olunabilir.
Genel olarak ilk iki anlayışın işaret ettiği robot etiği, insanın robotlara yönelik öznelliğini
vurguladığı için varken, üçüncü anlayış, robotların kendisinin de bir etiğinin olduğuna
ve bu anlamda robot etiğinin bulunmadığına inanmaktadır. İnsanların robotlara
yüklediği etik, aslında insan etiğidir. Robotlar yalnızca insan etiği ile dünya arasındaki
ilişkiyi karmaşıklaştırır. Robotların kendi etiği gereksizdir ve kesinlikle ulaşılamaz.
İnsanlar, esas olarak robotların geliştirilmesiyle ilgili endişelerden dolayı, robotlara etik
değerleri dayatıyorlar. Bu da robot tasarımcıları, üreticileri, operatörleri ve robotların
kendileri üzerinde ikili etik kontrollerin benimsenmesi fikrine yol açıyor. Böylece
robotların etik risklerinden etkili bir şekilde kaçınılıyor. Yapay zekânın teknik yetenekleri
her geçen gün artıyor. Özellikle yapay zekâ derin öğrenmeye ve duygusal iletişime
girdiğinde ve grup işbirlikçi eylemler gerçekleştirebildiğinde, yani yapay zekâ meydan
okumaya, aşmaya, hatta tamamen kopmaya başladığında Başlangıçta insanın
tasarladığı ve kendi yarattığı algoritmadan hareketle "Yeni algoritmalar
benimsendiğinde yapay zekâ kaçınılmaz olarak tüm insan toplumunun gelişimini
etkileyecektir. Dolayısıyla bu endişe anlaşılabilir ancak derinlemesine düşünülmesi
gereken üç konu var. Bu endişeyi ortadan kaldırmak için: Birincisi, yapay zekânın kendi
yenilikçi algoritmaları makine programını değiştiriyor mu, yoksa bu etik bir düzen mi?
İkincisi, robot gerçekten birinci şahıs öz farkındalığını ve sağduyusunu
gerçekleştirebilecek ahlaki yetkiye sahip mi? Robot etiğine sahip olduğunun farkına
varın ve bunu başarmak için çok çalışın. Teknolojinin kullanılması, esasen sorunların
engelini kaldırmanın bir yoludur, ancak engeli kaldırma süreci çoğu zaman tahmin
edilmesi zor olan riskleri gizler. Yapay zekâ teknolojisi sürecinde insanlar teknoloji
tarafından "kaçırılabiliyor" ve yapay zekâ algoritmaları da bunlardan biri. Algoritmalar
yapay zekâ teknolojisinin temelidir. İnsanoğlu bazı şeylerin karar verme gücünü son
derece akıllı algoritmalara aktarmaya başlamıştır. Ancak geliştiriciler kendi değer
önyargılarını algoritmalara yerleştirebilmekte, hatta algoritma risklerini yasa dışı olarak
değiştirebilmektedir. Algoritmalar, insanlar tarafından verilen çeşitli talimatlara göre
programlanabilse ve hatta "kendi kararlarını verebilseler" de, öğrenme, akıl yürütme,
ilişkilendirme ve yeni yargılar üretme açısından algoritmalar şu anda yeterince güçlü
değildir. Robotların karar vermesinde sözde ahlâki bir önyargı varsa, bu yalnızca teknik
personelin algoritma tasarlarken yaptığı sübjektif seçim ve yargıdır. Onların inandıkları
tüm ahlaki kuralları ve yasaları gerçekten robota yazıp yazamayacakları şüphelidir.
Makine öğrenimi algoritmalarının "kara kutu" özellikleri, yetersiz veri desteği ve çok
bağlamlı sistemlerin sınırlamaları gibi mevcut teknik engellere ek olarak, algoritmayı
değiştirerek kararların doğruluğunu ve kararlılığını artırabilir. Yapay zekâ etiğini
düzenleyip, ardından "insan merkezli" etik ilişki modelini değiştirip, insan etiği ile robot
etiğinin bir arada yaşama hedefinin gerçekleşmesi şu an için mümkün değildir.
Programlama açısından robot, kendi mekanik mantığına dayanarak belirli bir programı
değiştirebilir ve bazı yeni "ifade" yolları elde edebilir. Ancak bu tür bir değişim robot

tarafından "kendinin farkında" olduğunu göstermez. Robot insanbilinçli olduğunun
farkına varmadan, kavramsal akıl yürütmeyi ve deneyimi gerçekleştiremez. Örneğin,
günümüzün sosyal robotu konuşabiliyor ama konuştuğunun hiç farkında değil. Onun
"konuşmasının" anlamı sadece dinleyenin (insanın) zihninde var oluyor.
Robotların doğası esas olarak mühendisler veya tasarımcılar tarafından belirleniyor."
Ancak gelecekteki insan-bilgisayar etkileşimi sistemi araştırmaları için dört net hedefin
olduğunu belirtmekte fayda var. Gelişim yönü; aktif tavsiye, bağımsız öğrenme, doğal
evrim ve kendi kendine bağışıklık; bunların arasında zekânın özerkliği en kritik olanıdır.
Yapay zekânın özerkliğinin dikkate alınması gereken dört yönü vardır: özerklik yalnızca
depolamadan ziyade bir hafıza işlevine sahip olmalı ve sezgi ve çağrışım üretebilmeli;
özerklik seçici olmalı ve seçim tek yönlü olmalı, çift yönlü olmalıdır; özerklik kontrol
edilebilir olmalıdır. Şu anki bakış açısına göre robotlar henüz insan kontrolünden
tamamen kurtulabilecek “özerkliğe” sahip değiller. Bir sosyal robot, insan benzeri
sosyal zekâyı göstermek için insanın bilişsel ve sosyal yeteneklerinin derin bir modeline
güvenebilse bile, yalnızca insanın özne bilincini ve etik düşüncesini genişletir. Bir
robotun biyolojik anlamda insanın ahlâki özerkliğine ve muhakeme yeteneğine sahip
olması mümkün olmadığı gibi, robot dünyasında da kendine ait bir etik norm sistemine
sahip olmayacaktır. Bir robotun, robot etiğine sahip olduğunu fark edebileceğini ve
bunu gerçekleştirmek için çabalayabileceğini varsayarsak, bunun için iki ön koşul
gerekir: etik öz farkındalık ve eylemdeki etik amaç.
Etik öz farkındalığın temel olarak iki anlamı vardır: Birincisi, etik konuların kendi etik
inançlarını, etik konumlarını, etik yargılama yeteneklerini ve olası davranışsal
sonuçlarını açıkça anlayabilmeleri, yani etik motivasyonları, sonuçları ve sorumlulukları
iyi anlamaları anlamına gelir. İkincisi, bu etik bilincin oluşması özgür ve bilinçli öğrenme
ve uygulamanın sonucudur, yani bu etik bilinç yaşam deneyiminden geçmiş bir ahlaki
deneyimdir.
Eğer bir robot kendisinin "etik" olduğunun farkına varmazsa, o zaman insanlar gibi etik
muhakeme ve davranışsal yeteneklere sahip akıllı bir etmen yaratmaya çalışmak
imkânsız olacaktır. Çünkü etik öz-farkındalık olmadan bağımsız bir ahlâki yetenek veya
etik bilgi edinme yeteneği gelişemez. Her ne kadar posthümanistler insanların kusurlu
olduğuna ve yapay zekânın insanları ele geçirmesine izin verilmesi gerektiğine inansa
da, hümanistler yapay zekânın kontrolden çıkmaması gerektiğinde ve robotların
insanların yapmak istediklerini yapması ve insan haklarına tamamen saygı duyması
gerektiğinde ısrar ediyor.
Bu düzeyde hümanizm, sorumlu bir ideolojik önermedir. Bu, yalnızca hümanist
anlamda makine etiği olabilecek, yani robot tasarımı, üretimi, işletimi ve uygulanmasına
ilişkin tüm süreçlerin ve düzenlemelerin etik olarak izlenmesine ihtiyacımızı kanıtlar.
Robotlar, insanlar tarafından tasarlanan ahlaki talimatları yerine getirirken, algoritma
ve program seçimine sahip olabilirler, ancak hiçbir zaman net bir amaçları yoktur ve
hedeflerine ulaşmak için içsel bir motivasyonlarının da olması beklenemez. Onlar
sadece programın pasif bir şekilde tamamlanmasıdır. Sonuçta, insanlarla hiçbir ilgisi
olmayan veya insanlarla bir arada var olabilen sözde makine etiği, insanın etik

değerlerinin ve hayal gücünün aşılanmasından başka bir şey değildir. En iyi ihtimalle,
bunlar insanların robotlara yaptığı “etik yatırımdır”. Yapay zekâ risklerine karşı önlem
alırken bu yatırımın teknokratik değil hümanist olması gerekiyor. Hümanizmin bilimsel
özü şudur: "İnsanlar araç değil amaçtır." "Yapay zekâ sonuçta insan doğasının
nesneleştirilmesidir ve insanlarla aynı statüye sahip olamaz." Şu anda insanlarla
robotların nasıl bir arada yaşayabileceğini düşünmemize gerek yok ama insanların
robotlar üzerindeki kontrol ve yönetim haklarını nasıl sağlayabileceklerine dikkat
etmemiz gerekiyor.
İnsanların yapay zekânın risklerini körü körüne haykırmak, kendilerini pasif (ikincil) bir
konuma yerleştirmek, yapay zekâ etiğine ve "etik benlik" kavramına umut bağlamak
yerine, yapay zekâyı akılcı ve basiretli bir şekilde geliştirmesi ve kullanması gerektiğini
görmeyi başarmalıdır. Gerekli olan Robot disiplini değil; Etik değerleri gelişmiş teknoloji
tasarımcıları bağlamında bilimsel karar disiplinidir.



Etiketler: handan,tunc,akıllı,cag