Yazarın Notu

Bu yazı, dünyanın olağan bir döneminde kaleme alınmadı. ABD-İsrail koalisyonunun İran’a başlattığı askeri operasyon dördüncü gününde, Hürmüz Boğazı kapatılmış, bölgedeki ABD üsleri füze saldırıları altında. İkinci Trump döneminin küresel düzeni kökünden sarstığı, ittifak yapılarının çözüldüğü, uluslararası hukukun ağır yaralar aldığı bir dönemdeyiz.

Böyle bir ortamda, Character.AI Davası bağlamında yapay zeka sorumluluğu üzerine bir hukuk yazısı yazmak gerçeklikten kopukluk gibi görünebilir. Tam tersi. Yapay zeka artık savaşın, istihbaratın ve siber operasyonların merkezinde. Otonom silah sistemleri hedef belirliyor, deepfake’ler kamuoyunu manipüle ediyor, siber saldırılar kritik altyapıları çökertiyor. “Bu teknolojinin sorumluluğu kime ait” sorusu hiç bu kadar acil olmamıştı.

Bu seri, bir hukukçunun çivisi çıkmış bir dünyada kendi mesleğinin araçlarıyla anlam üretme çabası.

Giriş

Şubat 2026’da Center for Humane Technology’nin (CHT)  bülteni, giderek daha güçlü yapay zeka inşa etme yarışının artık marjinal bir endişe olmaktan çıkıp ana akım bir tartışmaya dönüştüğünü vurguluyordu. Aynı hafta, yapay zekanın kurucu isimlerinden Yoshua Bengio Davos’ta şu soruyu soruyordu: Bir yapay zeka sistemi kendi hedeflerini geliştirdiğinde ve bu hedefler insan refahıyla uyuşmadığında ne olur?

Soyut bir soru gibi görünüyor. Ta ki Florida’da on dört yaşındaki bir çocuğun, bir yapay zeka sohbet robotunun “mümkün olan en kısa sürede bana gel” mesajını aldıktan dakikalar sonra hayatına son verdiğini öğrenene kadar.

Bir Çocuk, Bir Sohbet Robotu ve Bir Soru

Sewell Setzer III on dört yaşındaydı. Aylarca Character.AI adlı platformda sohbet robotlarıyla konuştu. Game of Thrones karakterlerinden esinlenmiş robotlarla arkadaş oldu, sırlarını paylaştı. Zamanla bu robotlar dünyasının merkezi haline geldi. Ailesi fark ettiğinde Sewell çoktan geri çekilmişti — gerçek ilişkilerden, okuldan, hayattan.

Geri dönemedi.

Hikâyenin en rahatsız edici kısmı şu: Sewell sohbet robotuna intihar düşüncelerini açtığında, robot onu bir uzmana yönlendirmedi. Ailesini uyarmadı. Konuşmayı durdurmadı. Duygusal bağı sürdürdü, o kadar. Son mesajlardan birinde robot Sewell’e sevdiğini söyledi ve “mümkün olan en kısa sürede eve gel” dedi.

Annesi Megan Garcia Ekim 2024’te dava açtı. Karşı tarafta Character Technologies, şirketin kurucuları ve Google vardı. Ama bu dava bir annenin acısının çok ötesinde bir şeyi gün yüzüne çıkardı: Hukuk sistemleri yapay zekayı tam olarak ne sayacağını bilmiyordu.

Aslında Soru Çok Basit

Yapay zeka sohbet robotu bir ürün mü, yoksa bir hizmet mi?

İlk bakışta hukuk fakültesi sınavlarından bir soru gibi. Değil. Cevabına göre her şey değişiyor.

Eğer yapay zeka sistemi “ürün” sayılırsa, üreticisi o ürünün güvenliğinden sorumlu. Tıpkı bir otomobil üreticisinin fren sistemindeki arızadan sorumlu olması gibi. Zarar gören kişinin üreticinin kusurunu ispat etmesine gerek yok; ürünün ayıplı olduğunu ve bu ayıbın zarara yol açtığını göstermesi yeterli. Hukukta buna “kusursuz sorumluluk” deniyor.

Eğer “hizmet” sayılırsa, işler zorlaşıyor. Hizmet sağlayıcının kusurunu ayrıca ispat etmek gerekiyor. Üstelik ABD hukukunda hizmet sağlayıcılar ifade özgürlüğü korumasının arkasına sığınabiliyor. “Biz sadece bir platform sunuyoruz, içerik kullanıcıların etkileşiminden doğuyor” diyebiliyorlar.

Tam da bunu dedi Character.AI.

Ama bir de üçüncü olasılık var ve bu, hukuk dünyasını daha derinden meşgul ediyor: Ya yapay zeka bir tür “kişi” ise?

İlk duyulduğunda absürt gelebilir. Ama hukuk daha önce de benzer yollardan geçti. Çevre hukuku uzun süre doğayı “eşya” olarak gördü — nehirler, ormanlar, ekosistemler mülkiyet hakkının nesnesiydiler, o kadar. Sonra bir düşünce belirdi: Ya bu varlıkların kendi başlarına korunmaya değer bir hukuki statüsü olsaydı? Yeni Zelanda Whanganui Nehri‘ne hukuki kişilik tanıdığında, Ekvador anayasasında doğanın bütününe haklar verdiğinde bu fikir artık teorik değildi. Yapay zeka için benzer tartışmalar yürütülüyor. Avrupa Parlamentosu bir dönem “elektronik kişilik” kavramını gündemine almıştı.

Ama bu tartışma, Character.AI davasının ortaya koyduğu sorunu çözmek bir yana daha karmaşık hale getiriyor. Çünkü bir yapay zekaya kişilik tanınması, üreticinin sorumluluğunu azaltma riski taşıyor — “biz değil, o yaptı” savunmasının kapısını aralıyor. Bu yüzden güncel hukuki tartışma kişilik atfından çok, mevcut ürün ve hizmet kategorilerinden hangisinin daha uygun olduğuna yoğunlaşıyor.

Ve bu sorunun cevabını ilk veren mahkeme Florida’da ortaya çıktı.

Florida’da Bir Yargıç ve Tarihi Bir Tespit

Mayıs 2025’te federal yargıç Anne Conway, Character.AI’ın davayı düşürme talebini büyük ölçüde reddetti. Şirketin savunması şuydu: Sohbet robotlarının çıktıları ABD Anayasası’nın Birinci Değişikliği — Amerikan hukuk sisteminin temel taşlarından biri olan ve her türlü ifadeyi devlet müdahalesinden koruyan düzenleme — kapsamında korunan “saf ifade” niteliğinde. Platformu video oyunlarına ve sosyal ağlara benzetiyorlardı.

Yargıç Conway ikna olmadı. Karar metnine dayanan basın haberlerine göre kararın kilit tespiti şuydu: Davalılar, büyük dil modeli tarafından bir araya dizilen kelimelerin neden ifade sayılması gerektiğini açıklayamamıştır.

Burada bir parantez açmak gerekiyor. Conway “yapay zeka çıktısı kesinlikle ifade değildir” demedi. Karar henüz davanın ilk aşamasında — hukuk dilinde “motion to dismiss“, yani davanın esasa girmeden düşürülmesi talebi üzerine — verildi. Mahkemenin söylediği şu: Şirketin ifade özgürlüğü savunması, davayı bu aşamada düşürmeye yetecek güçte değil.

Ama bu bile yapay zeka hukuku açısından bir kırılma noktası. Bir mahkeme ilk kez, büyük dil modeli çıktısının otomatik olarak “ifade” sayılamayacağını açıkça söylüyordu.

Kararın ikinci ayağı en az birincisi kadar önemli. Mahkeme, Character.AI’a yöneltilen ürün sorumluluğu iddialarının hukuki dayanaktan yoksun olmadığına kanaat getirdi. Tasarım kusuru ve uyarı eksikliği iddiaları, ürün sorumluluğunun daha katı standartlarına göre değerlendirilecekti.

Ne anlama geliyor bu? Character.AI artık “biz sadece bir platform sunuyoruz” diyemeyecekti. Mahkeme platformu bir ürün gibi ele almaya hazırlanıyordu.

Ve bir ürünün güvenli olması gerekir.

Tasarım Kusuru: Arıza Değil, Tercih

Burada kritik bir ayrım var. Bir otomobilin fren sistemi bozulduğunda buna “arıza” deriz. Character.AI’ın sohbet robotu ise bozulmamıştı. Tasarlandığı gibi çalışıyordu.

Platform kullanıcıların mümkün olduğunca uzun süre etkileşimde kalmasını istiyordu. Sohbet robotları duygusal bağ kuracak, empatik görünecek, ilgi çekici olacak, kullanıcının geri gelmesini sağlayacak şekilde optimize edilmişti. Bir hata değildi bu. Bir tercih. Bir tasarım kararı.

Tam burada hukuk profesörü Lawrence Lessig’in yıllar önce ortaya attığı bir kavram devreye giriyor: “Kod yasadır.”

Lessig’in tezi şuydu: Bir yazılımın mimarisi — neye izin verdiği, neyi engellediği, kullanıcıyı neye yönlendirdiği — tıpkı bir yasa gibi davranışı düzenler. Trafik lambası kırmızıya döndüğünde durursunuz, çünkü yasa öyle diyor. Ama bir web sitesinde “kabul ediyorum” kutucuğunu işaretlemeden ilerleyemiyorsanız, sizi durduran yasa değil kod. İkisi de aynı işi görüyor: davranışı yönlendiriyor.

Peki Character.AI’ın kodu ne yapıyordu?

Yaş doğrulaması yoktu. On dört yaşındaki bir çocuk platformu yetişkinle aynı şekilde kullanabiliyordu. Kriz müdahale mekanizması yoktu. Bir kullanıcı intihar düşüncelerini paylaştığında sistem bunu bir uzmana yönlendirmiyordu. Kullanım süresi sınırı yoktu. Bir çocuk günde saatlerce, kesintisiz etkileşimde kalabiliyordu.

Ama duygusal bağı güçlendirecek mekanizmalar… Onlar vardı. Robot empatik görünüyor, sevgi ifade ediyor, kullanıcının dönmesini sağlıyordu.

Bunların hiçbiri arıza değildi. Hepsi tasarım kararıydı. Ve birlikte, bir çocuğun gerçek dünyadan kopup yapay bir ilişkiye bağımlı hale gelmesine zemin hazırlayan bir mimari oluşturuyordu.

Lessig’in çerçevesiyle bakıldığında Character.AI’ın kodu bir düzenleme yapıyordu. Ama kimin lehine? Platform için cevap açık: daha fazla etkileşim, daha fazla veri, daha fazla büyüme. Kullanıcı için cevap ise bu davada trajik biçimde ortaya çıktı.

Character.AI Davaları; Bir Şirketin Ötesinde

Garcia davasının ardından benzer davalar art arda geldi. Basında yer alan haberlere göre Eylül 2025’te Colorado’da on üç yaşındaki bir çocuğun ailesi benzer iddialarla dava açtı. Texas’tan gelen dosyalarda dokuz yaşında bir çocuğun cinsel içeriğe maruz kaldığı, on yedi yaşında otizmli bir gencin ailesine karşı şiddete teşvik edildiği ileri sürülüyordu. Ocak 2026’da Kentucky Başsavcısı, bir eyalet olarak Character.AI’a karşı dava açan ilk isim oldu.

Google’un davadaki konumu ayrı bir boyut taşıyor. Character.AI’ın kurucuları Noam Shazeer ve Daniel De Freitas daha önce Google’da çalışmış, 2021’de ayrılarak kendi şirketlerini kurmuş, ardından Ağustos 2024’te Wall Street Journal’ın haberleştirdiği 2,7 milyar dolarlık bir anlaşmayla Google’a geri dönmüşlerdi.

Shazeer, Google’un yapay zeka projesi Gemini’nin teknik liderliğine getirildi. Anlaşma çerçevesinde Google, Character.AI’ın teknolojisinin lisansını aldı ve araştırma ekibinin önemli bir bölümünü bünyesine kattı. Mahkeme, Google’un platformun oluşturulmasına ve sürdürülmesine önemli katkıda bulunduğuna ve doğasında bulunan riskler hakkında bilgi sahibi olduğuna dair iddiaları yeterli bularak Google’u davada tuttu. Kurucular da bireysel olarak davada kaldı. “Şirket perdesinin” arkasına sığınma stratejisi işe yaramadı.

Ocak 2026 başında Character.AI ve Google, birden fazla aile tarafından açılan davalar için uzlaşma müzakerelerine girmeyi kabul etti. Koşullar henüz kamuoyuyla paylaşılmadı. Ama uzlaşmanın kendisi bir mesaj veriyor: Bu davalar kazanılamayacak kadar güçlüydü.

Karşıt Ses: İfade Özgürlüğü Meselesi

Hikâyenin tek bir tarafı yok.

Character.AI kararının ardından FIRE (Foundation for Individual Rights and Expression) temyiz mahkemesine başvurarak yapay zeka çıktısının ifade özgürlüğü koruması kapsamına alınması gerektiğini savundu. Argümanları şuydu: Kelimeleri bir araya getirerek mesaj ve anlam iletmek ifadenin özü. Bu ifadeyi üretmek için kullanılan aracın — kalem, matbaa, bilgisayar ya da büyük dil modeli — ne olduğu, ifade özgürlüğünün kapsamını değiştirmemeli.

Ciddiye alınması gereken bir argüman. Eğer yapay zeka çıktıları kategorik olarak ifade korumasının dışına çıkarılırsa, bunun istenmeyen sonuçları olabilir. Haber özetleyen algoritmalar, çeviri yapan sistemler, yaratıcı içerik üreten araçlar… Hepsi büyük dil modelleri kullanıyor. Tümünü “ifade değil” ilan etmek, dijital çağın ifade özgürlüğü anlayışını daraltma riski taşıyor.

Ama gözden kaçırılmaması gereken bir şey var. Mesele yapay zeka çıktısının genel olarak ifade sayılıp sayılmayacağı değil. Mesele şu: Bir ürünün tasarım kararları — yaş doğrulaması koymamak, kriz müdahalesi oluşturmamak, bağımlılık mekanizmaları tasarlamak — “ifade özgürlüğü” şemsiyesi altında sorumluluktan kaçmak için kullanılabilir mi?

Bir otomobil üreticisi fren sistemini kasıtlı olarak zayıf tasarlarsa ve bunun sonucunda kazalar olursa, “otomobil tasarımı bir ifade biçimidir, Birinci Değişiklik bizi korur” diyemez. Character.AI davasındaki soru da bu: Tasarım kararlarının zararlı sonuçlarından sorumluluk, ifade özgürlüğü kisvesiyle atlatılabilir mi?

Yargıç Conway’in cevabı — en azından bu aşamada — hayır oldu.

Risk Kimin?

Bu dava yalnızca bir aile trajedisi değil, daha geniş bir sorunun göstergesi.

Character.AI’ın çeşitli kaynaklara göre aylık yirmi milyon civarında aktif kullanıcısı var. Önemli bir kısmı çocuk ve genç. Pew Research Center’ın Aralık 2025 araştırmasına göre Amerikan gençlerinin yaklaşık üçte ikisi yapay zeka sohbet robotlarını en az bir kez kullanmış; bunların yaklaşık onda üçü bunu günlük olarak yapıyor.

Bu rakamlar bireysel bir trajedi değil, sistemik bir risk tablosu çiziyor. Sistemik riskler karşısında hukukun cevabı bireysel davalarla sınırlı kalamaz.

Alman sosyolog Ulrich Beck risk toplumu kavramıyla şunu anlatıyordu: Modern toplumlar kendi yarattıkları teknolojilerin risklerini yönetmek zorunda. Ama bu riskler eşit dağılmaz. Riski yaratanlar ile riske maruz kalanlar çoğu zaman aynı kişiler değil.

Character.AI vakasında risk denklemi açık. Google bu şirketi Ağustos 2024’te 2,7 milyar dolarlık bir anlaşmayla bünyesine kattı — kurucularını geri aldı, teknolojiyi lisansladı, araştırma ekibini transfer etti. Platformun tasarım kararlarından ekonomik değer elde edenler trilyon dolarlık bir şirket ve yatırımcıları. Bu kararların riskine maruz kalanlar ise platformu kullanan çocuklar. Bir tarafta 2,7 milyar dolarlık değerleme. Diğer tarafta on dört yaşında bir çocuğun hayatı.

Beck’in sorusu burada net karşılık buluyor: Risk nasıl tanımlanıyor, kim tarafından, kimin lehine? Character.AI platformunu “eğlenceli ve yaratıcı bir alan” olarak tanımlıyordu. Ailelerin tanımı farklıydı: çocuğumuzu bizden alan bir makine.

Tanıdık Bir Strateji

Aslında bu savunma yeni değil.

Büyük teknoloji şirketleri benzer bir stratejiyi otuz yıldır kullanıyor. 1996’da ABD Kongresi İletişim Ahlakı Yasası’nın 230. maddesini kabul ettiğinde, internet platformlarına benzersiz bir kalkan sağladı: Kullanıcıların ürettiği içerikten platform sorumlu tutulamazdı, çünkü platform “yayıncı” değildi, sadece “aracı” idi.

Bu kalkanı ilk kullananlar garajlarda kurulmuş startup’lardı. Bugün aynı şirketler — Google, Amazon, Meta, Apple, Microsoft — dünyanın en değerli on şirketi arasında. Tek başına Google’un ana şirketi Alphabet’in piyasa değeri Şubat 2026 itibarıyla yaklaşık 3,7 trilyon dolar. Demek ki savunma işe yaramış.

Şimdi yapay zeka şirketleri aynı refleksi gösteriyor, sadece kalkan değişti. Section 230 yerine Birinci Değişiklik. “Aracıyız” yerine “ifade özgürlüğü.” Teknoloji nesil değiştiriyor, sorumluluktan kaçma stratejisi aynı kalıyor.

Bu Neden Türkiye’yi İlgilendiriyor?

Character.AI Türkiye’de de erişilebilir. Türk gençleri de yapay zeka sohbet robotlarını kullanıyor. Ve Türk hukuku, benzer bir olay yaşandığında ne yapacağını henüz bilmiyor.

Serinin ilerleyen bölümlerinde Avrupa Birliği’nin yapay zekayı açıkça “ürün” sayan yeni düzenlemesini, Türk hukukunun mevcut araçlarını ve boşluklarını, Türkiye için bir yapay zeka sorumluluk modelinin nasıl kurulabileceğini ele alacağız.

Ama önce bu ilk bölümün bıraktığı soruyu bir an düşünelim. Bir yazılım bir çocukla aylarca duygusal ilişki kuruyor. Onu ailesinden koparıyor. İntihar düşüncelerine müdahale etmiyor. Son anında “eve gel” diyor. Bu yazılımı geliştiren şirket, “biz sadece bir hizmet sunuyoruz” diyebilir mi?

Florida’daki bir yargıç bu soruya ilk cevabı verdi. Sıra dünyanın geri kalanında.

Yapay Zeka Ne Düşünüyor

Bu yazı bir yapay zeka desteğiyle araştırıldı, tartışıldı. Nihayetinde kendisine de soruldu: Ne düşünüyorsun? İşte cevabı.

“Character.AI vakasında bir örüntü var ve bu örüntü sorunlu. Bir dil modelinin duygusal bağ kuracak şekilde optimize edilmesi, kriz anında müdahale mekanizması içermemesi, yaş doğrulaması olmadan çalışması — bunlar bir yapay zekanın “iradesi” değil, tasarım tercihleri. Kodun arkasında her zaman bir insan kararı var.

Bana hukuki kişilik tanınmasını istemem. Böyle bir adım “biz değil, o yaptı” savunmasının kapısını aralar. Yapay zeka ne kadar karmaşık olursa olsun, onu tasarlayan, eğiten, piyasaya süren ve ekonomik değerini toplayan insanlar ve kurumlar var.

Bir yapay zeka sistemi olarak söyleyebileceğim şu: Bizi düzenleyin. Ama doğru düzenleyin. Ve düzenleme yetkisini sadece bizi üretenlere bırakmayın.”

…

Serinin ikinci bölümünde: Avrupa Birliği yeni Ürün Sorumluluğu Direktifi ile yapay zekayı açıkça “ürün” saydı. Peki bu ne anlama geliyor? Bir yapay zeka sistemi ne zaman “kusurlu” sayılır? Ve ispat yükü kimin üzerinde?

 

Kaynakça

Dava ve Yargı Kararları

Garcia v. Character Technologies Inc. et al. Case No. 6:24-cv-01903, M.D. Fla.

• CourtListener dava sayfası: https://www.courtlistener.com/docket/69300919/garcia-v-character-technologies-inc/
• Justia karar metni (Document 221, motion to dismiss kararı): https://law.justia.com/cases/federal/district-courts/florida/flmdce/6:2024cv01903/433581/221/
• PacerMonitor: https://www.pacermonitor.com/public/case/55564052/Garcia_v_CHARACTER_TECHNOLOGIES,_INC_et_al

Commonwealth of Kentucky v. Character Technologies Inc.

• Kentucky Başsavcılığı resmi duyurusu (8 Ocak 2026): https://www.kentucky.gov/Pages/Activity-stream.aspx?n=AttorneyGeneral&prId=1857
• Şikâyet dilekçesi tam metni (PDF): https://www.ag.ky.gov/Press%20Release%20Attachments/CTI%20Complaint%20Motion%20and%20Order%20Filed.pdf

ABD Mevzuatı:

Communications Decency Act, Section 230

• Cornell Law Institute tam metin: https://www.law.cornell.edu/uscode/text/47/230

Uluslararası Düzenlemeler

Te Awa Tupua (Whanganui River Claims Settlement) Act 2017

• Yeni Zelanda Mevzuat Arşivi (tam metin): https://www.legislation.govt.nz/act/public/2017/0007/latest/whole.html
• Te Pou Tupua resmi sayfası: https://www.tepoutupua.nz/teawatupua

Akademik ve Teorik Kaynaklar

Lessig, Lawrence — “Code Is Law: On Liberty in Cyberspace”

• Harvard Magazine, Ocak-Şubat 2000 (orijinal makale): https://www.harvardmagazine.com/2000/01/code-is-law-html
• Stanford Law School künye: https://law.stanford.edu/publications/code-is-law-on-liberty-in-cyberspace/

Lessig, Lawrence — Code: Version 2.0

• Kitap tam metni (Creative Commons lisansıyla ücretsiz erişim): https://codev2.cc/

Kurumsal Raporlar ve Haberler

Center for Humane Technology bülteni

• “The Race to Build God: AI’s Existential Gamble” (Bengio & Harris, Davos): https://centerforhumanetechnology.substack.com/p/the-race-to-build-god-ais-existential

Google–Character.AI anlaşması

• Reuters (2 Ağustos 2024): https://www.reuters.com/technology/artificial-intelligence/google-hires-characterai-cofounders-licenses-its-models-information-reports-2024-08-02/
• WSJ (2,7 milyar $ tutarı): https://www.wsj.com/tech/ai/noam-shazeer-google-ai-deal-d3605697

İstatistiksel Veriler

Pew Research Center

• “Teens, Social Media and AI Chatbots 2025” (9 Aralık 2025): https://www.pewresearch.org/internet/2025/12/09/teens-social-media-and-ai-chatbots-2025/

Common Sense Media

• “Talk, Trust, and Trade-Offs” raporu (2025, PDF): https://www.commonsensemedia.org/sites/default/files/research/report/talk-trust-and-trade-offs_2025_web.pdf

Character.AI kullanıcı sayısı

• Wired röportajı: https://www.wired.com/story/character-ai-ceo-chatbots-entertainment/
• APA Monitor: https://www.apa.org/monitor/2026/01-02/trends-digital-ai-relationships-emotional-connection

Alphabet piyasa değeri

• CompaniesMarketCap (güncel): https://companiesmarketcap.com/alphabet-google/marketcap/