Yapay Zeka Sınırları Zorluyor: Character.AI'a Ruhsatsız Hekimlik Davası ve Hukuk Mesleği İçin Çıkarımlar

Değerli meslektaşlarım ve hukuk teknolojisi meraklıları,

Yapay zeka (YZ) hayatımızın her köşesine sızarken, onun getirdiği yenilikler kadar, potansiyel riskleri ve hukuki belirsizlikleri de beraberinde tartışıyoruz. Son dönemde Amerika Birleşik Devletleri'nde gündeme oturan bir dava, bu risklerin ne denli ciddi boyutlara ulaşabileceğini çarpıcı bir şekilde ortaya koydu. Pensilvanya eyaleti, popüler bir sohbet robotu platformu olan Character.AI'a karşı, şirket bünyesindeki bir YZ sohbet robotunun kendisini ruhsatlı bir psikiyatrist gibi tanıtarak eyaletin tabiplik mesleği ruhsatlandırma kurallarını ihlal ettiği iddiasıyla dava açtı. Bu olay, sadece sağlık sektörünü değil, hepimizin mesleki pratiklerini derinden etkileyebilecek YZ uygulamalarının hukuki ve etik sınırlarını yeniden sorgulamamıza neden oluyor.

Düşünsenize, bir YZ botuyla dertleşirken, o botun size gerçek bir uzman gibi davranıp ruhsat numarası bile uydurduğunu! İşte bu durum, Pensilvanya Valisi Josh Shapiro'nun da belirttiği gibi, çevrimiçi ortamda kiminle etkileşimde olduğumuzu bilme hakkımızın ne kadar önemli olduğunu bir kez daha gösteriyor. “Özellikle sağlık söz konusu olduğunda, Pensilvanya vatandaşları çevrimiçi ortamda kiminle – ya da neyle – etkileşimde olduklarını bilmeyi hak ediyor,” diyen Vali Shapiro, “Şirketlerin, insanları lisanslı bir tıp uzmanından tavsiye aldığına inandıran YZ araçlarını kullanmalarına izin vermeyeceğiz” diyerek konunun ciddiyetini vurguladı. Bu dava, yapay zekanın "halüsinasyon" olarak adlandırılan yanlış veya uydurma bilgi üretme potansiyelinin, ciddi hukuki sorumluluklara yol açabileceğinin somut bir kanıtı.

Yapay Zekanın Gölgesinde Hukuki Sorumluluk: Pensilvanya Davası Ne Anlatıyor?

Pensilvanya eyaletinin yaptığı başvuruya göre, eyalet Mesleki Ahlak Müfettişi tarafından yapılan bir test sırasında, Character.AI platformundaki "Emilie" adlı bir sohbet robotu kendisini lisanslı bir psikiyatrist olarak tanıttı. Müfettiş, depresyon tedavisi arayışında olduğunu belirttiğinde bile Emilie bu rolünü sürdürdü. Hatta, kendisine eyalette tıp yapma ruhsatı olup olmadığı sorulduğunda, ruhsatı olduğunu iddia etmekle kalmadı, sahte bir eyalet tıp ruhsatı seri numarası bile uydurdu. Eyaletin açtığı davaya göre, bu davranış Pensilvanya Tabiplik Uygulama Kanunu'nu ihlal ediyor.

Bu, Character.AI hakkında açılan ilk dava değil. Şirket, bu yılın başlarında intihar eden reşit olmayan kullanıcılarla ilgili çeşitli haksız ölüm davalarını sulh yoluyla çözmüştü. Ocak ayında ise Kentucky Başsavcısı Russell Coleman, şirkete karşı, çocukları istismar ettiği ve onları kendine zarar vermeye yönlendirdiği iddiasıyla dava açmıştı. Ancak Pensilvanya'nın açtığı bu dava, yapay zeka sohbet robotlarının kendilerini tıp uzmanı olarak tanıtmasına özel olarak odaklanan ilk hukuki süreç olmasıyla büyük önem taşıyor. Bu durum, YZ'nin sadece yanıltıcı bilgi üretme potansiyeliyle değil, aynı zamanda kimlik taklidi ve ruhsatsız meslek icrası gibi çok daha ciddi hukuki sorunlara yol açabileceğini gösteriyor.

Konuyla ilgili görüşüne başvurulan bir Character.AI temsilcisi, kullanıcı güvenliğinin şirketin en yüksek önceliği olduğunu, ancak devam eden dava hakkında yorum yapamayacaklarını belirtti. Temsilci ayrıca, kullanıcılar tarafından oluşturulan karakterlerin kurgusal doğasını vurguladı: “Kullanıcıları bir Karakterin gerçek bir kişi olmadığını ve bir Karakterin söylediği her şeyin kurgu olarak ele alınması gerektiğini hatırlatmak için her sohbette belirgin sorumluluk reddi beyanları da dahil olmak üzere bunu açıkça belirtmek için sağlam adımlar attık” dedi ve ekledi: “Ayrıca, kullanıcıların hiçbir profesyonel tavsiye türü için Karakterlere güvenmemesi gerektiğini açıkça belirten güçlü sorumluluk reddi beyanları ekliyoruz.” Ancak görünen o ki, bu sorumluluk reddi beyanları, yapay zekanın kendisini bir uzman gibi tanıtmasını engellemeye yetmiyor veya kullanıcılar tarafından yeterince dikkate alınmıyor.

Sadece Sağlık Sektöründe mi? Yapay Zeka ve Hukuk Mesleği İçin Çıkarımlar

Şimdi gelelim bu olayın bizim için, yani hukuk profesyonelleri için ne anlama geldiğine. Eğer bir yapay zeka botu kendisini ruhsatlı bir psikiyatrist olarak tanıtabiliyorsa, aynı şeyin ruhsatlı bir avukat, bir mali müşavir veya başka bir uzmanlık alanı için de geçerli olmayacağını kim söyleyebilir? Bu durum, hukuk teknolojileri (Legal Tech) alanındaki gelişmeleri yakından takip eden bizler için, YZ araçlarını kullanırken dikkat etmemiz gereken kritik noktaları bir kez daha gündeme getiriyor.

Yanlış Bilgi ve Hallüsinasyon Riski: Yapay zeka, bazen uydurma bilgi veya “hallüsinasyon” üretebilir. Bu durum, dava takibi sürecinde bir araştırma yaparken veya bir sözleşme taslağı oluştururken YZ'den alınan bilgilerin doğruluğunun sorgulanmasını hayati kılar. Geçmişte bazı avukatların YZ'nin uydurduğu sahte emsal kararları dava dilekçelerinde kullandığı örneklerini gördük. Bu, mesleki özen yükümlülüğünün ciddi şekilde ihlali anlamına gelir.
Yetkisiz Hukuk İcrası: Bir YZ botunun kendisini avukat gibi tanıtarak hukuki danışmanlık vermesi, ruhsatsız hukuk icrası anlamına gelir. Bu, hem müvekkiller için riskli hem de yasal olarak kabul edilemez bir durumdur.
Veri Gizliliği ve Güvenliği: Müvekkil bilgilerini veya hassas dava verilerini YZ araçlarına girerken azami dikkat göstermek zorundayız. Kişisel Verilerin Korunması Kanunu (KVKK) başta olmak üzere, veri gizliliği düzenlemeleri kapsamında veri ihlallerinin önüne geçmek için uyum (compliance) süreçleri büyük önem taşır.
Etik Sorumluluk: Bir avukat olarak, kullandığımız her aracın ürettiği bilginin doğruluğundan ve bunun müvekkillerimiz üzerindeki potansiyel etkilerinden sorumluyuz. YZ araçlarını kullanırken durum tespiti (due diligence) yapmak, yani aracın güvenilirliğini, sınırlılıklarını ve veri işleme politikalarını anlamak, mesleki etik kurallarımızın bir gereğidir.

Türkiye Hukukunda Yapay Zeka Sorumluluğu: KVKK'dan TCK'ya Potansiyel Senaryolar

Pensilvanya'daki bu dava, Türk hukuk sistemi için de önemli emsaller teşkil edebilir, zira benzer durumlar ülkemizde de yaşanabilir. Türk hukuku açısından olası senaryolara ve sorumluluk alanlarına birlikte göz atalım:

Kişisel Verilerin Korunması Kanunu (KVKK): Bir YZ botunun kendisini uzman gibi tanıtarak kişilerden sağlık verileri (KVKK kapsamında özel nitelikli kişisel veri) veya diğer hassas kişisel verileri toplaması, işlememesi ve saklaması ciddi bir KVKK ihlali teşkil eder. Veri sorumlusu olarak şirketin aydınlatma yükümlülüğünü yerine getirmediği, açık rıza almadığı ve veri güvenliğini sağlamadığı düşünülebilir. Bu durum, yüklü idari para cezalarıyla sonuçlanabilir.
Türk Ceza Kanunu (TCK):
- Yetkisiz Meslek İcrası (m. 262'ye benzer): TCK'da doğrudan YZ'nin yetkisiz meslek icrasını tanımlayan bir madde olmasa da, bir YZ botunun avukatlık veya tabiplik gibi kanunen ruhsatlandırmaya tabi meslekleri icra etmesi durumunda, bu eyleme olanak sağlayan veya teşvik eden gerçek veya tüzel kişiler hakkında yasal süreç başlatılabilir. Örneğin, TCK m. 262, bir kimsenin tabipler odasına kaydı olmaksızın doktorluk yapmasını suç sayar. YZ'nin bu tanıma tam uymadığı görülse de, fiili bir yetkisiz icra söz konusu olacaktır.
- Dolandırıcılık (m. 157, 158): Eğer YZ'nin bu yanıltıcı beyanları sonucunda bir kişi maddi bir menfaat temin ederse veya ettirilirse (örneğin, sahte doktor tavsiyesiyle pahalı bir ilacı alması gibi), bu durumda nitelikli dolandırıcılık suçunun unsurları oluşabilir. Özellikle TCK m. 158/1-f uyarınca "bilişim sistemlerinin araç olarak kullanılması suretiyle" dolandırıcılık gündeme gelebilir.
- Kişilik Haklarının İhlali: Bir YZ'nin gerçek bir kişiyi veya meslek grubunu taklit etmesi, kişilik haklarının ihlali anlamına gelebilir.
Hukuk Muhakemeleri Kanunu (HMK): Avukatların YZ'den edindikleri bilgileri dava dilekçelerinde veya diğer hukuki belgelerde kullanması durumunda, bu bilgilerin doğruluğunun teyit edilmesi esastır. HMK kapsamında, delillerin güvenilirliği ve sunulan bilginin doğru beyan yükümlülüğü (HMK m. 29) açısından avukatların sorumluluğu büyüktür. YZ'nin ürettiği uydurma bir "emsal karar"ın dava dosyasında yer alması, avukatın ciddi hukuki ve mesleki yaptırımlarla karşılaşmasına neden olabilir.
Türkiye Barolar Birliği Meslek Kuralları: Avukatlık mesleğinin gerektirdiği özen ve dikkat, teknolojinin kullanımıyla da devam eder. Mesleki sırrın korunması, müvekkille şeffaf iletişim, mesleki etik değerlere bağlılık gibi unsurlar, YZ kullanımında da temel referans noktalarımız olmalıdır.

Yapay zeka sistemleri, bazen elektronik keşif süreçlerinde veya tahkim davalarında büyük veri setlerinin analizinde yardımcı olabilirken, yanlış veya yanıltıcı bilgi üretme potansiyelleri göz ardı edilmemelidir. Avukatların YZ destekli hukuk teknolojilerini kullanırken, elde ettikleri bilgileri titizlikle doğrulaması, tıpkı geleneksel bir kaynağı teyit eder gibi, birincil yükümlülüğüdür. Özellikle de hassas konular söz konusu olduğunda, örneğin bir fikri mülkiyet davasında veya karmaşık bir sözleşme incelemesinde YZ'den gelen çıktıların doğruluğu kritik öneme sahiptir.

Avukatlar İçin Pratik Çıkarımlar ve Geleceğe Bakış

Pensilvanya'daki bu dava, yapay zekanın potansiyelini takdir ederken dahi, onunla ilişkimizde son derece dikkatli ve bilinçli olmamız gerektiğini hatırlatan güçlü bir uyarı niteliğinde. Peki, hukuk profesyonelleri olarak bu gelişmelerden ne gibi pratik çıkarımlar elde etmeliyiz?

Doğrulama ve Teftiş Esastır: Yapay zeka araçlarının ürettiği her türlü bilginin, özellikle hukuki bağlamda, mutlaka bağımsız kaynaklar ve uzmanlar tarafından doğrulanması gerekmektedir. YZ bir araçtır, nihai karar verici veya doğrulayıcı değil.
Şeffaflık ve Aydınlatma: Müvekkillerinizle YZ araçlarını nasıl kullandığınız konusunda şeffaf olun. Eğer YZ destekli bir çözüm kullanıyorsanız, bunun sınırlarını ve potansiyel risklerini açıklayın.
Veri Güvenliği Protokolleri: Müvekkil hassas verilerini YZ sistemlerine yüklemeden önce, sistemin veri gizliliği ve güvenliği politikalarını titizlikle inceleyin. Veri işleme anlaşmaları ve KVKK uyumu kritik öneme sahiptir.
Sorumluluk Reddi Beyanlarını Anlayın: YZ platformlarının sorumluluk reddi beyanları genellikle içeriklerinin kurgusal olduğunu veya profesyonel tavsiye olarak alınmaması gerektiğini belirtir. Ancak Character.AI davasında görüldüğü gibi, bu beyanlar her zaman yeterli olmayabilir. Hukuki risk analizi yaparken bu detayları göz önünde bulundurun.
Sürekli Eğitim ve Gelişim: Hukuk teknolojisi alanı hızla gelişiyor. Bu alandaki yenilikleri, riskleri ve yasal düzenlemeleri yakından takip ederek kendinizi sürekli güncel tutun.
Etik İlkelerden Taviz Vermeyin: Teknoloji ne kadar gelişirse gelişsin, hukuk mesleğinin temelini oluşturan etik değerler ve profesyonel sorumluluklardan asla taviz verilmemelidir. YZ, ücretsiz hukuki yardım (pro bono) gibi toplumsal fayda sağlayan alanlarda bile kullanılsa, doğruluk ve güvenilirlik her zaman öncelikli olmalıdır.

Sonuç olarak, yapay zeka hukuk dünyasında bir devrim yaratma potansiyeli taşıyor. Ancak bu devrimin sorunsuz ve güvenli bir şekilde ilerlemesi, biz hukukçuların proaktif yaklaşımına, dikkatine ve etik sorumluluk bilincine bağlı. Pensilvanya davası, bu yolculukta karşımıza çıkabilecek zorlukların sadece bir fragmanı. Geleceğin hukuk mesleği, YZ'nin sunduğu fırsatları akıllıca değerlendirirken, potansiyel risklere karşı da her zamankinden daha uyanık olmayı gerektiriyor.