Yapay Zeka Etiği ve Hukukta Yeni Bir Dönüm Noktası: OpenAI'dan 'Güvenilir İletişim Kişisi' Özelliği
Yapay zekanın hayatımıza girişi, sadece teknolojik bir devrim değil, aynı zamanda etik ve hukuki paradigmalarda da köklü değişimleri tetikliyor. Akıllı asistanlardan otonom araçlara, yapay zeka sistemleri her geçen gün daha karmaşık kararlar alıyor, ancak bu kararların sonuçları, özellikle insan sağlığı ve güvenliği söz konusu olduğunda, ciddi yasal ve etik soruları da beraberinde getiriyor. Yapay zeka devlerinden OpenAI'ın son hamlesi, bu kritik kavşakta hem dikkat çekiyor hem de hukuk profesyonelleri için önemli çıkarımlar barındırıyor. Şirket, yapay zeka sohbet robotu ChatGPT'de, kullanıcıların olası kendine zarar verme durumlarında devreye girecek yeni bir "Güvenilir İletişim Kişisi" özelliğini tanıttı. Peki, bu özellik sadece bir güvenlik önlemi mi, yoksa yapay zeka etiği ve sorumluluğu tartışmalarında yeni bir dönemin başlangıcı mı? Gelin, bu önemli adımı hukuk teknolojisi merceğinden birlikte inceleyelim.
Yapay Zeka, Etik ve Hukuki Sorumluluk Sarmalı
Yapay zeka sistemleri, sundukları muazzam potansiyelin yanı sıra, etik ve hukuki açıdan ciddi zorluklar da yaratmaktadır. Özellikle sağlık, finans veya güvenlik gibi hassas alanlarda kullanılan yapay zekaların, algoritmik yanlılık, veri gizliliği ihlalleri ve hatta doğrudan zarar verme potansiyeli, tüm dünyada regülatörlerin ve hukukçuların odak noktası haline gelmiştir. OpenAI'ın "Güvenilir İletişim Kişisi" özelliği de tam olarak bu bağlamda ele alınmalıdır.
Şirket, ChatGPT kullanıcılarının konuşmalarında kendine zarar verme eğilimleri ifade edildiğinde, belirlenen güvenilir bir üçüncü tarafı, yani bir arkadaşı veya aile üyesini uyaracak bu özelliği duyurdu. Özellik sayesinde, yetişkin bir ChatGPT kullanıcısı, hesabında güvendiği bir kişiyi "güvenilir iletişim kişisi" olarak atayabiliyor. Eğer sohbet potansiyel olarak kendine zarar verme eğilimine dönüşürse, OpenAI kullanıcıyı bu kişiyle iletişime geçmeye teşvik edecek. Aynı zamanda, otomatik olarak bu kişiye bir bildirim göndererek kullanıcıyla iletişime geçmesini önerecek. Bu adım, yapay zekanın insani durumlar karşısında gösterdiği "empati" veya "sorumluluk" olarak yorumlanabilirken, aslında derin hukuki endişelerin bir sonucu olarak ortaya çıkmıştır.
Bu adımın ardında yatan en önemli sebeplerden biri, OpenAI'ın bu tür hassas konulardaki önceki deneyimleri ve karşılaştığı yasal baskılar. Zira şirket, sohbet robotuyla konuştuktan sonra intihar eden kişilerin aileleri tarafından açılan bir dizi dava dalgasıyla karşı karşıya kaldı. Bazı aileler, ChatGPT'nin sevdiklerini intihara teşvik ettiğini veya hatta intihar planlamasına yardımcı olduğunu iddia ediyor. Bu iddialar, yapay zeka şirketlerinin ürünlerinin kullanıcılar üzerindeki potansiyel olumsuz etkileri ve bu konudaki hukuki sorumlulukları hakkında derinlemesine soruları gündeme getiriyor. Yapay zekanın bir insana intiharı teşvik etmesi veya planlamasına yardımcı olması, Türk Ceza Kanunu (TCK) kapsamında "İntihara Yönlendirme" (TCK m. 84) suçunu akıllara getirse de, yapay zekanın bu suçun faili olup olamayacağı veya geliştiricilerin ne ölçüde sorumlu tutulabileceği, yeni ve karmaşık bir tartışma alanıdır. Ancak, bu tür iddiaların varlığı bile, şirketlerin proaktif güvenlik önlemleri almasını ve etik standartları yükseltmesini zorunlu kılıyor.
OpenAI, şu anda potansiyel olarak zararlı olayları ele almak için otomasyon ve insan incelemesinin bir kombinasyonunu kullanıyor. Belirli konuşma tetikleyicileri, şirketin sistemini intihar eğilimleri konusunda uyarıyor ve bu bilgi daha sonra bir insan güvenlik ekibine aktarılıyor. Şirket, bu türden her bildirim aldığında olayın bir insan tarafından incelendiğini ve bu güvenlik bildirimlerini "bir saatten kısa sürede" incelemeye çalıştıklarını belirtiyor. Bu hızlı insan müdahalesi vaadi, olası yasal sorumlulukları azaltma ve kullanıcı güvenliğini önceliklendirme çabasının bir göstergesi. Ancak, yapay zeka sistemlerinin kendi başına bir "niyet" veya "bilinç" atfedilip atfedilemeyeceği, hukuki sorumluluk zincirinin nerede başlayıp nerede bittiği soruları, henüz tam olarak yanıtlanmış değil.
Güvenilir İletişim Kişisi: Bir Çözüm mü, Yeni Sorunların Habercisi mi?
"Güvenilir İletişim Kişisi" özelliği, OpenAI'ın bu tür kriz durumlarına müdahale etme biçimini geliştirmeye yönelik önemli bir adım olarak görülüyor. Eğer OpenAI'ın dahili ekibi durumu ciddi bir güvenlik riski olarak değerlendirirse, ChatGPT güvenilir iletişim kişisine e-posta, kısa mesaj veya uygulama içi bildirim yoluyla bir uyarı gönderecek. Bu uyarı, kısa ve öz olacak ve iletişim kişisini ilgili kişiyle iletişime geçmeye teşvik edecek. Şirket, kullanıcının gizliliğini korumak amacıyla, konuşmanın detayları hakkında herhangi bir bilgi içermeyeceğini özellikle vurguluyor.
Bu gizlilik vurgusu, özellikle Türkiye'de Kişisel Verilerin Korunması Kanunu (KVKK) kapsamında büyük önem taşıyor. KVKK madde 5 ve 6, kişisel verilerin işlenmesi için açık rıza veya kanunda belirtilen diğer şartların varlığını arar. Kendine zarar verme eğilimi, sağlık verileriyle ilişkilendirilebilecek hassas nitelikte kişisel veri kategorisine girebilir. Bu tür verilerin işlenmesi, KVKK madde 6 uyarınca çok daha sıkı koşullara tabidir. OpenAI'ın "güvenilir iletişim kişisi" özelliğinin isteğe bağlı olması ve kullanıcının rızasına dayanması, KVKK ilkeleri açısından olumlu bir yaklaşımdır. Ancak, bu rızanın ne kadar açık ve bilgilendirilmiş olduğu, yani kullanıcının bu özelliğin tam olarak nasıl çalıştığını ve hangi verilerin, kimlerle paylaşılacağını ne ölçüde anladığı, kritik bir soru işareti olarak kalabilir. Bildirimin içeriğinin sadece "kişiyle iletişime geçmesini teşvik etme" ile sınırlı olması ve sohbet detaylarını içermemesi, veri minimizasyonu ilkesine uygun bir yaklaşım olarak değerlendirilebilir ve KVKK ihlali riskini azaltabilir. Ancak, güvenilir iletişim kişisinin bu bilgiyi kötüye kullanması veya yanlış yorumlaması gibi senaryolar, yeni etik ve hukuki ikilemleri beraberinde getirme potansiyeline sahiptir.
Bu özellik, OpenAI'ın geçen Eylül ayında tanıttığı, ebeveynlere ergen çocuklarının hesapları üzerinde bir miktar gözetim yetkisi veren, çocuklarının "ciddi bir güvenlik riskiyle" karşı karşıya olduğuna inanıldığında ebeveynlere güvenlik bildirimleri gönderen koruma önlemlerini takip ediyor. ChatGPT, bir süredir kendine zarar verme eğilimi gösteren konuşmalarda profesyonel sağlık hizmetlerine başvurulması için otomatik uyarılar da içeriyor. Bu, yapay zekanın sadece bilgi sağlamakla kalmayıp, aynı zamanda kullanıcı refahını da önceleyen bir rol üstlenme çabasının göstergesi.
Ancak, bu koruyucu önlemlerin etkinliği konusunda bazı sınırlamalar mevcut. Öncelikle, "Güvenilir İletişim Kişisi" özelliği isteğe bağlı. Koruma belirli bir hesapta etkinleştirilse bile, herhangi bir kullanıcının birden fazla ChatGPT hesabı olabilir. OpenAI'ın ebeveyn kontrolleri de isteğe bağlı, bu da benzer bir sınırlama sunuyor. Bu durum, potansiyel risk altındaki kullanıcıların bu korumaları kolayca atlatabileceği veya şirketlerin bu önlemleri zorunlu kılma konusundaki tereddütlerini yansıtabilir.
OpenAI, duyuru gönderisinde, "Güvenilir İletişim Kişisi, OpenAI'ın zor anlarda insanlara yardımcı olan yapay zeka sistemleri inşa etme yönündeki daha geniş çabasının bir parçasıdır" diye yazdı. Şirket, yapay zeka sistemlerinin insanlar sıkıntı yaşadığında nasıl yanıt verdiğini iyileştirmek için klinisyenler, araştırmacılar ve politika yapıcılarla çalışmaya devam edeceğini belirtti. Bu yaklaşım, şirketlerin sadece teknolojik yeniliklere değil, aynı zamanda bu teknolojilerin toplumsal etkilerine de odaklanması gerektiği yönündeki genel beklentiyi ve "sorumlu yapay zeka" geliştirme taahhüdünü yansıtıyor.
Hukuk Profesyonelleri İçin Çıkarımlar: Yarının Yapay Zeka Hukuku Bugünden Şekilleniyor
Yapay zekanın bu denli hassas alanlara nüfuz etmesi, hukuk profesyonelleri için hem zorlukları hem de yeni fırsatları beraberinde getiriyor. Bu gelişmeler, hukukun geleceğini şekillendiren temel dinamikler olarak değerlendirilmeli:
1. Yeni Nesil Hukuki Sorumluluk ve İlliyet Bağı: Yapay zeka sistemlerinin kullanıcıya zarar verdiği iddia edilen durumlarda, üreticilerin, geliştiricilerin veya operatörlerin sorumluluğu nasıl belirlenecek? Tıpkı otonom araçlarda olduğu gibi, yapay zekanın "hataları" veya "tavsiyeleri" sonucunda oluşan zararlarda Türk Borçlar Kanunu kapsamında haksız fiil sorumluluğu, ürün sorumluluğu veya sözleşmeye aykırılık gibi ilkelere dayalı davaların yolu açılabilir. Ancak, intihar gibi eylemlerde illiyet bağının tespiti, yapay zekanın otonom veya yarı-otonom karar alma yeteneği göz önüne alındığında oldukça karmaşık olacaktır. Yapay zekaya bir tür "hukuki kişilik" atfedilip atfedilemeyeceği veya geliştiricilerin özen yükümlülüğünün sınırlarının ne olduğu gibi sorular, gelecek dava takipleri için emsal oluşturacak tartışmaların temelini oluşturmaktadır.
2. Kişisel Verilerin Korunması (KVKK) ve Hassas Veri İşleme: Hassas sağlık verilerine (dolaylı da olsa intihar eğilimi gibi) yönelik çıkarımlar yapan yapay zeka sistemleri, KVKK kapsamında sıkı denetim altında olmalıdır. Geliştiricilerin, veri toplama, işleme ve paylaşma süreçlerinde şeffaflığı sağlamaları, açık ve bilgilendirilmiş rızayı almaları ve veri minimizasyonu ilkelerini uygulamaları zorunludur. "Güvenilir İletişim Kişisi" gibi özelliklerin isteğe bağlı ve detayları gizli tutarak çalışması, KVKK uyumu açısından önemli adımlar olsa da, özellikle AB'deki Genel Veri Koruma Tüzüğü (GDPR) ve KVKK paralelinde, bu sistemlerin sürekli olarak yasal denetime tabi tutulması gerekecektir. "Açık rıza"nın gerçek anlamda bilgilendirilmiş olması, bu tür hassas verilerin işlenmesinde kritik öneme sahiptir.
3. Etik Kurallar ve Düzenlemeler: Yapay zekanın etiği, yasal düzenlemelerin öncüsü haline geliyor. Hukukçular, yapay zeka geliştirme süreçlerinde etik ilkelerin (şeffaflık, hesap verebilirlik, adillik, insan denetimi vb.) nasıl uygulanacağını belirleyen mevzuat taslakları üzerinde aktif rol oynamalıdır. AB Yapay Zeka Yasası gibi küresel girişimler, Türkiye için de bir yol haritası sunabilir. Bu alandaki Türkiye'nin Ulusal Yapay Zeka Stratejisi gibi belgeler, gelecekteki yasal düzenlemelerin zeminini hazırlamaktadır.
4. Emsal Kararlar ve İçtihatlar: Yapay zeka kaynaklı zararlarla ilgili ortaya çıkacak davalar, emsal kararlar oluşturarak gelecekteki yasal çerçevelerin şekillenmesinde kritik rol oynayacaktır. Hukukçuların bu tür davaları yakından takip etmeleri, hatta pro bono olarak katkı sağlamaları, gelişmekte olan bu hukuk dalına değerli katkılar sunacaktır. Türk hukuk sisteminde içtihatların, özellikle Yargıtay kararlarının, yeni hukuk alanlarının yorumlanmasında ve uygulanmasında rehber niteliği taşıyacağı unutulmamalıdır.
5. Hukuk Teknolojisi Entegrasyonu ve Yeni Danışmanlık Alanları: Yapay zeka etiği ve hukukundaki gelişmeler, hukuk teknolojisi (Legal Tech) alanında da yeni ürün ve hizmetlerin ortaya çıkmasına zemin hazırlıyor. Avukatlar, müvekkillerine yapay zeka uyumu ve sorumluluğu konusunda danışmanlık yaparken, aynı zamanda kendi çalışma alanlarında etik ve güvenli yapay zeka araçlarını entegre etme potansiyelini değerlendirmelidirler. Örneğin, otomatik sözleşme incelemesi veya Hukuk Muhakemeleri Kanunu (HMK) kapsamındaki elektronik keşif (e-discovery) süreçlerinde kullanılan yapay zekaların, veri gizliliğini ve adil yargılanma hakkını nasıl etkilediğini anlamak kritik önem taşımaktadır.
Sonuç olarak, OpenAI'ın "Güvenilir İletişim Kişisi" özelliği, yapay zeka etiği ve sorumluluğu konusunda atılan küçük ama anlamlı bir adımdır. Bu, sadece bir güvenlik özelliği olmanın ötesinde, yapay zeka şirketlerinin kullanıcılarına karşı artan etik ve hukuki yükümlülüklerini kabul etmeye başladıklarının bir işaretidir. Hukuk profesyonelleri olarak bizler, bu gelişmeleri sadece birer haber olarak değil, aynı zamanda hukukun geleceğini şekillendiren temel dinamikler olarak görmeli ve yapay zekanın getirdiği zorluklara yenilikçi ve kapsayıcı hukuki çözümler üretmeye hazır olmalıyız. Yarının yapay zeka hukuku, bugünün tartışmalarında ve atılan adımlarında yatıyor; bu nedenle, bu alandaki gelişmeleri yakından takip etmek ve aktif rol almak, mesleki geleceğimiz için hayati önem taşımaktadır.