Sohbet robotları düşünme, öğrenme ve çevremizdeki dünyayı algılama şeklimizi değiştiriyor.
Bu tür bir dönüşüm hayatın birçok alanında kendini gösteriyor ancak
belki de en hassas ve sıklıkla endişe verici olanlardan biri, sağlık hizmetleri
için üretken yapay zekâ (GenAI) araçlarının giderek artan kullanımı. Siber güvenlik
alanında dünya lideri olan ESET, tıbbi tavsiye almak için yapay zekâ kullanmanın
güvenlik ve gizlilik risklerine maruz bırakabileceği uyarısında bulundu.
Riskleri sıralayarak nasıl güvende kalınabileceğine yönelik önerilerini paylaştı.

Bir dizi ücretsiz yapay zekâ sohbet robotunun yanı sıra büyük teknoloji şirketleri,
kullanıcıların tıbbi kayıtlarını yorumlamalarına ve semptomları, laboratuvar
sonuçları ve tedavi seçenekleri hakkında sorular sormalarına yardımcı olan Copilot
Health, ChatGPT Health ve Amazon'un HealthAI gibi hizmetlerin lansmanıyla
tüketicilere yönelik sağlık yapay zekâ alanına girdi. Bir yapay zekâ aracının
doktorun rolünü üstlenmesini beklemek bazı riskler barındırıyor. Risk sadece kullanıcıların
yanlış tavsiye alması değil, aynı zamanda gizlilik korumaları, veri
paylaşım uygulamaları ve yasal yükümlülükleri bir doktor veya hastaneninkinden
farklı olabilecek sistemlerle son derece hassas kişisel bilgileri paylaşmaları
ve verilerinin beklenmedik kuruluşlara maruz kalmasıdır. Bir ABD hasta güvenliği
kuruluşuna göre, genel olarak yapay zekâ sohbet robotlarının kötüye kullanımı
şu anda sağlık teknolojisi alanında bir numaralı tehlike konumunda.

Microsoft'a göre, insanlar mobil cihazlarında diğer tüm konulardan daha fazla kendi
sağlıkları ve sevdiklerinin sağlığı hakkında konuşuyor. Sohbet robotları 7/24
hizmet veriyor ve her şeye bir cevap sunarken gergin hastaları rahatlatmaya
yardımcı olan kendinden emin bir üslupla konuşuyorlar. Ulusal sağlık sistemlerinin
giderek daha fazla baskı altında olduğu bir dönemde, birçok kişi tıbbi yardım
almaya karar vermeden önce muhtemelen yapay zekâ yardımıyla kendi kendine teşhis
koyacak. Ancak şimdiden bazı endişeler ortaya çıkmaya başladı. Bunlardan
ilki, halüsinasyonlar veya yanlış tavsiyeler. Şubat ayında Nature Medicine dergisinde
yayımlanan bir Oxford Üniversitesi araştırması şu bulguları ortaya koydu:
Kullanıcılar genellikle LLM ile hangi bilgileri paylaşmaları gerektiğini bilmiyorlar,
LLM'ler, kendilerine yöneltilen sorular çok az farklılık gösterse bile
çok farklı cevaplar veriyor ve modeller genellikle hem iyi hem de kötü tavsiyelerde
bulunuyor ancak kullanıcılar ikisini birbirinden ayırt etmekte zorlanıyor.
Çalışmanın başhekimine göre tüm bu heyecana rağmen yapay zekâ henüz bir hekimin
rolünü üstlenmeye hazır değil. Hastalar, semptomları hakkında büyük bir dil
modeline danışmanın tehlikeli olabileceğini, yanlış teşhisler ortaya çıkabileceğini
ve acil yardım gerektiğinde bunun farkına varılamayabileceğini bilmeli.

Yapay zekâ gizlilik riskleri
Bireylerin bir an durup düşünmelerini gerektirecek, sağlıkla ilgili olmayan riskler
de bulunuyor. Hassas tıbbi bilgileri halka açık bir sohbet robotuyla paylaşmanın,
verilerin modeli eğitmek için kullanılması ve dolayısıyla başkalarına aktarılması
anlamına gelebileceği. Kasıtsız da olsa modellerin kullanıcıları tarafından
girilen verileri yanlışlıkla ifşa ettiği biliniyor. Sağlık verileriniz,
bilgileri değiştirilip yeniden düzenlenirken dondurulabilen çalıntı bir kredi kartı
gibi değildir. Ömür boyu size aittir ve bir yapay zekâ aracıyla paylaşıldığında
kalıcı bir dijital kayıt hâline gelebilir. Sağlık odaklı başlıca sohbet robotlarının
çoğu, bu verileri eğitim amaçlı kullanmayacaklarına dair söz veriyor.
Eğitim gizlilik tablosunun sadece bir parçası ve hizmetler, üçüncü taraf veri
paylaşımı konusunda aynı sözleri vermeyebilir. Kişisel tıbbi bilgileriniz, model
sağlayıcısı ile sağlık hizmeti sağlayıcınız arasında yer alan bir üçüncü taraf
olan veri toplayıcısının eline geçebilir. Ayrıca genellikle kullanımdan önce
anonimleştirilse de doğrudan veya bu toplayıcılardan biri aracılığıyla reklam
verenlerle paylaşılabilir. Sağlık verileri olağanüstü hassastır ve anonimleştirme
her zaman tüm riskleri ortadan kaldırmaz.

İhlal riski katlandığında
Sağlık verileri, çeşitli nedenlerle dolandırıcılar tarafından yüksek oranda paraya
çevrilebilir. Genellikle değiştirilemediği veya yeniden düzenlenemediği için
uzun süre değerini korur. Sahte talepler sunmak veya sizin adınıza tıbbi hizmetler
almak için kullanılabilecek sigorta bilgilerini içerebilir. Size şantaj yapmak
için kullanılabilir. Bu verileri elinde bulunduran şirket sayısı ne kadar
fazla olursa hackerların bu verileri ele geçirip çalma olasılığı da o kadar artar.

Yapay zekâ ile paylaştıklarınıza dikkat edin
Bir sağlık sorunu konusunda endişeleriniz varsa genel amaçlı botlardan uzak durun
ve bunun yerine sağlıkla ilgili soruları yanıtlamak üzere özel olarak tasarlanmış
botları tercih edin. Hizmetin verilerinizi nasıl işlediğini açıklayıp açıklamadığını,
eğitim amacıyla girdiğiniz komutları kullanıp kullanmadığını, bilgileri
üçüncü taraflarla paylaşıp paylaşmadığını ve bir gizlilik düzenlemesi kapsamında
olup olmadığını kontrol edin. Doğrulamak için kaynak bağlantıları yoksa
çıktılara körü körüne güvenmeyin. Cevapları mutlak gerçek olarak kabul etmeyin:
Her zaman bir tıp uzmanına veya resmî bir web sitesine danışın.

Gizliliğinizi korumak için şunları göz önünde bulundurun:
- Araçların bu verileri nasıl işlediğini anlamadığınız sürece, tıbbi belgeleri,
laboratuvar sonuçlarını veya diğer hassas belgeleri bir yapay zekâ aracıyla asla
paylaşmayın, yüklemeyin.

- İsim, adres, sigorta bilgileri, hasta numaraları veya diğer tanımlayıcı bilgileri
girmekten kaçının.
- Eğitim ve sohbet geçmişi özelliklerinin kapalı olduğundan emin olun.
- Görev için gerekli olan minimum bilgiyi paylaşın.
- Yazdığınız her şeyin saklanabileceğini veya ifşa edilebileceğini varsayın ve komutlarınızı
buna göre ayarlayın.

Yapay zekâ sohbet robotları, doktorunuza soracağınız belirli bir durumla ilgili
soruları beyin fırtınası yapmak veya aşina olmadığınız bir tıbbi terimi açıklamak
için yararlı olabilir. Ancak tıbbi bakım için hazırlık yapmak amacıyla yapay
zekâ kullanmak ile tıbbi bakımın yerine yapay zekâyı kullanmak arasında büyük
bir fark vardır. Kendinden emin bir cevabı tanı olarak kabul etmeyin ve bir makine
sizi rahatlattığı için acil semptomları görmezden gelmeyin.


-iDeal Haber Merkezi-
- twitter.com/iDealDataHaber // www.idealdata.com.tr -