Sağlık sorunlarınız için yapay zeka sohbet robotlarına başvurmak, düşündüğünüzden çok daha riskli olabilir. Dünyanın önde gelen siber güvenlik firmalarından ESET, bu tür araçların kullanımının ciddi güvenlik ve gizlilik tehditleri oluşturduğu konusunda uyarıyor. Özellikle ücretsiz ve yaygın olarak kullanılan sohbet robotları, yanlış tıbbi tavsiyelerin yanı sıra kişisel sağlık verilerinizin üçüncü taraflarla paylaşılmasına da yol açabilir.
Sağlık Alanındaki Yapay Zeka Hizmetleri ve Beraberinde Getirdiği Tehlikeler
Büyük teknoloji şirketleri, Copilot Health, ChatGPT Health ve Amazon HealthAI gibi hizmetlerle tüketici sağlık yapay zekası pazarına hızla giriş yapıyor. Bu araçlar, kullanıcıların tıbbi kayıtlarını yorumlamalarına, semptomlar ve tedavi seçenekleri hakkında sorular sormalarına olanak tanıyor. Ancak ESET’e göre, bu hizmetlerin bir doktorun yerini almasını beklemek büyük bir yanılgı. Risk, yalnızca yanlış tavsiye almakla sınırlı değil; aynı zamanda hassas verilerinizin, gizlilik korumaları ve yasal yükümlülükleri bir hastaneden farklı olan sistemler aracılığıyla ifşa edilmesi de söz konusu. Bir ABD hasta güvenliği kuruluşu, yapay zeka sohbet robotlarının kötüye kullanımını sağlık teknolojisindeki en büyük tehlike olarak tanımlıyor.
Yanıltıcı Tavsiyeler ve Halüsinasyon Tehlikesi
Microsoft’un verilerine göre, insanlar mobil cihazlarında en çok kendi sağlıkları ve sevdiklerinin sağlığı hakkında konuşuyor. Sohbet robotları ise 7/24 hizmet sunarak kendinden emin bir üslupla yanıtlar veriyor. Ancak Oxford Üniversitesi tarafından Nature Medicine dergisinde yayımlanan bir araştırma, bu araçların ciddi sorunlar barındırdığını ortaya koydu. Araştırmaya göre:
- Kullanıcılar, LLM’lerle hangi bilgileri paylaşmaları gerektiğini bilmiyor.
- LLM’ler, küçük farklılıklar içeren sorulara tamamen farklı cevaplar verebiliyor.
- Modeller hem doğru hem de yanlış tavsiyeler sunuyor, ancak kullanıcılar bunları ayırt etmekte zorlanıyor.
Çalışmanın başhekimi, yapay zekanın henüz bir hekimin rolünü üstlenmeye hazır olmadığını vurguluyor. Hastalar, semptomlarını bir dil modeline danışmanın yanlış teşhislere ve acil durumların fark edilememesine yol açabileceğini bilmeli.
Veri Gizliliği ve Siber Güvenlik Riskleri
Sağlıkla ilgili olmayan riskler de en az tıbbi hatalar kadar önemli. Hassas tıbbi bilgileri halka açık bir sohbet robotuyla paylaşmak, bu verilerin model eğitimi için kullanılması ve hatta başkalarına sızdırılması anlamına gelebilir. ESET, sağlık verilerinin kredi kartı bilgileri gibi değiştirilemeyeceğini, ömür boyu kişiye ait olduğunu ve bir kez paylaşıldığında kalıcı bir dijital kayıt haline geldiğini belirtiyor. Çoğu sağlık odaklı sohbet robotu, verileri eğitim amaçlı kullanmayacağını taahhüt etse de, üçüncü taraf veri paylaşımı konusunda aynı güvenceyi vermiyor. Bu da kişisel bilgilerinizin reklam verenler veya veri toplayıcıları tarafından ele geçirilmesine yol açabilir.
Sağlık Verileri Dolandırıcılar İçin Neden Cazip?
Sağlık verileri, dolandırıcılar için yüksek değere sahiptir çünkü değiştirilemez veya yeniden düzenlenemez; bu nedenle uzun süre geçerliliğini korur. Bu veriler, sahte sigorta talepleri oluşturmak, sizin adınıza tıbbi hizmet almak veya şantaj yapmak için kullanılabilir. Verilerinizi elinde bulunduran şirket sayısı arttıkça, siber saldırılara maruz kalma riski de katlanarak artar.
Yapay Zeka ile Paylaştıklarınıza Dikkat Edin: Güvende Kalmanın Yolları
ESET, sağlık sorunları için genel amaçlı botlardan uzak durulmasını ve sağlık alanına özel tasarlanmış botların tercih edilmesini öneriyor. Kullanmadan önce hizmetin veri işleme politikalarını kontrol edin: Verilerinizi eğitim için kullanıyor mu? Üçüncü taraflarla paylaşıyor mu? Bir gizlilik düzenlemesi kapsamında mı? Ayrıca, kaynak bağlantısı olmayan çıktılara körü körüne güvenmeyin ve mutlaka bir tıp uzmanına danışın. Gizliliğinizi korumak için şu adımları izleyin:
- Tıbbi belgeleri, laboratuvar sonuçlarını veya hassas dosyaları asla yüklemeyin.
- İsim, adres, sigorta bilgileri veya hasta numaraları gibi tanımlayıcı bilgileri girmekten kaçının.
- Eğitim ve sohbet geçmişi özelliklerini kapatın.
- Sadece gerekli minimum bilgiyi paylaşın.
- Yazdığınız her şeyin saklanabileceğini veya ifşa edilebileceğini varsayarak komutlarınızı buna göre ayarlayın.
Yapay zeka sohbet robotları, doktorunuza sormayı düşündüğünüz soruları beyin fırtınası yapmak için faydalı olabilir, ancak asla bir tıp uzmanının yerini almamalıdır. Sağlığınız söz konusu olduğunda, en güvenilir kaynak her zaman bir hekimdir.
Kaynak: Beyaz Haber Ajansı